NVIDIA H200

Революционная архитектура Hopper

NVIDIA H200 представляет собой новый этап в развитии вычислений для искусственного интеллекта. Основанная на архитектуре Hopper, эта видеокарта обеспечивает беспрецедентную производительность для обучения и инференса больших языковых моделей. С 141 ГБ памяти HBM3e и пропускной способностью 4.8 ТБ/с, H200 вдвое превосходит предыдущее поколение по скорости обработки ИИ-задач.

Ключевые преимущества

• До 2x ускорение инференса LLM по сравнению с H100
• 141 ГБ HBM3e памяти для обработки самых больших моделей
• Поддержка FP8 precision для оптимизации производительности
• 4-е поколение Tensor Cores с Transformer Engine
• Энергоэффективность в 5x выше предыдущих поколений

Сценарии применения