Сетевое оборудование NVIDIA Ethernet значительно ускоряет работу крупнейшего в мире суперкомпьютера с искусственным интеллектом, разработанного компанией xAI

2024-10-29T10:14:23+03:00

Сетевое оборудование NVIDIA Ethernet значительно ускоряет работу крупнейшего в мире суперкомпьютера с искусственным интеллектом, разработанного компанией xAI

Сетевое оборудование NVIDIA Ethernet ускоряет работу крупнейшего в мире суперкомпьютера с искусственным интеллектом, созданного xAI. Сегодня компания NVIDIA объявила о том, что суперкомпьютерный кластер Colossus компании xAI, состоящий из 100 000 графических процессоров NVIDIA Hopper Tensor Core в Мемфисе, штат Теннесси, достиг такого огромного масштаба благодаря использованию сетевой платформы NVIDIA Spectrum-X ™ Ethernet, которая разработана для обеспечения превосходной производительности для многопользовательских гипермасштабируемых фабрик ИИ с использованием стандартизированного Ethernet для своей сети удаленного прямого доступа к памяти (RDMA). Colossus, крупнейший в мире суперкомпьютер с искусственным интеллектом, используется для обучения семейства крупных языковых моделей Grok компании xAI, а чат-боты предлагаются в качестве функции для подписчиков X Premium. xAI находится в процессе удвоения размера Colossus до общего числа 200 000 графических процессоров NVIDIA Hopper . xAI и NVIDIA построили вспомогательное оборудование и современный суперкомпьютер всего за 122 дня, вместо типичного срока для систем такого размера, который может занять от нескольких месяцев до нескольких лет. С момента, когда первая стойка была выкатлена на пол, до начала обучения прошло 19 дней. При обучении чрезвычайно большой модели Grok Colossus достигает беспрецедентной производительности сети. На всех трех уровнях сетевой структуры система испытала нулевую задержку приложений или потерю пакетов из-за столкновений потоков. Она сохранила 95% пропускной способности данных, обеспечиваемой контролем перегрузки Spectrum-X. Такого уровня производительности невозможно достичь при масштабировании с помощью стандартного Ethernet, который создает тысячи коллизий потоков, обеспечивая при этом лишь 60% пропускной способности данных. Источник: www.globenewswire.com

Войти

Войдите, чтобы оставлять комментарии

Другие новости сообщества / НОВОСТИ АКЦИЙ