Ускорители AMD Instinct MI300X доступны в облачной инфраструктуре Oracle для ресурсоемких приложений ИИ
Ускорители AMD Instinct MI300X доступны в облачной инфраструктуре Oracle для ресурсоемких приложений ИИ. Сегодня компания AMD (NASDAQ: AMD) объявила, что Oracle Cloud Infrastructure (OCI) выбрала ускорители AMD Instinct™ MI300X с открытым программным обеспечением ROCm™ для поддержки своего новейшего экземпляра OCI Compute Supercluster под названием BM.GPU.MI300X.8. Для моделей ИИ, которые могут включать сотни миллиардов параметров, OCI Supercluster с AMD MI300X поддерживает до 16 384 графических процессоров в одном кластере, используя ту же сверхбыструю технологию сетевой структуры, которая используется другими ускорителями в OCI. Разработанные для выполнения требовательных рабочих нагрузок ИИ, включая вывод и обучение большой языковой модели (LLM), требующих высокой пропускной способности с лидирующей емкостью памяти и полосой пропускания, эти экземпляры OCI bare metal уже были приняты компаниями, включая Fireworks AI. «AMD Instinct MI300X и открытое программное обеспечение ROCm продолжают набирать обороты как надежные решения для поддержки самых критических рабочих нагрузок OCI AI», — сказал Эндрю Дикманн, корпоративный вице-президент и генеральный менеджер подразделения Data Center GPU Business компании AMD. «Поскольку эти решения все больше выходят на растущие рынки с интенсивным использованием ИИ, их сочетание принесет пользу клиентам OCI благодаря высокой производительности, эффективности и большей гибкости проектирования систем». «Возможности вывода ускорителей AMD Instinct MI300X дополняют обширный выбор высокопроизводительных экземпляров bare metal от OCI, чтобы устранить накладные расходы виртуализированных вычислений, обычно используемых для инфраструктуры ИИ», — сказал Дональд Лу, старший вице-президент по разработке программного обеспечения Oracle Cloud Infrastructure. «Мы рады предложить больше выбора для клиентов, стремящихся ускорить рабочие нагрузки ИИ по конкурентоспособной цене». Источник: www.globenewswire.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ