Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Ускорители AMD Instinct MI300X обеспечивают поддержку рабочих нагрузок службы Microsoft Azure OpenAI и новых виртуальных машин Azure ND MI300X V5

15
Ускорители AMD Instinct MI300X обеспечивают поддержку рабочих нагрузок службы Microsoft Azure OpenAI и новых виртуальных машин Azure ND MI300X V5

Ускорители AMD Instinct MI300X обеспечивают поддержку рабочих нагрузок службы Microsoft Azure OpenAI и новых виртуальных машин Azure ND MI300X V5. Сегодня на выставке Microsoft Build компания AMD (NASDAQ: AMD) продемонстрировала свои новейшие комплексные вычислительные и программные возможности для клиентов и разработчиков Microsoft. Используя решения AMD, такие как ускорители AMD Instinct™ MI300X, открытое программное обеспечение ROCm™, процессоры и программное обеспечение Ryzen™ AI, а также медиа-ускорители Alveo™ MA35D, Microsoft может предоставить мощный набор инструментов для развертывания на основе искусственного интеллекта на многочисленных рынках. Новые виртуальные машины Microsoft Azure ND MI300X теперь общедоступны, предоставляя таким клиентам, как Hugging Face, доступ к впечатляющей производительности и эффективности для самых требовательных рабочих нагрузок искусственного интеллекта. «Программный стек AMD Instinct MI300X и ROCm используется в службах Azure OpenAI Chat GPT 3.5 и 4, которые являются одними из самых требовательных рабочих нагрузок искусственного интеллекта в мире», — сказал Виктор Пэн, президент AMD. «Благодаря общедоступности новых виртуальных машин Azure клиенты ИИ получают более широкий доступ к MI300X для предоставления высокопроизводительных и эффективных решений для приложений ИИ». «У Microsoft и AMD богатая история партнерства на различных вычислительных платформах: сначала ПК, затем специальные микросхемы для Xbox, HPC, а теперь и искусственный интеллект», — сказал Кевин Скотт, главный технический директор и исполнительный вице-президент подразделения искусственного интеллекта Microsoft. «В недавнем прошлом мы осознали важность сочетания мощного вычислительного оборудования с оптимизацией системы и программного обеспечения, необходимой для обеспечения потрясающей производительности и ценности искусственного интеллекта. Вместе с AMD мы добились этого, используя ROCm и MI300X, предоставив клиентам и разработчикам Microsoft AI возможность достичь отличных результатов по соотношению цена-качество для самых передовых и передовых моделей с интенсивными вычислениями. Мы стремимся к нашему сотрудничеству с AMD, чтобы продолжать продвигать прогресс в области искусственного интеллекта». Развитие искусственного интеллекта в Microsoft. Серия виртуальных машин Azure ND MI300x v5, о которой ранее было объявлено в предварительной версии в ноябре 2023 года, теперь доступна в Центральном регионе Канады, чтобы клиенты могли выполнять свои рабочие нагрузки искусственного интеллекта. Обладая лучшей в отрасли производительностью , эти виртуальные машины обеспечивают впечатляющую емкость HBM и пропускную способность памяти, что позволяет клиентам размещать более крупные модели в памяти графического процессора и/или использовать меньше графических процессоров, что в конечном итоге помогает сэкономить электроэнергию, затраты и время на поиск решения. Эти виртуальные машины и программное обеспечение ROCm™, которое их поддерживает, также используются для рабочих нагрузок Azure AI Production, включая службу Azure OpenAI, предоставляющую клиентам доступ к моделям GPT-3.5 и GPT-4. Благодаря AMD Instinct MI300X и проверенному и готовому открытому программному стеку ROCm Microsoft может достичь наилучшего соотношения цены и производительности при рабочих нагрузках вывода GPT. Помимо производственных рабочих нагрузок искусственного интеллекта Azure, одним из первых клиентов, использующих эти виртуальные машины, является Hugging Face. Перенеся свои модели на виртуальные машины ND MI300X всего за один месяц, компания Hugging Face смогла добиться впечатляющей производительности по соотношению цена/производительность для своих моделей. В рамках этого клиенты виртуальных машин ND MI300X могут переносить модели Hugging Face на виртуальные машины для простого и эффективного создания и развертывания приложений NLP. «Тесное сотрудничество между Microsoft, AMD и Hugging Face в экосистеме открытого программного обеспечения ROCm позволит пользователям Hugging Face запускать сотни тысяч моделей искусственного интеллекта, доступных в Hugging Face Hub в Azure, с графическими процессорами AMD Instinct без изменения кода, что упростит работу Клиенты Azure должны создавать искусственный интеллект с использованием открытых моделей и открытого исходного кода», — сказал Жюльен Саймон, главный евангелист Hugging Face. Кроме того, разработчики могут использовать программное обеспечение AMD Ryzen AI для оптимизации и развертывания выводов искусственного интеллекта на AMD Райзен ИИ ПК с питанием. Программное обеспечение Ryzen AI позволяет приложениям запускаться на нейронном процессоре (NPU), построенном наAMD XDNA™ архитектура, первая специализированная микросхема для обработки искусственного интеллекта на процессоре Windows x86 2 . Хотя запуск моделей ИИ только на ЦП или графическом процессоре может быстро разряжать батарею, на ноутбуке с процессором Ryzen модели ИИ работают на встроенном NPU, высвобождая ресурсы ЦП и графического процессора для других вычислительных задач. Это помогает значительно увеличить срок службы батареи и позволяет разработчикам эффективно и локально запускать рабочие нагрузки LLM AI и параллельные приложения на устройстве. Развитие видеосервисов и корпоративных вычислений. Microsoft выбралаМедиа-ускоритель AMD Alveo™ MA35Dдля поддержки своих обширных рабочих нагрузок потокового видео в реальном времени, включая Microsoft Teams, видео SharePoint и другие. Alveo MA35D, специально созданный для поддержки интерактивных потоковых сервисов в реальном времени, поможет Microsoft обеспечить высококачественное видео за счет оптимизации рабочих нагрузок по обработке видео, включая транскодирование, декодирование, кодирование и потоковую передачу с адаптивным битрейтом (ABR). Используя ускоритель Alveo MA35D в серверах на базе процессоров AMD EPYC™ четвертого поколения, Microsoft получает: Возможность консолидации серверов и облачной инфраструктуры . Используя высокую плотность каналов, энергоэффективность и возможности обработки видео со сверхнизкой задержкой Alveo MA35D, Microsoft может значительно сократить количество серверов, необходимых для поддержки больших объемов интерактивных потоковых приложений в реальном времени. Впечатляющая производительность — Alveo MA35D оснащен блоками обработки видео на базе ASIC, поддерживающими стандарт сжатия AV1 и оптимизацию качества видео с поддержкой AI, которые помогают обеспечить плавное и плавное воспроизведение видео. Готовая к будущему технология AV1 — Alveo MA35D с возможностью обновления для поддержки новых стандартов, таких как AV1, предоставляет Microsoft решение, которое может адаптироваться к меняющимся требованиям к обработке видео. Источник: www.globenewswire.com

Пост взят с международного финтех-медиа ресурса


Другие новости сообщества / АКЦИЙ США - последние новости на сегодня - MONDIARA

EXPRESS NEWS

  • Рубио поблагодарил Россию за освобождение Гилмана
    Рубио поблагодарил Россию за освобождение Гилмана
  • Вопрос о лишении права голоса Армении в ОДКБ может быть рассмотрен на саммите организации 11 ноября. Об этом заявил в интервью ТАСС замглавы МИД РФ Михаил Галузин

  • Трамп вернулся к выжидательному подходу в отношении Ирана, пишет The Wall Street Journal со ссылкой на неназванных должностных лиц администрации США

  • Трамп заявил, что намерен добиваться от Ирана компенсации, в том числе за гибель американских военнослужащих. Он отметил, что такое намерение возникло после того, как представители Ирана потребовали компенсировать ущерб, нанесенный за последние пять месяцев военного конфликта

  • Никаких официальных переговоров с ФРГ по Украине в Баку не было, заявил ТАСС замглавы МИД РФ Галузин
    Никаких официальных переговоров с ФРГ по Украине в Баку не было, заявил ТАСС замглавы МИД РФ Галузин
  • В Шанхае предупредили о подтоплении некоторых районов города на 15-30 см из-за вызванного тайфуном ливня

  • ЕС столкнулся с энергокризисом, который сам же и спровоцировал, отказавшись от газа из РФ, заявил Дмитриев. По его словам, Германия заполнила газохранилища лишь на 47,6% (при обычном показателе 75%), а Нидерланды — всего на 38,5% (при 77%)

  • Экс-председатель Верховного суда Венгрии Андраш Бака принял предложение занять пост президента страны, заявил Мадьяр

  • Уиткофф и Кушнер могут посетить Москву на следующей неделе, сообщает источник ТАСС
    Уиткофф и Кушнер могут посетить Москву на следующей неделе, сообщает источник ТАСС
  • Абелардо де ла Эсприэлья вступил в должность президента Колумбии, церемония инаугурации транслировалась в эфире телеканала Caracol

  • Пашинян заявил, что Армения понимает, что одновременное членство в ЕАЭС и ЕС невозможно
    Пашинян заявил, что Армения понимает, что одновременное членство в ЕАЭС и ЕС невозможно
  • «Нам всегда нужно больше». Трамп допустил, что ВС США необходимо пополнить запасы вооружений

  • Трамп допустил, что военная операция США против Ирана вскоре будет завершена
    Трамп допустил, что военная операция США против Ирана вскоре будет завершена
  • Глава дипслужбы Ватикана монсеньор Галлахер планирует в конце августа посетить Москву, сообщил ТАСС ватиканский источник

  • «Достается победителю». Трамп назвал венесуэльскую нефть трофеем США. По словам американского лидера, во время операции в Каракасе США действовали «по-старинке», получив за счет венесуэльской нефти «во много раз больше, чем потратили»
    «Достается победителю». Трамп назвал венесуэльскую нефть трофеем США. По словам американского лидера, во время операции в Каракасе США действовали «по-старинке», получив за счет венесуэльской нефти «во много раз больше, чем потратили»
  • Трамп считает, что глава Пентагона Хегсет ввел его в заблуждение относительно запасов вооружений США, истощенных в войне против Ирана. Об этом сообщила The Washington Post со ссылкой на источники в американской администрации

  • Трамп заявил, что США продолжают консультации с Ираном и рассчитывают на достижение договоренностей

  • Трамп заявил, что США и Иран провели «очень хороший» день переговоров. Он считает, что их результат может стать известен в течение 48 часов
    Трамп заявил, что США и Иран провели «очень хороший» день переговоров. Он считает, что их результат может стать известен в течение 48 часов
  • Израиль не уйдет из сектора Газа до полного разоружения ХАМАС, заявил Нетаньяху
    Израиль не уйдет из сектора Газа до полного разоружения ХАМАС, заявил Нетаньяху
  • Мигранты из Марокко продвигаются вглубь ЕС, чтобы поблагодарить фон дер Ляйен за ее политику, благоприятствующую иммиграции. Об этом написал в X Дмитриев

  • Владимир Путин подписал закон о регулировании цифровых валют и цифровых прав
    Владимир Путин подписал закон о регулировании цифровых валют и цифровых прав
  • Нелегальная миграция и энергетика убивают Европу, заявил Трамп

  • Глава МИД России Сергей Лавров возглавит делегацию РФ на сессии Генассамблеи ООН в Нью-Йорке
    Глава МИД России Сергей Лавров возглавит делегацию РФ на сессии Генассамблеи ООН в Нью-Йорке
  • Сурен Папикян переназначен на должность министра обороны Армении, следует из указа президента

  • США сохраняют готовность к «невиданным» ударам по Ирану, заявил Хегсет
    США сохраняют готовность к «невиданным» ударам по Ирану, заявил Хегсет
  • Трамп заявил, что отменил удар по Ирану по просьбе Катара, ОАЭ и Саудовской Аравии, а также самой исламской республики

  • Переговоры между Ираном и Оманом об обеспечении судоходства в Ормузском проливе находятся на завершающей стадии, сообщил Арагчи
    Переговоры между Ираном и Оманом об обеспечении судоходства в Ормузском проливе находятся на завершающей стадии, сообщил Арагчи
  • Премьер Молдавии Тофан заявил, что покинет пост в 2029 году и после уйдет из политики: «Я не политик и не собираюсь становиться политиком»

  • Пашинян подписал решение об отставке действующего правительства. Документ будет отправлен на подпись президенту страны Ваагну Хачатуряну

  • Трамп заявил, что согласился отменить запланированный мощный удар по Ирану ради достижения договоренностей
    Трамп заявил, что согласился отменить запланированный мощный удар по Ирану ради достижения договоренностей
  • UEFA проголосует за отстранение Джанни Инфантино от должности президента FIFA, если он откажется уйти в отставку сам. Об этом сообщает The Telegraph

  • Джанни Инфантино вскоре может покинуть пост президента FIFA, сообщил журналист Ромен Молина. По информации источника, Инфантино потерял поддержку чиновников FIFA и контроль над организацией
    Джанни Инфантино вскоре может покинуть пост президента FIFA, сообщил журналист Ромен Молина. По информации источника, Инфантино потерял поддержку чиновников FIFA и контроль над организацией
  • США планируют пока продолжать наносить удары по Ирану, заявил Трамп. «Мы очень жестко будем наносить по ним удары», — сказал он на заседании президентского кабинета

  • Число погибших из-за землетрясения в Японии выросло до 28 человек
    Число погибших из-за землетрясения в Японии выросло до 28 человек
  • «В этом составе мы встречаемся в последний раз». Пашинян поблагодарил правительство Армении, которое провело последнее заседание перед отставкой

  • Россия стала обладателем пяти комплектов медалей на Играх ООН, в том числе завоевала золото в волейболе и серебро в футболе, передает корреспондент ТАСС

  • Нетаньяху на встрече с Трампом выразил сомнения относительно возможности заключения сделки с Ираном. Об этом сообщил со ссылкой на источники портал Axios
    Нетаньяху на встрече с Трампом выразил сомнения относительно возможности заключения сделки с Ираном. Об этом сообщил со ссылкой на источники портал Axios
  • Экс-президент Аргентины Кристина Фернандес де Киршнер, отбывающая наказание по делу о коррупции, сообщила, что обратилась с жалобой на свой приговор в Комитет по правам человека ООН

  • США намерены вновь нанести серьезные удары по Ирану, но выясняют, возможна ли договоренность, заявил Трамп
    США намерены вновь нанести серьезные удары по Ирану, но выясняют, возможна ли договоренность, заявил Трамп
  • Референдум по части вступления в ЕС может быть организован лишь тогда, когда шаги по членству Армении в сообщество станут более предметными. Об этом заявил Пашинян

Вы уверены, что хотите выйти из аккаунта?