Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества ALIBABA [новости]

ALIBABA [новости]

НОВОСТИ АКЦИЙ КНР

Как Alibaba сократила потребность в GPU Nvidia на 82%?

2 524

    Alibaba Cloud объявила о сокращении использования графических процессоров Nvidia на 82%, внедряя новую систему объединения ресурсов Компания Alibaba Group Holding представила инновационное решение для оптимизации вычислений, которое значительно сократило потребность в графических процессорах Nvidia для работы с моделями искусственного интеллекта. Система Aegaeon, разработанная в рамках сотрудничества Alibaba Cloud и Пекинского университета, успешно прошла бета-тестирование. Она уменьшила количество необходимых графических процессоров Nvidia H20 для обслуживания моделей с 72 миллиардами параметров с 1192 до 213. Об этом стало известно на 31-м симпозиуме по принципам операционных систем (SOSP) в Сеуле, Южная Корея. Исследователи отмечают, что Aegaeon — первая система, выявившая чрезмерные затраты на обслуживание параллельных рабочих нагрузок больших языковых моделей (LLM). Alibaba Cloud, подразделение Alibaba, базирующееся в Ханчжоу, специализируется на искусственном интеллекте и облачных сервисах. Главный технический директор компании, Чжоу Цзинжэнь, является одним из авторов статьи. Крупные поставщики облачных услуг, такие как Alibaba Cloud и Volcano Engine от ByteDance, обслуживают тысячи моделей ИИ одновременно. Однако только несколько моделей, таких как Qwen и DeepSeek от Alibaba, используются активно, в то время как большинство остаются невостребованными. Это приводит к неэффективному использованию ресурсов. Исследователи обнаружили, что 17,7% графических процессоров заняты обслуживанием всего 1,35% запросов на платформе Alibaba Cloud. Для повышения эффективности многие компании пытаются объединить мощности графических процессоров, позволяя одному устройству обслуживать несколько моделей. В рамках проекта Aegaeon исследователи разработали систему автоматического масштабирования на уровне токенов. Это позволяет графическому процессору переключаться между различными моделями в процессе генерации данных. Результаты впечатляют: один графический процессор может поддерживать до семи моделей, что значительно больше, чем в альтернативных системах. Кроме того, система сократила задержку при переключении между моделями на 97%. Alibaba Cloud уже внедрила решение Aegaeon на своей торговой площадке Bailian, обслуживающей корпоративные модели Qwen. Графический процессор H20 от Nvidia, разработанный специально для китайского рынка, стал объектом расследования китайских регулирующих органов из-за возможных рисков безопасности. В ответ на это крупные китайские компании, такие как Huawei Technologies и Cambricon Technologies, активно разрабатывают собственные графические процессоры. Ранее основатель и генеральный директор Nvidia Дженсен Хуан заявил о падении позиций компании на китайском рынке передовых чипов до «нуля». Пост взят с соцсети [M O N D I A R A](https://i.mondiara.com/) 👉 вот ссылка на канал: https://i.mondiara.com/i/c/alibaba_news Скачать в [App Store](https://apps.apple.com/ru/app/m-o-n-d-i-a-r-a/id6475953453) Скачать в [Google Play](https://play.google.com/store/apps/details?id=com.mondiara.app) Валюта расчёта - Ваши добрые мысли! Спасибо, что с нами! Источник: www.finance.yahoo.com

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / НОВОСТИ АКЦИЙ КНР

    EXPRESS NEWS

    • Советник премьер-министра Ирака Мазхар Салех призвал ОПЕК пересмотреть квоты на добычу нефти и справедливо распределить финансовые убытки после кризиса в Ормузском проливе

    • Глава ЕЦБ Кристин Лагард раскритиковала стейблкоины, номинированные в евро, заявив, что они ослабляют финансовую стабильность евро и сужают трансмиссионный канал денежно-кредитной политики

    • Аракчи: ракетный арсенал Ирана вырос до 120% от уровня на момент начала американской военной операции
      Аракчи: ракетный арсенал Ирана вырос до 120% от уровня на момент начала американской военной операции
    • Дмитриев посоветовал Мерцу «поступать противоположно тому, что он делает сейчас», чтобы спасти экономику Германии на фоне кризиса и не стать Стармером
      Дмитриев посоветовал Мерцу «поступать противоположно тому, что он делает сейчас», чтобы спасти экономику Германии на фоне кризиса и не стать Стармером

    • Глава МИД Ирана: каждый раз, когда на повестке дня оказывается дипломатическое решение, США выбирают безрассудную военную авантюру

    • Кир Стармер заявил, что не планирует уходить в отставку, несмотря на неудачные для Лейбористской партии муниципальные выборы, – Sky News

    • Цены на нефть будут продолжать резко колебаться, пока не станет ясно, достигнут ли Иран и США соглашение о прекращении войны, — Citigroup

    • В марте и апреле перед важными заявлениями Трампа по Ирану на биржах была сделана серия сделок на падение цен на нефть на общую сумму $7 млрд, — Reuters

    • Центральное командование США в субботу объявило, что морская блокада против Ирана продолжает действовать на полную мощность. В своем заявлении CENTCOM также сообщило, что с 13 апреля 58 судов были перенаправлены на альтернативные маршруты, а 4 судна подверглись атакам и были выведены из строя

    • Financial Times:: руководство Toyota считает, что продолжение нестабильности на морских маршрутах и колебаний цен на энергоносители представляет угрозу их финансовым показателям в текущем году

    • Министр иностранных дел Ирана в телефонном разговоре со своим турецким коллегой, ссылаясь на недавние авантюристические действия США в Персидском заливе и риторику американских официальных лиц, заявил, что деструктивный подход американской стороны ослабляет дипломатический процесс и углубляет недоверие иранской нации к намерениям США

    • Посол и постоянный представитель Ирана при ООН в письме на имя Генерального секретаря и Председателя Совета Безопасности призвал их четко и недвусмысленно осудить незаконные действия Соединенных Штатов, включая морскую блокаду Ирана

    • В День победы над Германией бразильская армия чтит память ветеранов Бразильского экспедиционного корпуса (FEB), которые сражались в числе союзнических сил в Италии, чтобы освободить страну от немецких войск

    • «Росатом» не будет работать с таким «непотребным» поставщиком, как Siemens, заявил Лихачев. В начале 2025 года стало известно, что «Росатом» намерен предъявить судебные претензии за непоставленное компанией Siemens оборудование на зарубежные стройки российских атомщиков. Как ранее заявлял Лихачев, шансы взыскания убытков за срыв поставок достаточно высоки

    • Лидер партии «Тиса» Петер Мадьяр избран новым премьер-министром Венгрии, следует из голосования в парламенте
      Лидер партии «Тиса» Петер Мадьяр избран новым премьер-министром Венгрии, следует из голосования в парламенте

    • Поездка представителей администрации США, в том числе Уиткоффа в Москву пока не готовится, сообщил Песков

    • В трехсторонних переговорах по Украине взята пауза, о следующем раунде договоренностей не достигнуто, заявил Ушаков
      В трехсторонних переговорах по Украине взята пауза, о следующем раунде договоренностей не достигнуто, заявил Ушаков

    • Обама в панике пытается выйти из тени, заявил Дмитриев. Так он прокомментировал опубликованное премьер-министром Канады видео, в котором тот приветствовал экс-президента США на встрече в Торонто: «Президент Обама, стоящий за мистификацией Russiagate (якобы имевшее место вмешательство РФ в выборы президента США 2016 года — прим. ТАСС), в панике выходит из тени, надеясь, что международная известность обеспечит ему дополнительную защиту»

    • Лукашенко поздравил граждан России с Днем Победы, назвав его великим праздником
      Лукашенко поздравил граждан России с Днем Победы, назвав его великим праздником
    • Песков назвал День Победы святым праздником для всех, рассказал о праздничном настроении. Его слова показали в эфире Первого канала
      Песков назвал День Победы святым праздником для всех, рассказал о праздничном настроении. Его слова показали в эфире Первого канала

    • Для Владимира Путина 9 Мая является не только «днем гордости со слезами на глазах», но и непростым рабочим днем, наполненным большим количеством мероприятий. При этом каждый год Путин выступает на Параде Победы с масштабной речью, отметил Песков в беседе с журналистом «Вестей» Зарубиным

    • Владимир Путин своим указом присвоил звание заслуженного артиста РФ актеру театра "Ленком Марка Захарова" Алексею Маклакову
      Владимир Путин своим указом присвоил звание заслуженного артиста РФ актеру театра "Ленком Марка Захарова" Алексею Маклакову

    • Bloomberg: «После ночного столкновения США и Ирана вблизи водного пути и атак на активы друг друга в регионе, Ормузский пролив со вторника фактически закрыт для коммерческих судов»

    • Россия согласилась поддержать инициативу Трампа о продлении перемирия с Украиной до 11 мая. Договоренности по продлению перемирия и обмену пленными достигнуты в ходе телефонных контактов с администрацией президента США. Важно, что инициатива президента Трампа по перемирию и обмену пленными приурочена именно к 81-й годовщине Победы, заявил Ушаков
      Россия согласилась поддержать инициативу Трампа о продлении перемирия с Украиной до 11 мая. Договоренности по продлению перемирия и обмену пленными достигнуты в ходе телефонных контактов с администрацией президента США. Важно, что инициатива президента Трампа по перемирию и обмену пленными приурочена именно к 81-й годовщине Победы, заявил Ушаков
    • Дмитрий Щербинин назначен заместителем министра обороны РФ, сообщается на сайте Минобороны
      Дмитрий Щербинин назначен заместителем министра обороны РФ, сообщается на сайте Минобороны

    • Объем замороженных российских активов в депозитарии Euroclear по итогам первого квартала 2026-го оценивается в 200 миллиардов евро, – сообщают РИА Новости

    • Ушаков даст разъяснения в связи со словами Трампа о продлении перемирия между Россией и Украиной до 11 мая, заявил Песков

    • Трамп выразил надежду на то, что перемирие между РФ и Украиной может положить начало завершению конфликта. Он считает, что стороны с каждым днем все ближе к урегулированию конфликта

    • Переговоры по Украине не должны быть для Киева «ширмой», заявила Мария Захарова ТАСС
      Переговоры по Украине не должны быть для Киева «ширмой», заявила Мария Захарова ТАСС
    • Фицо заявил, что рад быть в Москве на праздновании Дня Победы и иметь возможность отдать дань павшим солдатам Красной Армии
      Фицо заявил, что рад быть в Москве на праздновании Дня Победы и иметь возможность отдать дань павшим солдатам Красной Армии
    • Находящийся в Москве Фицо выразил мнение, что конфликт вокруг Украины близится к концу
      Находящийся в Москве Фицо выразил мнение, что конфликт вокруг Украины близится к концу
    • Парламент Болгарии избрал экс-президента страны Румена Радева новым премьером
      Парламент Болгарии избрал экс-президента страны Румена Радева новым премьером
    • Пентагон обнародовал архивы данных об НЛО. Они выложены на сайте Военного министерства США
      Пентагон обнародовал архивы данных об НЛО. Они выложены на сайте Военного министерства США

    • Реактор для второго энергоблока АЭС «Бушер» готов уже более чем на 60%, сообщил Лихачев. Он добавил, что строительство АЭС в Иране возобновляется, работают порядка 2,2 тыс. иранских строителей. «Росатом» готов отгрузить ключевое оборудование в 2027 году

    • Москва с сожалением восприняла отказ сухогрузу Panormitis в разгрузке зерна в порту Хайфы. Такой шаг со стороны израильской компании-импортера был предпринят явно под давлением Киева, заявила Мария Захарова. 30 апреля сухогруз Panormitis получил отказ в разгрузке российского зерна в порту Хайфы

    • Трамп назвал «легким тычком» последние удары США по объектам в Иране. При этом на вопрос журналистки ABC News Рэйчел Скотт, означают ли новые удары срыв режима прекращения огня, Трамп ответил, что перемирие остается в силе

    • Генеральный секретарь Международной морской организации (ИМО) Арсенио Домингес: около 1500 судов застряли в Персидском заливе вследствие продолжения закрытия Ормузского пролива с 28 февраля. В настоящее время около 20 000 членов экипажа и почти 1500 судов застряли в водах Персидского залива. Морской транспорт перевозит более 80% мировых потребительских товаров

    • Первый южнокорейский нефтяной танкер, прошедший через Ормузский пролив во время сокращения ограничений, достиг пункта назначения

    • На фоне усиления напряжённости в районе Ормузского пролива в ночь накануне наблюдался резкий рост нефтяных котировок. Цена американской нефти West Texas Intermediate (WTI) приблизилась к отметке $96 за баррель, в то время как нефть марки Brent поднялась выше $100 за баррель

    • Дэнни Ситринович, исследователь Института исследований национальной безопасности Израиля, отметил, что даже если блокада Ормузского пролива продлится месяцами, она не приведет к капитуляции Ирана. Более того, по его словам, конфликт может только укрепить Тегеран

    Вы уверены, что хотите выйти из аккаунта?