Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Какие перспективы открывает новая технология ускорения машинного обучения от Сбера и МФТИ?

5 071

    Ускорение распределённого обучения AI: исследование Сбербанка и МФТИ. Специалисты Центра практического искусственного интеллекта Сбербанка и исследователи из МФТИ представили исследование, которое может значительно ускорить обучение распределённых и федеративных моделей машинного обучения. Работа «Ускоренные методы со сжатыми коммуникациями для гомогенных задач распределённой оптимизации» была принята на крупную международную конференцию AAAI’25 (Association for the Advancement of Artificial Intelligence). Современные вызовы в области искусственного интеллекта (AI) требуют извлечения сложных зависимостей из больших объёмов обучающих выборок. Сегодня нейросетевые модели содержат миллиарды параметров, повышая интерес к распределённым постановкам, в которых для ускорения процесса обучения данные разделены между тысячами машин. В таком сценарии основная часть времени обучения тратится на обмен информацией между устройствами. При этом, если коммуникации организованы неэффективно, распределённый подход может оказаться даже медленнее, чем классический централизованный. Основная идея исследования — сокращение времени, которое тратится на обмен данными между устройствами в распределённых системах обучения больших AI-моделей. За счёт использования гомогенности локальных выборок и сжатия передаваемой информации метод позволяет реже синхронизировать устройства и передавать меньше данных при общении, не теряя в качестве модели. Это особенно важно для задач, где пропускная способность соединения ограничена, а задержки в передаче данных замедляют процесс обучения. Разработка найдёт применение в компаниях, использующих распределённое обучение, — от финансового сектора до телекома и промышленности. Метод сокращает затраты на вычислительные ресурсы и ускоряет внедрение AI-моделей на практике. Он открывает путь к более эффективным алгоритмам и более динамичному развитию AI-технологий. Глеб Гусев, директор Центра практического искусственного интеллекта Сбербанка: Исследование решает ключевую проблему распределённого обучения — коммуникационные издержки. Мы показали, как использовать гомогенность данных в сочетании с техниками сжатия для снижения нагрузки на сеть за счёт более редкого обмена информацией сервера с устройствами. Такой подход не только ускоряет процесс обучения больших AI-моделей, но и сокращает энергозатраты. Наша работа открывает новые возможности для масштабирования искусственного интеллекта и будет полезна организациям, которые работают с большими распределёнными системами. В будущем такие методы помогут сделать AI-технологии более доступным и эффективным. Александр Безносиков, к. ф.-м.н., доцент кафедры МОУ, директор Исследовательского центра агентных систем искусственного интеллекта МФТИ: Нашей целью было объединить современные подходы к эффективным коммуникациям — ускорение, сжатие и учёт похожести данных — в единый алгоритм с чёткими теоретическими гарантиями. Для смещённых компрессоров построен алгоритм, имеющий рекордную коммуникационную сложность за счёт правильной адаптации фреймворка компенсации ошибки к ускоренной схеме с локальными шагами. Проведенная нами эмпирическая валидация показывает, что при правильной настройке методов можно радикально сократить время обучения без потерь в точности. Это особенно важно для практического внедрения искусственного интеллекта в ограниченных по ресурсам средах, таких как сети с edge-устройствами. [Больше новостей находятся в нашем мобильном приложении MONDIARA](https://mondiara.com/) Скачайте бесплатное приложение в [App Store](https://apps.apple.com/ru/app/m-o-n-d-i-a-r-a/id6475953453) или [Google Play](https://play.google.com/store/apps/details?id=com.mondiara.app) Источник: www.sberbank.ru

    Пост взят с международного финтех-медиа ресурса


    Другие новости сообщества / НОВОСТИ АКЦИЙ РОССИИ

    EXPRESS NEWS

    • 🗣 Пакистанский посол в Москве Файсал Нияз Тирмизи заявил, что у президента России Владимира Путина всегда есть приглашение посетить Исламабад. «Да, всегда», — сказал он в интервью RTVI, отвечая на соответствующий вопрос. Дипломат подчеркнул, что президента России очень уважают в Пакистане

    • ❗️ Согласно заявлению, эсминцы USS Frank E. Peterson (DDG 121) и USS Michael Murphy (DDG 112) прошли через Ормузский пролив и действовали в Персидском заливе в рамках более широкой миссии по обеспечению полного очищения пролива от морских мин, ранее установленных Корпусом стражей исламской революции Ирана (КСИР)

    • ⚡️ В переговорах США и Ирана объявлен двухчасовой перерыв. По сведениям агентства Tasnim, переговоры, которые сначала планировались как однодневные, могут продолжаться и завтра.

    • 🚫 The Wall Street Journal: эпоха свободных морей подходит к концу, отныне всем придётся платить. «Пошлины» Ирана в Ормузском проливе подорвали многолетнее морское доминирование США. Взимая плату и вводя ограничения, Иран фактически взял под контроль торговые потоки

    • Президент Джибути Исмаил Омар Гелле выиграл выборы на шестой срок
      Президент Джибути Исмаил Омар Гелле выиграл выборы на шестой срок

      ⚡️ , получив 97,81% голосов. Джибути — страна площадью 23 тысячи квадратных километров на северо-востоке Африки с населением около миллиона человек, которая занимает очень важное место в мировой логистике, частично контролируя Баб-эль-Мандебский пролив

    • Встреча премьер-министра Пакистана с иранской делегацией
      Встреча премьер-министра Пакистана с иранской делегацией
    • 🇮🇷 Заседание иранской переговорной делегации в Исламабаде

    • ‼️ Великобритания собирается воевать с западной цивилизацией. Такое мнение выразил спецпредставитель президента РФ по инвестиционно-экономическому сотрудничеству с зарубежными странами, глава РФПИ Кирилл Дмитриев

    • ⚡️ Американский телеканал CBS выступил с утверждением, что консультации в Пакистане с участием делегаций США и Ирана начались. По словам его источников из числа американских должностных лиц, «консультации в Исламабаде начались». «Неясно, во сколько начались переговоры и являются ли они прямыми», — отмечается в сообщении

    • ❌ Соединенные Штаты пока не достигли с Ираном никаких договоренностей по обозначенным исламской республикой красным линиям. Об этом сообщил американский телеканал CBS со ссылкой на источник из числа представителей правительства США

    • ⚡️ Индийское судно Jag Vikram благополучно прошло через Ормузский пролив. Об этом журналистам сообщили в министерстве портов и судоходства Индии. По данным ведомства, на борту судна находится около 20,4 тыс. тонн груза сжиженных углеводородных газов (СУГ), экипаж составляет 24 моряка. Прибытие судна в порт индийского Мумбаи ожидается 15 апреля

    • ⚠️ Премьер-министр Великобритании ненавидит своих граждан и разрушает их жизнь отсутствием топлива и массовой миграцией. Такое мнение выразил спецпредставитель президента РФ по инвестиционно-экономическому сотрудничеству с зарубежными странами, глава РФПИ Кирилл Дмитриев

    • ⚡️ Соединенные Штаты не соглашались на размораживание каких-либо иранских активов. Об этом сообщил американский телеканал CBS со ссылкой на источник в правительстве США. Ранее агентство Reuters со ссылкой на иранский высокопоставленный источник передавало, что Вашингтон согласился разблокировать активы Ирана — CBS

    • 🚨 Сбои в Ормузском проливе привели к росту затрат на строительство и к сокращению глобального предложения жилья. Эти последствия сохранятся даже после окончания конфликта. Пока маршруты морских перевозок остаются нестабильными, рост стоимости строительных материалов, логистики и цепочек поставок может удерживать высокие цены на жильё в мировом масштабе, — The National Interest

    • ⚠️ Эксперты считают, что ракетные и беспилотные удары Ирана по американским базам в регионе резко поставили под сомнение эффективность этих баз и превратили их из инструмента сдерживания в уязвимые цели. Широкое военное присутствие США в регионе не только не гарантирует безопасность стран-хозяев, но и подвергает их риску прямых атак, — Middle East Eye

    • Переговорный стол в Исламабаде
      Переговорный стол в Исламабаде
    • ⚠️ Группа, представляющая интересы аэропортовой отрасли, предупредила, что если Ормузский пролив не будет «существенно и устойчиво» открыт в течение ближайших трёх недель, Европа может столкнуться с системной нехваткой авиационного топлива, - CNN

    • ⚡️ Трамп представил проект новой 76-метровой триумфальной арки, которую он намерен построить в столице США Вашингтоне

    • ‼️ США во время переговоров согласились разблокировать замороженные активы Ирана, - Reuters. Высокопоставленный иранский источник издания сообщил, что шаг «напрямую связан с обеспечением безопасного прохода через Ормузский пролив»

    • ‼️ Иранская делегация на предстоящих в Исламабаде переговорах с США наделена полномочиями для принятия окончательных решений и не обязана дополнительно консультироваться с Тегераном. Об этом сообщила газета The New York Times (NYT) со ссылкой на три высокопоставленных источника в делегации исламской республики

    • ⚡️ Вице-президент США Джей Ди Вэнс прибыл в отель Serena в Исламабаде, где в субботу должны пройти американо-иранские переговоры с участием Пакистана. Об этом сообщила газета The New York Times

    • ❌ Посол Израиля в Вашингтоне Йехиэль Лайтер заявил, что не будет обсуждать с ливанской коллегой Надой Хаммаде-Муаввад прекращение огня с шиитским движением «Хезболлах» на переговорах 14 апреля под эгидой США

    • Переговоры Ирана и США в Исламабаде начнутся после 15:00 по Москве. Делегации США и Ирана находятся в Исламабаде и готовятся к переговорам
      Переговоры Ирана и США в Исламабаде начнутся после 15:00 по Москве. Делегации США и Ирана находятся в Исламабаде и готовятся к переговорам
    • 🗣 Дональд Трамп заявил, что Ормузский пролив «откроется автоматически», так как в противном случае Иран «не заработает ни копейки», и вновь добавляет, что пролив откроется «довольно скоро»

    • 📣 Fox News сообщил, что около 3200 судов, включая 800 нефтяных танкеров и грузовых судов, остановились в районе Ормузского пролива и ожидают безопасного прохода. Примерно 20 000 моряков в регионе Персидского залива в настоящее время ожидают разъяснений относительно безопасного прохода через этот стратегический водный путь.

    • 📣 MS NOW: контроль Ирана над Ормузским проливом ценнее его ядерной программы. Иран получил в распоряжение инструмент, который демонстрирует провал военного плана администрации Трампа. Страна, устанавливая контроль над Ормузским проливом и взимая сборы с судов, усиливает своё влияние на мировую торговлю

    • 🗣 Марко Рубио: «Через 5 лет уже не будет необходимости говорить о санкциях. Потому что слишком многие страны будут осуществлять расчёты в валютах, отличных от доллара, и у нас больше не будет возможности вводить против них санкции»

    • 💥 Гражданам Республики Корея раздадут от $67 до $405 из-за кризиса вокруг Ирана. Проект дополнительного бюджета одобрило Национальное собрание Республики Корея. Финансовую помощь получат примерно 35 млн человек, или 70% населения, остальным выплата не положена, поскольку они обладают более высокими доходами. Сумма помощи зависит не только от уровня благосостояния, но и от места жительства

    • ⚡️ Дональд Трамп узнает через 24 часа, насколько успешными будут переговоры с Ираном. Об этом американский президент заявил в интервью The New York Post. Глава Белого дома отметил, что США загружают корабли новыми боеприпасами на случай, если переговоры провалятся

    • ⚠️ Иран обвинил США в невыполнении двух условий перемирия. Спикер иранского парламента Мохаммад Багер Галибаф заявил, что все еще не реализованы две меры: прекращение огня в Ливане и разблокировка иранских активов

    • 🗣 «Трамп в отчаянии. Мы играем с проигрышными картами. Это уничтожило бы гораздо больше, чем просто президентство. Он это знает. Он угрожал уничтожением, потому что эскалация потерпела неудачу. К вечеру он отступает. По сути, он говорит: «Я признаю поражение!». Известный политолог профессор Джон Миршаймер не согласен с Трампом по вопросу Ирана. Говорит, что козырей нет как раз у США

    • ✍️ «Иранцы, похоже, не понимают, что у них нет никаких козырей, кроме краткосрочного вымогательства у мира с помощью международных водных путей. Единственная причина, по которой они сегодня живы, — это ведение переговоров», — Дональд Трамп продолжает писать в сторону Ирана посты, которые вряд ли будут способствовать мирному урегулированию на Ближнем Востоке

    • 🚫 Мореплавание через Ормузский пролив по-прежнему ограничено, и большинство последних переходов ограничены судами, связанными с Ираном, — сообщает Bloomberg

    • 🛢 США, вероятно, продлят отказ от санкций, позволяющий осуществлять некоторые закупки российской нефти, на которые наложены санкции; текущий отказ от санкций сроком на 30 дней истекает 11 апреля, сообщает Reuters

    • 🗣 «Сопротивление будет продолжаться до самого последнего вздоха», — генеральный секретарь ливанской «Хезболлы» Наим Кассем

    • Премьер-министр Пакистана Шариф: «Переговоры между США и Ираном начнутся в субботу. Иран и США готовы к переговорам и урегулированию разногласий путем обсуждений. Этот этап переговоров является решающим в стремлении к постоянному прекращению огня»
      Премьер-министр Пакистана Шариф: «Переговоры между США и Ираном начнутся в субботу. Иран и США готовы к переговорам и урегулированию разногласий путем обсуждений. Этот этап переговоров является решающим в стремлении к постоянному прекращению огня»
    • 🔺 Евросоюз нарастил импорт российского СПГ на фоне энергетического кризиса на Ближнем Востоке. В первом квартале этого года поставки с «Ямал СПГ» в страны Евросоюза выросли на 17% по сравнению с аналогичным периодом 2025-го – до 5 млн тонн, пишет FT. ЕС потратил на газ этого предприятия €2,88 млрд

    • ⚠️🇮🇷 Трамп готовит военную операцию, если переговоры по Ирану провалятся, — интервью NYP. Трамп: «Мы загружаем корабли лучшими боеприпасами, лучшим оружием, которое когда-либо производилось. Если мы не заключим сделку, мы будем использовать их — и мы будем использовать их очень эффективно»

    • 🚫🛢 Иран откроет Ормузский пролив после окончания конфликта с США и Израилем, заявил эмиссар верховного лидера

    • 🗣 Премьер-министр Венгрии Виктор Орбан обратился к нации, заявив избирателям, что он — беспроигрышный вариант и что его отставка поставит под угрозу существование страны, — Bloomberg

    Вы уверены, что хотите выйти из аккаунта?