Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества СБЕРБАНК: НОВОСТИ

СБЕРБАНК: НОВОСТИ

СБЕРБАНК: последние новости сегодня

Какие перспективы открывает новая технология ускорения машинного обучения от Сбера и МФТИ?

5 075

    Ускорение распределённого обучения AI: исследование Сбербанка и МФТИ. Специалисты Центра практического искусственного интеллекта Сбербанка и исследователи из МФТИ представили исследование, которое может значительно ускорить обучение распределённых и федеративных моделей машинного обучения. Работа «Ускоренные методы со сжатыми коммуникациями для гомогенных задач распределённой оптимизации» была принята на крупную международную конференцию AAAI’25 (Association for the Advancement of Artificial Intelligence). Современные вызовы в области искусственного интеллекта (AI) требуют извлечения сложных зависимостей из больших объёмов обучающих выборок. Сегодня нейросетевые модели содержат миллиарды параметров, повышая интерес к распределённым постановкам, в которых для ускорения процесса обучения данные разделены между тысячами машин. В таком сценарии основная часть времени обучения тратится на обмен информацией между устройствами. При этом, если коммуникации организованы неэффективно, распределённый подход может оказаться даже медленнее, чем классический централизованный. Основная идея исследования — сокращение времени, которое тратится на обмен данными между устройствами в распределённых системах обучения больших AI-моделей. За счёт использования гомогенности локальных выборок и сжатия передаваемой информации метод позволяет реже синхронизировать устройства и передавать меньше данных при общении, не теряя в качестве модели. Это особенно важно для задач, где пропускная способность соединения ограничена, а задержки в передаче данных замедляют процесс обучения. Разработка найдёт применение в компаниях, использующих распределённое обучение, — от финансового сектора до телекома и промышленности. Метод сокращает затраты на вычислительные ресурсы и ускоряет внедрение AI-моделей на практике. Он открывает путь к более эффективным алгоритмам и более динамичному развитию AI-технологий. Глеб Гусев, директор Центра практического искусственного интеллекта Сбербанка: Исследование решает ключевую проблему распределённого обучения — коммуникационные издержки. Мы показали, как использовать гомогенность данных в сочетании с техниками сжатия для снижения нагрузки на сеть за счёт более редкого обмена информацией сервера с устройствами. Такой подход не только ускоряет процесс обучения больших AI-моделей, но и сокращает энергозатраты. Наша работа открывает новые возможности для масштабирования искусственного интеллекта и будет полезна организациям, которые работают с большими распределёнными системами. В будущем такие методы помогут сделать AI-технологии более доступным и эффективным. Александр Безносиков, к. ф.-м.н., доцент кафедры МОУ, директор Исследовательского центра агентных систем искусственного интеллекта МФТИ: Нашей целью было объединить современные подходы к эффективным коммуникациям — ускорение, сжатие и учёт похожести данных — в единый алгоритм с чёткими теоретическими гарантиями. Для смещённых компрессоров построен алгоритм, имеющий рекордную коммуникационную сложность за счёт правильной адаптации фреймворка компенсации ошибки к ускоренной схеме с локальными шагами. Проведенная нами эмпирическая валидация показывает, что при правильной настройке методов можно радикально сократить время обучения без потерь в точности. Это особенно важно для практического внедрения искусственного интеллекта в ограниченных по ресурсам средах, таких как сети с edge-устройствами. [Больше новостей находятся в нашем мобильном приложении MONDIARA](https://mondiara.com/) Скачайте бесплатное приложение в [App Store](https://apps.apple.com/ru/app/m-o-n-d-i-a-r-a/id6475953453) или [Google Play](https://play.google.com/store/apps/details?id=com.mondiara.app) Источник: www.sberbank.ru

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / СБЕРБАНК: последние новости сегодня

    EXPRESS NEWS

    • Кремль не исключает разговора Путина и Трампа по итогам поездки переговорщиков США в Москву и в Киев, сообщил Песков
      Кремль не исключает разговора Путина и Трампа по итогам поездки переговорщиков США в Москву и в Киев, сообщил Песков

    • Трамп в Truth Social назвал Луну собственностью США

    • Старший сын Трампа прибыл в Таллин, пишет газета Postimees. Цель его визита неизвестна. Посольство США в Эстонии в ответ на запросы со стороны Postimees и портала Delfi отказалось комментировать поездку Дональда Трампа-младшего
      Старший сын Трампа прибыл в Таллин, пишет газета Postimees. Цель его визита неизвестна. Посольство США в Эстонии в ответ на запросы со стороны Postimees и портала Delfi отказалось комментировать поездку Дональда Трампа-младшего

    • Факт встречи Путина с Уиткоффом и Кушнером означает атмосферу доверия, по крайней мере, на этом канале общения, отметил Песков в разговоре с журналистом «Вестей» Зарубиным

    • Трехсторонняя встреча лидеров РФ, США и Китая не исключается, заявил ТАСС Рябков
      Трехсторонняя встреча лидеров РФ, США и Китая не исключается, заявил ТАСС Рябков

    • РФ и США надо развивать взаимодействие в тех сферах экономики и бизнеса, где это отвечает взаимным интересам, заявил ТАСС Силуанов

    • Трамп заявил, что США могут «очень скоро» нанести удар по предполагаемому иранскому ядерному объекту близ Натанза под горой Коланг Газ-Ла
      Трамп заявил, что США могут «очень скоро» нанести удар по предполагаемому иранскому ядерному объекту близ Натанза под горой Коланг Газ-Ла

    • Москва в ближайшее время примет ответные меры на закрытие генконсульства РФ в Бонне, заявил посол в Германии Нечаев

    • Председатель Верховного суда России Игорь Краснов прибыл с официальным визитом в Нью-Дели, передает корреспондент ТАСС
      Председатель Верховного суда России Игорь Краснов прибыл с официальным визитом в Нью-Дели, передает корреспондент ТАСС

    • Трамп заявил, что США в ближайшее время возобновят продажи боеприпасов союзникам

    • Пашинян заявил, что Армения не собирается вводить визы для граждан России
      Пашинян заявил, что Армения не собирается вводить визы для граждан России

    • Китай готов развивать обмены с РФ в сферах культуры, туризма и образования, сообщил вице-премьер Госсовета КНР

    • РФ за полноформатное восстановление отношений с США, сообщил Путин. Контакты РФ с администрацией США продолжаются, президент видит позитивный настрой Трампа на конструктивную работу
      РФ за полноформатное восстановление отношений с США, сообщил Путин. Контакты РФ с администрацией США продолжаются, президент видит позитивный настрой Трампа на конструктивную работу

    • Трамп заявил, что для бизнеса было бы отлично поддерживать хорошие отношения с Россией

    • Трамп заявил, что готов провести встречу с Путиным, когда стороны будут готовы заключить мирное соглашение по Украине
      Трамп заявил, что готов провести встречу с Путиным, когда стороны будут готовы заключить мирное соглашение по Украине

    • ВС США уничтожили 28 кораблей в Ормузском проливе в ночь на 1 сентября, заявил Трамп в интервью автору подкаста Lt. Dan Дэну Патрику

    • ЕК предложила включить в 22-й пакет санкций 1600 российских физлиц и компаний, заявила Каллас
      ЕК предложила включить в 22-й пакет санкций 1600 российских физлиц и компаний, заявила Каллас

    • Трамп думает над тем, чтобы назвать Ормузский пролив в свою честь. «Как и сама Америка, Ормузский пролив станет "горячее", чем когда-либо!» — отметил американский президент

    • «Большое число» россиян могут внести в новые санкционные списки ЕС, которые предложила ФРГ. Об этом заявил глава МИД страны Йоханн Вадефуль

    • Добыча нефти в Венесуэле может превысить 1,5 млн баррелей в сутки в первой половине следующего года. Об этом заявил Крис Райт в интервью телеканалу CNBC
      Добыча нефти в Венесуэле может превысить 1,5 млн баррелей в сутки в первой половине следующего года. Об этом заявил Крис Райт в интервью телеканалу CNBC

    • Каллас заявила, что вызвала исполняющего обязанности постпреда России при ЕС в связи с инцидентом в Лейпциге

    • Ушаков опроверг, что Путин не захотел встречаться с главой ЦРУ, и подчеркнул в разговоре с журналистом Life Юнашевым, что таких планов и не было

    • В ФРГ делают всё, чтобы изничтожить всё позитивное, что было накоплено в отношениях с РФ десятилетиями. Об этом заявила Мария Захарова на полях ВЭФ

    • Бессент отметил важность контактов с РФ для урегулирования на Украине
      Бессент отметил важность контактов с РФ для урегулирования на Украине
    • Контакты между спецслужбами осуществляются всегда, заявил Путин, говоря о визите главы ЦРУ
      Контакты между спецслужбами осуществляются всегда, заявил Путин, говоря о визите главы ЦРУ

    • США уничтожат Иран в случае новых ответных атак, утверждает Трамп в интервью Fox News. Он считает, что иранские власти «не останавливаются», и назвал их действия «безумными» и «глупыми»

    • Германия идет по дальнейшему пути эскалации, обвинения в отношении России после инцидента в Лейпциге не подкреплены никакой аргументацией со стороны Берлина, заявил Дмитрий Песков
      Германия идет по дальнейшему пути эскалации, обвинения в отношении России после инцидента в Лейпциге не подкреплены никакой аргументацией со стороны Берлина, заявил Дмитрий Песков

    • США нанесли удар по аэропорту в Джирофте на юге Ирана, сообщила иранская гостелерадиокомпания

    • Пашинян назвал очень хорошей встречу с Путиным в Бишкеке и заявил о намерении в ближайшее время совершить визит в Москву
      Пашинян назвал очень хорошей встречу с Путиным в Бишкеке и заявил о намерении в ближайшее время совершить визит в Москву
    • Трамп заявил, что не за горами проведение крупнейшей атаки на Иран, после которой почти ничего не останется
      Трамп заявил, что не за горами проведение крупнейшей атаки на Иран, после которой почти ничего не останется
    • Встреча Путина и Эрдогана завершилась, продлившись около полутора часов, передает корреспондент ТАСС
      Встреча Путина и Эрдогана завершилась, продлившись около полутора часов, передает корреспондент ТАСС
    • Новым гендиректором Apple стал Джон Тернус
      Новым гендиректором Apple стал Джон Тернус

    • Министры обороны ЕС не приняли никаких конкретных решений о предоставлении ракет для Patriot Киеву, заявила Каллас

    • Уиткофф и Кушнер активизируют переговорные усилия на украинском направлении, сообщил источник ТАСС

    • США применили против Ирана меньше оружия, чем передали Киеву при Байдене, заявил Трамп
      США применили против Ирана меньше оружия, чем передали Киеву при Байдене, заявил Трамп

    • Трамп, говоря о приглашении России на мероприятия G20, заявил, что хочет поладить со всеми: «Одна из причин моего успеха заключается в том, что я со всеми лажу»

    • Лионель Месси завершил выступления за сборную Аргентины по футболу. Об этом он сообщил в соцсетях
      Лионель Месси завершил выступления за сборную Аргентины по футболу. Об этом он сообщил в соцсетях

    • Токаев назначил и. о. вице-премьера Аиду Балаеву зампредом Совета безопасности Казахстана. Секретарь Совбеза Гизат Нурдаулетов освобожден от должности, говорится в указе президента.

    • Токаев подписал указ о назначении Ерлана Карина на пост вице-президента Казахстана, сообщает пресс-служба
      Токаев подписал указ о назначении Ерлана Карина на пост вице-президента Казахстана, сообщает пресс-служба

    • США в течение недели введут санкции против одного из банков для давления на Иран, заявил американский министр финансов Скотт Бессент

    Вы уверены, что хотите выйти из аккаунта?