Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Новость по компании ЯНДЕКС

5

    Новость: положительная. Яндекс выложил в опенсорс свою библиотеку YaFSDP — она до 25% ускоряет обучение больших языковых моделей. Библиотека Яндекса рассчитана в первую очередь на большие языковые модели, хотя она подходит и для других нейросетей — например, таких, которые генерируют изображения. YaFSDP позволяет сократить расходы на оборудование для обучения моделей — это особенно важно для стартапов и, к примеру, научных проектов. Яндекс открыл для всех библиотеку YaFSDP. Она значительно ускоряет обучение больших языковых моделей — как собственной разработки, так и сторонних, с открытым с исходным кодом. Библиотека даёт ускорение до 25% — результат зависит от архитектуры и параметров нейросети. С помощью YaFSDP также можно расходовать до 20% меньше ресурсов графических процессоров (GPU), которые требуются для обучения. Теперь YaFSDP могут использовать компании, разработчики и исследователи по всему миру. Одна из сложностей в обучении больших языковых моделей — это недостаточная загрузка каналов коммуникации между графическими процессорами. YaFSDP это решает. Библиотека оптимизирует использование ресурсов GPU на всех этапах обучения: pre-training (предварительное), supervised fine-tuning (с учителем), alignment (выравнивание модели). Благодаря этому YaFSDP задействует ровно столько графической памяти, сколько нужно для обучения, при этом коммуникацию между GPU ничто не замедляет. Яндекс разработал YaFSDP в процессе обучения своей генеративной модели нового поколения YandexGPT 3. Компания уже протестировала библиотеку на сторонних нейросетях с открытым исходным кодом. Например, если бы YaFSDP использовалась применительно к модели LLaMA 2, этап предварительного обучения на 1024 графических процессорах сократился бы с 66 до 53 дней. Исходный код YaFSDP уже есть на GitHub. Посмотреть подробности замеров можно в репозитории GitHub, а почитать про разработку библиотеки — на Хабре. Источник: www.yandex.ru

    Пост взят с международного финтех-медиа ресурса


    Другие новости сообщества / ЯНДЕКС - последние новости сегодня - MONDIARA

    EXPRESS NEWS

    • 7 июня в Армении прошли выборы в Национальное собрание — однопалатный парламент республики. От них зависело, сможет ли Никол Пашинян сохранить за собой пост премьер-министра. По предварительным данным, его партия побеждает

    • Трамп заявил, что Иран и Израиль стремятся к прекращению огня. Он также отметил, что США сохранят морскую блокаду Ирана до достижения итогового соглашения
      Трамп заявил, что Иран и Израиль стремятся к прекращению огня. Он также отметил, что США сохранят морскую блокаду Ирана до достижения итогового соглашения
    • Премьер Армении Никол Пашинян опубликовал видео в своем канале под песню группы Queen «We are the Champions»
      Премьер Армении Никол Пашинян опубликовал видео в своем канале под песню группы Queen «We are the Champions»
    • Аэропорт Домодедово принимает и отправляет самолеты по согласованию с соответствующими органами, возможны корректировки в расписании, сообщила Росавиация
      Аэропорт Домодедово принимает и отправляет самолеты по согласованию с соответствующими органами, возможны корректировки в расписании, сообщила Росавиация
    • Трамп заявил, что Иран и Израиль стремятся к прекращению огня. Он отметил, что США сохранят морскую блокаду Ирана до достижения итогового соглашения

    • Сложно представить, как сейчас договариваться с киевским режимом. Так Песков прокомментировал призывы Стармера, Мерца и Макрона

    • ЕС сегодня впервые ввел санкции против Ирана за угрозы свободе судоходства, сообщила Каллас
      ЕС сегодня впервые ввел санкции против Ирана за угрозы свободе судоходства, сообщила Каллас
    • Нетаньяху придется принять любую сделку США с Ираном, заявил Трамп в интервью Financial Times
      Нетаньяху придется принять любую сделку США с Ираном, заявил Трамп в интервью Financial Times
    • Выборы в Армении прошли в обстановке беспрецедентного давления на оппозицию и вмешательства со стороны Запада, заявила Мария Захарова

    • Пашинян заявил о победе своей политической силы на парламентских выборах в Армении. Премьер-министр республики подчеркнул, что партия «Гражданский договор» единолично сформирует правительство

    • Трамп заявил, что недоволен ударами Израиля по Бейруту. Его слова приводит журналист Fox News Трей Йингст. Президент США заявил, что позвонит Нетаньяху и потребует не атаковать Иран в ответ на ракетный обстрел Израиля. Об этом сообщил 12-й канал израильского ТВ

    • Трамп предложил Ирану прекратить удары по Израилю и заключить сделку. Его слова приводит журналист Fox News Трей Йингст
      Трамп предложил Ирану прекратить удары по Израилю и заключить сделку. Его слова приводит журналист Fox News Трей Йингст
    • «Для чего тогда я создал самую сильную армию в мире?» Трамп заявил о невозможности гарантировать отсутствие военных конфликтов с американским участием. Он добавил, что, задействовав военных в ситуации с Ираном, «делает большую услугу» как Соединенным Штатам, так и всему миру

    • Кишинев действует против народа, загоняя Молдавию в состав Румынии, идея «пресловутого объединения» не пользуется поддержкой в молдавском обществе. Об этом заявил ТАСС на ПМЭФ Михаил Галузин. Большинство населения Молдавии «идентифицируют свою страну как независимое суверенное государство», отметил он

    • США изымут высокообогащенный уран при любом исходе переговоров с Тегераном, заявил Трамп: «Мы придем [за ураном] с ними или без них. При этом по нам никто не будет стрелять. Если мы не заключим сделку, тогда мы устраним их очень жестко военным путем»

    • Европе следует начать переговоры с Россией, инициатором такого диалога должен выступить Евросоюз, а в случае неудачи — «евротройка» (Великобритания, Германия и Франция), заявил президент Финляндии Стубб

    • Стубб заявил, что не верит домыслам западных спецслужб об угрозе нападения России на страны Балтии. Он подчеркнул, что внимательно читает все отчеты спецслужб
      Стубб заявил, что не верит домыслам западных спецслужб об угрозе нападения России на страны Балтии. Он подчеркнул, что внимательно читает все отчеты спецслужб
    • Москва сохраняет закрытые контакты с Киевом, сообщил Ушаков журналисту «Вестей» Зарубину
      Москва сохраняет закрытые контакты с Киевом, сообщил Ушаков журналисту «Вестей» Зарубину
    • «Нам необходимо реформироваться». Пашинян признал, что Армения пока не готова к статусу кандидата для вступления в Европейский союз. При этом премьер указал, что Ереван будет стремиться к тому, чтобы как можно быстрее осуществить реформы. Он также заявил, что Армению не могут лишить членства в ЕАЭС

    • РОссия и Украина договорились об обмене необходимыми документами для получения выплат гражданами обеих стран. Об этом в интервью «Вестям» сообщила уполномоченный по правам человека в России Яна Лантратова

    • Пашинян потеряет пост премьера, считает бывший министр обороны Армении. «Я так думаю, он не будет премьер-министром. Самое большее, что он может получить, — это какой-то блок в парламенте», — выразил свое мнение в интервью RT Аршак Карапетян

    • Разведывательное управление министерства обороны США (РУМО) повысило до наивысшего уровень угрозы израильского шпионажа за американскими чиновниками на фоне конфликта с Ираном, сообщил телеканал NBC News со ссылкой на информированные источники

    • ВМС США перехватили 129 связанных с Ираном судов за время блокады, сообщило в пятницу Центральное командование ВС США на Ближнем Востоке (CENTCOM)

    • Диалог РФ и США по сотрудничеству продолжается, и в ближайшее время возможны более активные шаги на этом направлении, заявил спецпредставитель президента РФ Кирилл Дмитриев
      Диалог РФ и США по сотрудничеству продолжается, и в ближайшее время возможны более активные шаги на этом направлении, заявил спецпредставитель президента РФ Кирилл Дмитриев
    • Выборы в Армении не будут считаться легитимными, так как Пашинян пытается устранить всех своих соперников, заявил Медведев. Даже Вашингтон и Брюссель не прощают подобных поступков, написал он в X

    • Иран сохранил около 21–22% ракетного арсенала, считает Трамп. «Это много ракет, но не как это было на момент нашей первой атаки», — заявил он в интервью NBC News
      Иран сохранил около 21–22% ракетного арсенала, считает Трамп. «Это много ракет, но не как это было на момент нашей первой атаки», — заявил он в интервью NBC News
    • РФ видит попытки Еревана пойти на преступление против демократии, принять решение об отстранении от выборов оппозиционных партий. Об этом заявила Мария Захарова

    • Переговоры США и Ирана продолжаются, обсуждаются и аспекты ядерной программы Тегерана, успех может быть достигнут в ближайшие дни, сообщил госсекретарь США Марко Рубио. «Это (переговоры — ред.) не является гарантией того, что в конечном счете удастся заключить сделку»

    • Порог выручки для малого бизнеса в 20 млн рублей для уплаты НДС будет зафиксирован на три года, заявил Силуанов
      Порог выручки для малого бизнеса в 20 млн рублей для уплаты НДС будет зафиксирован на три года, заявил Силуанов
    • Минцифры ведет переговоры с Apple по поводу восстановления «Макса» в AppStore, сообщил Шадаев
      Минцифры ведет переговоры с Apple по поводу восстановления «Макса» в AppStore, сообщил Шадаев
    • Угрозы Армении ограничить избирательные права граждан недопустимы, заявил ТАСС замсекретаря СБ РФ Шевцов на ПМЭФ. Отвечая на вопрос об отправке на военные сборы армян, которые приедут голосовать в Армению, он отметил, что это не соответствует тем европейским ценностям и стандартам, к которым стремится сама республика

    • Журналистка Кэндис Оуэнс поблагодарила россиян за теплый прием и пообещала обязательно вернуться в Москву. Она также добавила, что для нее было бы честью стать «мостом», соединяющим христиан на Востоке и христиан на Западе

    • Почти 30 000 человек из 142 стран приняли участие в ПМЭФ-2026, сообщил Кобяков
      Почти 30 000 человек из 142 стран приняли участие в ПМЭФ-2026, сообщил Кобяков
    • Пока нет понимания по срокам визита Ким Чен Ына в Москву, он всегда здесь желанный гость, сказал Песков ТАСС

    • Ким Чен Ын проинспектировал новый эсминец «Кан Гон», сообщает ЦТАК
      Ким Чен Ын проинспектировал новый эсминец «Кан Гон», сообщает ЦТАК
    • Творческий вечер по случаю годовщины со дня рождения Пушкина прошел в посольстве РФ в США. Участие в нем принял один из крупнейших американских специалистов по истории русской архитектуры и зодчества, член Академии художеств России Уильям Брумфилд

    • «Они сильные, они гордые»: Трамп в интервью NBC News ответил, почему Тегеран до сих пор не согласился на выдвигаемые США условия
      «Они сильные, они гордые»: Трамп в интервью NBC News ответил, почему Тегеран до сих пор не согласился на выдвигаемые США условия
    • Армения объявила тендер на строительство железной дороги до границы с Турцией, заявил Пашинян в интервью Общественному телевидению. «Мы в Армении своими средствами [построим]. Россия не сделает — это наша собственность», — сказал он

    • США могут работать над новой антииранской резолюцией МАГАТЭ, сообщил ТАСС постпред РФ при международных организациях в Вене Михаил Ульянов

    • США еще не решили, передавать ли Тайваню пакет вооружений на $14 млрд, сообщил Трамп. В детали американский лидер вдаваться не стал

    Вы уверены, что хотите выйти из аккаунта?