Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества ВК: НОВОСТИ

ВК: НОВОСТИ

ВК - последние новости сегодня - MONDIARA

Какую новую языковую модель представила VK?

3 688

    VK выпустила обновленную языковую модель Diona Новая версия требует меньше вычислительных ресурсов, что позволило снизить нагрузку на инфраструктуру и ускорить внутренние процессы. Инвестиции в разработку могли составить 500–800 млн рублей. Новая версия модели Diona разработана с использованием наработок предыдущей, которую обучали на пользовательском контенте ВКонтакте, включая комментарии из открытых групп. Однако также проведено новое базовое обучение на больших объемах текстов. Сумму инвестиций VK не раскрыла. Источник в крупной российской ИТ-компании оценивает затраты в 500–800 млн рублей. Параметры новой модели выросли в 1,5 раза. Теперь диапазон составляет от 4 до 30 млрд внутренних переменных. Это позволяет лучше распознавать и обрабатывать информацию. Обновленная Diona требует меньше ресурсов, что снижает нагрузку на инфраструктуру и ускоряет внутренние процессы. Она открывает новые возможности для инструментов VK и генеративных функций в продуктах холдинга. Модель лучше справляется с инженерными задачами, генерацией и суммаризацией текстов. ИТ-архитектор «1С ПРО Консалтинг» Алексей Ваганов считает, что разработка модели с параметрами до 30 млрд может стоить дороже 800 млн рублей. Вероятно, VK использовала гибридный подход, дообучая open-source модель на собственных данных и инфраструктурных ресурсах. Модели с параметрами от 4 до 30 млрд занимают средний сегмент на мировом рынке ИИ, отмечает независимый эксперт Алексей Лерон. В VK не раскрыли, на каких аппаратных мощностях обучалась модель, лишь упомянув «внутренние вычислительные ресурсы». Старший разработчик систем ИИ Innostage Александр Лебедев считает, что заявленный диапазон параметров подходит для запуска на потребительских видеокартах или доступных серверных GPU-ускорителях. Обычно компании, использующие локальные опенсорсные решения, выбирают модели размером 14 или 32 млрд параметров. Для действительно мощных моделей, демонстрирующих впечатляющие результаты, требуются сотни миллиардов параметров, вплоть до 1 трлн. Diona сможет учитывать контекст объемом до 32 тыс. токенов (минимальных единиц текста), что в восемь раз больше, чем у предыдущей версии. Алексей Лерон считает, что это нереволюционный показатель по меркам передовых моделей. Однако этого достаточно для работы с документами, анализа деловой переписки и обработки корпоративных отчетов. В будущем VK планирует сделать модель мультимодальной, чтобы она могла анализировать видео, аудио и изображения. Это усилит рекомендательные и поисковые алгоритмы компании. Однако сооснователь Chad AI Артур Кольцов считает, что мультимодальные модели требуют иной архитектуры и обучения. Он полагает, что VK сможет реализовать эту функцию через два-три года, когда появятся более эффективные архитектуры и улучшится доступность оборудования. Пост взят с соцсети [M O N D I A R A](https://i.mondiara.com/) 👉 вот ссылка на канал: https://i.mondiara.com/i/c/vk_news Скачать в [App Store](https://apps.apple.com/ru/app/m-o-n-d-i-a-r-a/id6475953453) Скачать в [Google Play](https://play.google.com/store/apps/details?id=com.mondiara.app) Валюта расчёта - Ваши добрые мысли! Спасибо, что с нами! Источник: www.kommersant.ru

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / ВК - последние новости сегодня - MONDIARA

    EXPRESS NEWS

    • Венесуэле нужны новые выборы, но для них требуется создать условия, заявил Рубио: «Эти условия включают свободные и открытые СМИ. Нужно дать время и пространство политическим партиям на организацию и подготовку к этим выборам. Нужен новый избирательный совет»

    • Вашингтонская администрация готова при определенных условиях согласиться с тем, что Иран будет иметь возможность использовать атомную энергию. Об этом заявил госсекретарь США Марко Рубио

    • Трамп заявил, что переговоры США и Ирана продолжаются непрерывно, но их исход неясен: «Сообщения лживых СМИ о том, что Исламская Республика Иран и США прекратили разговаривать несколько дней назад, являются абсолютно ложными и вводят в заблуждение»

    • Идея отмены или смягчения американских санкций в отношении Ирана в обмен на открытие Ормузского пролива не обсуждается. Об этом заявил Рубио

    • Переговоры США и Ирана продолжаются, обсуждаются и аспекты ядерной программы Тегерана, успех может быть достигнут в ближайшие дни, заявил Рубио

    • Президент Танзании Самия Сулуху Хасан 3–5 июня посетит РФ с государственным визитом, сообщил Ушаков

    • Пашинян заявил, что его разговор с Путиным 1 июня был позитивным
      Пашинян заявил, что его разговор с Путиным 1 июня был позитивным

    • Вучич заявил, что не пойдет на новый президентский срок после истечения нынешнего. При этом политик, отвечая на вопрос Bloomberg, заявил, что может занять пост премьер-министра, так как его Сербская прогрессивная партия нуждается в нем

    • Новый премьер Латвии намерен разорвать торговые связи с Россией, сообщил портал Delfi. По информации издания, Андрис Кулбергс при этом признал, что в некоторых отраслях не обойтись без исключений

    • Рубио утверждает, что США не подталкивают Армению к разрыву дружеских связей с другими странами: «Мы лишь хотим, чтобы наши отношения строились не только на мире. Мир важен, но это лишь начало: он открывает возможности в экономической сфере»

    • Журналистка Оуэнс рассказала ТАСС о травле из-за поездки в РФ. Она столкнулась с нападками и обвинениями в причастности к «русскому заговору»: «Они начали врать обо мне, говорить, что я еду сюда работать, сотрудничаю с такими-то людьми, меня финансируют, что я якобы нарушаю законы

    • Марко Рубио допустил продление исключений из санкций США против нефтяного сектора РФ. Однако он отметил, что это «зависит от обстоятельств на тот момент»
      Марко Рубио допустил продление исключений из санкций США против нефтяного сектора РФ. Однако он отметил, что это «зависит от обстоятельств на тот момент»

    • Трамп заявил о назначении главы управления жилищного финансирования Уильяма Пулте и. о. директора Нацразведки США

    • Путин предложил придать статус государственного докладу о языковой политике и готовить его ежегодно
      Путин предложил придать статус государственного докладу о языковой политике и готовить его ежегодно
    • Экс-канцлер ФРГ Шрёдер находится в Москве, сообщает NTV. Корреспондент телеканала в Москве Мунц утверждает, что видел Шрёдера в отеле Kempinski. Не исключено, что экс-канцлер отправился в РФ для участия в ПМЭФ
      Экс-канцлер ФРГ Шрёдер находится в Москве, сообщает NTV. Корреспондент телеканала в Москве Мунц утверждает, что видел Шрёдера в отеле Kempinski. Не исключено, что экс-канцлер отправился в РФ для участия в ПМЭФ

    • Кэндис Оуэнс не будет модератором пленарной сессии ПМЭФ. Журналистка примет участие в ней в качестве гостя, сообщил ТАСС источник

    • Трамп заявил, что Израиль и «Хезболла» приостановят боевые действия. «У меня состоялся очень продуктивный разговор с премьер-министром Израиля Биньямином Нетаньяху. Никакие (израильские — ИФ) войска на Бейрут не пойдут, они вернутся», — написал он в соцсети Truth Social

    • Нетаньяху заявил Трампу, что Израиль атакует Бейрут, если «Хезболлах» не прекратит обстрелы израильской территории, сообщили в канцелярии премьера

    • Трамп заявил, что ждет скорого снижения цен на нефть. «Я думаю, нефть очень скоро упадет камнем, в самом ближайшем будущем», — сказал он CNBC
      Трамп заявил, что ждет скорого снижения цен на нефть. «Я думаю, нефть очень скоро упадет камнем, в самом ближайшем будущем», — сказал он CNBC
    • Россия считает незаконным задержание танкера Францией, шедшего из РФ, это граничит с пиратством. РФ предпримет для обеспечения безопасности своих судов дополнительные меры, заявил Песков
      Россия считает незаконным задержание танкера Францией, шедшего из РФ, это граничит с пиратством. РФ предпримет для обеспечения безопасности своих судов дополнительные меры, заявил Песков

    • Трамп опроверг публикации «лживых» СМИ о том, что соглашение с Ираном не затрагивает ядерную программу. «На самом деле в нем очень четко указано, что Иран не будет обладать ядерным оружием», — написал он в Truth Social

    • Министр обороны Израиля объявил о захвате крепости крестоносцев Бофор на стратегически важной высоте севернее реки Литани в Ливане
      Министр обороны Израиля объявил о захвате крепости крестоносцев Бофор на стратегически важной высоте севернее реки Литани в Ливане
    • Трамп добивается, чтобы в проект соглашения с Ираном были внесены изменения, касающиеся ядерной программы Тегерана. Об этом сообщил портал Axios со ссылкой на источники
      Трамп добивается, чтобы в проект соглашения с Ираном были внесены изменения, касающиеся ядерной программы Тегерана. Об этом сообщил портал Axios со ссылкой на источники
    • Вучич заявил, что Сербия не намерена отменять безвизовый режим с Россией
      Вучич заявил, что Сербия не намерена отменять безвизовый режим с Россией

    • «Честно говоря, мне все равно, закончились ли они». Трамп в интервью CNBC заявил, что на переговоры с Ираном ушло слишком много времени. Вместе с этим президент США написал в Truth Social, что консультации с Ираном продолжаются и продвигаются быстро

    • Американская журналистка Кэндис Оуэнс, ведущая расследование о Макроне, примет участие в ПМЭФ, сообщает источник ТАСС

    • Мадьяр пригрозил президенту Венгрии Шуйоку импичментом, если он откажется добровольно покинуть свой пост. По словам Мадьяра, Шуйок не справился с обязанностями главы государства и не препятствовал злоупотреблениям, которые якобы совершало правительство Орбана

    • Вучич не будет баллотироваться на новый президентский срок, заявил в интервью ТАСС Вулин
      Вучич не будет баллотироваться на новый президентский срок, заявил в интервью ТАСС Вулин
    • Поручение Путина по доступности интернета призвано усовершенствовать систему «белых списков», заявил Песков
      Поручение Путина по доступности интернета призвано усовершенствовать систему «белых списков», заявил Песков

    • Риски заноса лихорадки Эбола в РФ оцениваются как минимальные, сообщила Анна Попова. Она добавила, что эпидемиологическая обстановка в России по всем инфекциям является стабильной

    • Минтранс РФ не фиксирует дефицита авиакеросина на внутреннем рынке, сообщил министр транспорта Андрей Никитин

    • Владимир Путин поручил кабмину и ФСБ гарантировать россиянам бесперебойный доступ в интернет даже в дни ограничений, сообщили в Кремле
      Владимир Путин поручил кабмину и ФСБ гарантировать россиянам бесперебойный доступ в интернет даже в дни ограничений, сообщили в Кремле

    • Полностью победить мошенничество можно, сделав его организацию более затратной, сообщил в интервью ТАСС зампред правления Сбербанка Кузнецов в преддверии ПМЭФ. Однако вывод похищенных денег за рубеж остается слабым местом в борьбе с мошенниками, отметил он. Через дроп-курьеров и криптовалюту в 2025 году аферисты вывели за рубеж около 120 млрд рублей

    • Лукашенко назвал враньем слова Пашиняна об организации транзита газа через Армению. Подобные перспективы остаются неопределенными и вызывают множество вопросов. Россия продает Армении беспошлинно природный газ по цене порядка в несколько раз ниже, чем он стоит на рынке ЕС, подчеркнул президент Белоруссии

    • «Тут почасовой прогноз». Относительно шагов США прогноз может быть только почасовым, сыронизировал Песков. Так он ответил на вопрос журналиста «Вестей» Зарубина, каких действий можно ждать от США на фоне просьб Киева о поставке дополнительных вооружений
      «Тут почасовой прогноз». Относительно шагов США прогноз может быть только почасовым, сыронизировал Песков. Так он ответил на вопрос журналиста «Вестей» Зарубина, каких действий можно ждать от США на фоне просьб Киева о поставке дополнительных вооружений

    • Бесконтрольная иммиграция стала одной из многих ошибок, которую бюрократы ЕС не могут признать и исправить, заявил Дмитриев. Так он прокомментировал публикацию с критикой миграционной политики Европы из-за беспорядков в Париже, вспыхнувших после победы футбольного клуба «Пари Сен-Жермен» в финале Лиги чемпионов

    • Трамп заявил об успешном прохождении медицинского теста на когнитивные способности: «В отличие от других президентов США, ни один из которых никогда не проходил утвержденный когнитивный тест высокой сложности, я набрал идеальные 30 баллов из 30, что считается "выдающимся интеллектом"»

    • Трамп ужесточил условия меморандума США и Ирана и направил Тегерану новые предложения. Об этом сообщила The New York Times со ссылкой на источники. Какие именно изменения внесены в текст потенциального соглашения, неизвестно. Источники издания указали, что Трампа беспокоят положения, касающиеся возможной разморозки иранских активов

    • Гросси выразил обеспокоенность в связи с атакой БПЛА на машинный зал ЗАЭС, сообщили в МАГАТЭ
      Гросси выразил обеспокоенность в связи с атакой БПЛА на машинный зал ЗАЭС, сообщили в МАГАТЭ

    • «Я подумываю привлечь вместо них Главную Звезду Мира». Трамп может заменить ряд выступлений артистов к 250-летию США митингом с его участием. Ранее организация Freedom 250 объявила список звезд, выступления которых запланированы на мероприятии, но большинство из них отказались от участия после публикации, сообщил CBS

    Вы уверены, что хотите выйти из аккаунта?