ЯНДЕКС [новости]

НОВОСТИ АКЦИЙ РОССИИ

Внедрение нейросетей в небольших компаниях

2025-04-11T12:02:32+03:00 9 842

Новый метод сжатия LLM: доступно для всех. Лаборатория Yandex Research совместно с ведущими университетами разработала метод сжатия больших языковых моделей (LLM) без потери качества. Теперь для работы с ними достаточно смартфона или ноутбука. Метод ускоряет тестирование и внедрение нейросетевых решений, делая LLM доступными для малых компаний, некоммерческих организаций и индивидуальных разработчиков. Раньше квантизация моделей занимала недели, теперь — минуты. Проблема больших моделей, таких как DeepSeek-R1 (671 млрд параметров), заключалась в необходимости мощного оборудования. Новый метод позволяет сжимать их до запуска на доступных устройствах. Это открывает возможности для использования LLM в ограниченных ресурсах сферах, таких как образование и соцсфера. Стартапы могут создавать инновационные продукты без дорогого оборудования. Яндекс использует метод для прототипирования, ускоряя тестирование сжатых моделей. Источник: www.cnews.ru