Alibaba выпустила Qwen Max‑Class MoE: 2,4 трлн параметров
Alibaba представила модель Qwen3.8-2.4T-A95B Weights как первый образец класса Qwen Max-Class MoE Команда Alibaba Qwen опубликовала открытые веса для Qwen3.8-2.4T-A95B, описав её как первую модель класса Qwen-Max, выпущенную для скачивания, а не только через API. Эта разреженная контрольная точка, представляющая собой смесь экспертов, содержит около 2,4 триллиона параметров и активирует примерно 95 миллиардов токенов на 512 экспертов, при этом на каждом этапе используются 10 маршрутизируемых экспертов плюс один общий эксперт. Этот релиз отличается от предыдущих открытых релизов Qwen, таких как Qwen-Drive и более мелкие снимки кода Qwen3.8, позиционируя текстовую модель экспертных знаний для самодостаточных агентных и логических стеков, а не узкую модель восприятия или специализации в кодировании. Источник: Pandaily
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ