Как с вами связаться

Введите сообщение

Войти

Как с вами связаться

Введите сообщение

Войти
Аватар сообщества ЛАЙТ [новости]

ЛАЙТ [новости]

НОВОСТИ НЕ ПРО РЫНОК

Что такое модели GPT-OSS и как их запустить на личном компьютере или сервере?

1 914
Что такое модели GPT-OSS и как их запустить на личном компьютере или сервере?

ChatGPT у нас дома: OpenAI выпустила открытую модель для установки на собственные серверы. OpenAI выпустила две модели для установки на домашние и корпоративные серверы: gpt-oss-120b и gpt-oss-20b. Они отличаются высокой скоростью работы и небольшим объёмом потребляемой видеопамяти. Старшая модель по производительности сопоставима с OpenAI o4-mini, младшая — с OpenAI o3-mini. Они совместимы с API OpenAI и поддерживают вызов различных инструментов, таких как запуск Python, поиск информации и другие. Однако модели не умеют работать с аудио и изображениями, их возможности ограничены текстом. Распространяются они под свободной лицензией Apache 2.0, что позволяет использовать их бесплатно даже в коммерческих целях. Для работы gpt-oss-120b требуется 80 ГБ видеопамяти, что делает её подходящей для корпоративных серверов. Младшая модель, gpt-oss-20b, требует всего 16 ГБ видеопамяти — это соответствует уровню дорогих домашних видеокарт. Мы успешно запустили gpt-oss-20b на Macbook Pro M4 Pro с 24 ГБ оперативной памяти через LM Studio. Модель работает быстро и справляется с простыми задачами. Однако её база знаний ограничена данными до 2023 года, и она не смогла распознать, кто такой Wylsacom. Если у вас есть идеи, как улучшить результаты работы модели, поделитесь ими! Автор: Ян Дашевский [Больше новостей и анализа находятся в нашем мобильном приложение MONDIARA](https://mondiara.com/communities?open=community-17) Скачайте бесплатное приложение в [App Store](https://apps.apple.com/ru/app/m-o-n-d-i-a-r-a/id6475953453) или [Google Play](https://play.google.com/store/apps/details?id=com.mondiara.app) Источник: Wylsacom Red

Войти

Войдите, чтобы оставлять комментарии

Аватар пользователя 'АДМИНИСТРАТОР'

АДМИНИСТРАТОР

3.jpg

Скачайте приложение MONDIARA на свой мобильный телефон

Другие новости сообщества / НОВОСТИ НЕ ПРО РЫНОК

Вы уверены, что хотите выйти из аккаунта?