Google выпускает новые «открытые» модели ИИ с упором на безопасность
Google выпускает новые «открытые» модели ИИ с упором на безопасность. Компания Google выпустила три новые «открытые» модели генеративного искусственного интеллекта, которые она называет «более безопасными», «более компактными» и «более прозрачными», чем большинство других, — смелое заявление, конечно. Они являются дополнениями к семейству генеративных моделей Gemma 2 от Google , которое дебютировало еще в мае. Новые модели Gemma 2 2B, ShieldGemma и Gemma Scope разработаны для немного разных приложений и вариантов использования, но имеют общую черту — безопасность. Серия моделей Gemma от Google отличается от моделей Gemini тем, что Google не делает исходный код доступным для Gemini, который используется собственными продуктами Google, а также доступен разработчикам. Скорее, Gemma — это попытка Google способствовать укреплению доброй воли в сообществе разработчиков, во многом подобно тому, как Meta пытается сделать с Llama . Gemma 2 2B — это легкая модель для генерации анализа текста, которая может работать на различных аппаратных средствах, включая ноутбуки и периферийные устройства. Она лицензирована для определенных исследовательских и коммерческих приложений и может быть загружена из таких источников, как библиотека моделей Vertex AI от Google, платформа науки о данных Kaggle и набор инструментов AI Studio от Google. Что касается ShieldGemma, это набор «классификаторов безопасности», которые пытаются обнаружить токсичность, такую как разжигание ненависти, домогательства и откровенно сексуальный контент. ShieldGemma, созданная на основе Gemma 2, может использоваться для фильтрации подсказок к генеративной модели, а также контента, который генерирует эта модель. Наконец, Gemma Scope позволяет разработчикам «увеличивать» отдельные точки в модели Gemma 2 и делать ее внутреннюю работу более интерпретируемой. Вот как Google описывает это в сообщении в блоге: «[Gemma Scope состоит из] специализированных нейронных сетей, которые помогают нам распаковывать плотную, сложную информацию, обрабатываемую Gemma 2, расширяя ее до формы, которую легче анализировать и понимать. Изучая эти расширенные представления, исследователи могут получить ценную информацию о том, как Gemma 2 определяет закономерности, обрабатывает информацию и в конечном итоге делает прогнозы». Выпуск новых моделей Gemma 2 состоялся вскоре после того, как Министерство торговли США одобрило открытые модели ИИ в предварительном отчете. Открытые модели расширяют доступность генеративного ИИ для небольших компаний, исследователей, некоммерческих организаций и индивидуальных разработчиков, говорится в отчете, а также подчеркивается необходимость возможностей мониторинга таких моделей на предмет потенциальных рисков. Автор: Kyle Wiggers. Источник: www.techcrunch.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ