Как Яндекс обеспечивает безопасность и этичность использования ИИ
Yandex стал первой компанией в России, которая получила сертификат ISO/IEC 42001. Этот сертификат подтверждает, что компания ответственно подходит к разработке искусственного интеллекта. В ходе независимого аудита было установлено, что процессы разработки и предоставления YandexGPT соответствуют всем требованиям стандарта, включая аспекты этики и безопасности. Стандарт ISO/IEC 42001:2023 — это международный стандарт для систем менеджмента в организациях, которые занимаются разработкой или использованием решений на основе искусственного интеллекта. Он оценивает не сами продукты на основе ИИ, а подход к их созданию и внедрению, а также то, насколько прозрачно и безопасно действует компания и насколько эффективны её процессы. YandexGPT — это семейство больших языковых моделей (LLM), разработанных Яндексом. Они используются более чем в 20 сервисах и продуктах компании, включая Поиск, AI-ассистента Алису, Нейроэксперта, Рекламу, Шедеврум, Умную камеру, AI-ассистентов в Маркете, Лавке и Еде. Эти модели также используются клиентами Yandex Cloud на платформе Yandex Cloud AI Studio. В ходе аудита было подтверждено, что Яндекс обеспечивает безопасность данных пользователей YandexGPT, автоматически отслеживает ошибки и аномалии в работе моделей, следит за качеством и этичностью ответов, анализирует обратную связь от пользователей и ведёт подробную документацию. Также было подтверждено, что Яндекс учитывает этические и социальные риски, связанные с развитием ИИ, и обучает сотрудников правилам ответственной разработки. Анна Зинчук, руководитель службы комплаенса и обучения информационной безопасности Яндекс, сфокусирована на этичности и безопасности ИИ. Получение сертификата подтверждает правильность наших действий. Яндекс продвигает ответственное использование ИИ, делясь опытом с российскими компаниями. В марте 2024 года компания подписала декларацию об ответственной разработке сервисов на основе генеративного ИИ. С весны 2025 года Яндекс тестирует нейросети с «белыми хакерами», выплачивая до миллиона рублей за уязвимости. [Больше новостей находятся в мобильном приложение MONDIARA](https://mondiara.com/) Скачайте бесплатное приложение в [App Store](https://apps.apple.com/ru/app/m-o-n-d-i-a-r-a/id6475953453) или [Google Play](https://play.google.com/store/apps/details?id=com.mondiara.app) Источник: www.yandex.ru
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ