СБЕРБАНК [новости]

НОВОСТИ АКЦИЙ

Новость по компании «Сбербанк» на 18 апреля 2025 года

2025-04-18T10:28:56+03:00 10 217

Специалисты по кибербезопасности Сбера создали первую в России модель угроз для систем искусственного интеллекта. Она охватывает все этапы жизненного цикла AI-систем — от подготовки данных и разработки нейросетевых моделей до интеграции в приложения. Модель позволяет организациям любой отрасли комплексно оценить уязвимости и адаптировать защитные механизмы. Это поможет минимизировать потенциальные потери. В исследовании описаны 70 угроз, связанных с использованием генеративного (GenAI) и предиктивного (PredAI) искусственного интеллекта. Для каждой угрозы определены свойства информации, которые могут быть нарушены, и объект, который может быть подвергнут воздействию. Например, это могут быть датасеты для обучения или open-source модели. Модель угроз содержит схему взаимодействия объектов и их описание. Сергей Лебедь, вице-президент Сбера по кибербезопасности, отметил: «Внедрение технологий искусственного интеллекта в бизнес-процессы компаний неизбежно сопровождается вызовами в области кибербезопасности. Организации, использующие AI, сталкиваются с новыми рисками, которые могут повлиять на устойчивость систем и конфиденциальность данных. Эти угрозы затрагивают все этапы жизненного цикла AI, что требует новых решений для их прогнозирования и нейтрализации». Сбер активно применяет технологии искусственного интеллекта в своих бизнес-процессах и хорошо понимает новый ландшафт угроз. Для ответа на эти вызовы мы разработали первую в России модель киберугроз, охватывающую полный спектр рисков для искусственного интеллекта, связанных с разработкой и применением. Документ позволяет организациям любой отрасли — от финансового сектора до государственных институтов и промышленности — системно оценивать уязвимости, адаптировать защитные механизмы и минимизировать потенциальные потери. Создание документа особенно актуально на фоне растущего использования GenAI-моделей в критически важных бизнес-процессах всё большего числа отечественных компаний и возникающих в связи с этим новых угроз безопасности. Разработанная модель угроз учитывает опыт команд Сбера при работе над повышением защищённости собственных AI-моделей, а также лучшие мировые практики в этой области. Источник: www.sberbank.ru