Дипфейки становятся угрозой: МТС создаёт сервис для обнаружения поддельного контента
Дипфейки становятся угрозой: МТС создаёт сервис для обнаружения поддельного контента. Компании разрабатывают новые технологии для выявления сгенерированного контента, включая изображения, видео и голос. В результате на рынок выходит MTS AI. В прошлом году количество случаев мошенничества с использованием дипфейков увеличилось более чем на 10%. MTS AI, входящая в состав МТС, создала сервис для обнаружения дипфейков с подменой и генерацией лица, а также для поиска запрещённого контента, включая изображения и видео с алкоголем, наркотиками, оружием и экстремистской символикой. Об этом сообщили представители компании. Ожидается, что сервис будет использоваться для модерации контента в социальных сетях и на медиаплатформах, а также для проверки подлинности участников видеоконференций и выявления поддельных обращений от имени компании. Дипфейк — это технология синтеза контента, основанная на машинном обучении и искусственном интеллекте. Она позволяет накладывать фрагменты контента на исходное изображение, заменяя лицо и голос на видео или звуковой дорожке. Система, разработанная MTS AI, анализирует видео, аудио или изображения с помощью нейронных сетей. В случае с дипфейками нейросети обнаруживают несоответствия, которые обычно незаметны для человека, такие как неправильные тени, неестественные движения лицевых мышц, особенности тембра голоса или шумы. Для создания решения были использованы разработки MTS AI и VisionLabs, которая на 99% принадлежит МТС ИИ. Точность обнаружения дипфейков составляет в среднем 97,5%. В компании не раскрыли информацию о размере инвестиций в проект и ожидаемом объёме продаж, но уточнили, что в 2025 году не менее 10% выручки VisionLabs должно приходиться на продажу решения по обнаружению дипфейков. В «Сбере» утверждают, что у них есть продукты, которые обнаруживают дипфейки с точностью 98%. В пресс-службе онлайн-кинотеатра Wink (совместное предприятие «Ростелекома» и НМГ) сообщили, что у них есть решение для анализа прямого эфира, которое выявляет вмешательство и фейки с точностью более 80%. Компания рассматривает возможность вывода этого решения на коммерческий рынок. В «Сбере» также работают над расширением использования искусственного интеллекта для обнаружения запрещённого законодательством контента. Появление новых продуктов происходит на фоне роста числа атак с использованием дипфейков. В финансовом секторе количество таких атак увеличилось на 13% в 2024 году, до 5,7 тысяч случаев, а их успешность составляет 15–20% от общего числа инцидентов (см. «Коммерсантъ» от 10 октября 2024 года). «Число таких атак выросло более чем на 10% за год и достигло нескольких тысяч случаев», — говорит ведущий эксперт по сетевым угрозам компании «Код безопасности» Константин Горбунов. В ГК «Солар» также подтверждают рост числа атак на физических лиц с использованием дипфейков. «Аудио- и видео-дипфейки стали более распространёнными в 2024 году, поскольку преступники усовершенствовали технологии их создания», — отмечает руководитель R&D-лаборатории Центра технологий кибербезопасности компании Максим Бузинов. Гендиректор Smart Engines Владимир Арлазаров добавляет, что технология дипфейков стала настолько совершенной, что даже эксперт не может её обнаружить, но алгоритмы машинного обучения способны увидеть специфические искажения. Несмотря на это, спрос бизнеса на решения для обнаружения дипфейков пока не очень высок, как отмечает руководитель AI-продуктов Just AI Алексей Борщов: «Многие компании не осознают проблему или считают, что находятся вне зоны риска. В таких условиях сложно ожидать активного внедрения подобных сервисов». Источник: www.kommersant.ru
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ