«Одноклассники» снизили уровень токсичности в комментариях с помощью искусственного интеллекта
«Одноклассники» снизили уровень токсичности в комментариях с помощью искусственного интеллекта. Социальная сеть «Одноклассники» объявила о снижении доли токсичных комментариев почти на 50% благодаря реализации модели машинного обучения. Эта мера направлена на временное ограничение пользователей, которые оставляют оскорбительные комментарии к постам, фотографиям и видео. Инновационная система автоматического выявления токсичных высказываний позволяет ограничивать авторов таких комментариев на срок от одного часа до 24 часов, в зависимости от частоты их негативных отзывов. Представители «Одноклассников» сообщают, что внедрение этой модели помогло сократить количество негативных комментариев на 47%. По результатам опроса пользователей более 40% участников признали, что негативные посты вызывают у них негативные эмоции. Для создания ML-модели были проанализированы 400 тысяч высказываний, классифицированных как недружелюбные или провоцирующие негативные дискуссии. Также проведенное исследование среди аудитории позволило выяснить, какие комментарии считаются токсичными. Запуск этого решения значительно ускорил обработку жалоб на неподобающие высказывания, сократив время реакции в три раза. Это стало возможным благодаря обновленной системе, позволяющей быстро реагировать на обращения пользователей. Александр Москвичев, директор по продукту «Одноклассники», отметил, что аудитория требует пространства для безопасного общения: треть всех жалоб касается негативных комментариев, а 80% обращений в службу поддержки связаны с проблемой токсичности в комментариях. Он также добавил, что работа над моделью велась больше года и будет продолжена для дальнейшего улучшения. В 2024 году платформа также начала автоматически обнаруживать и скрывать нецензурные слова, а также размывать изображения эротического содержания. Использование технологий машинного обучения для ограничения нежелательного контента, включая материалы для взрослых и сцены насилия, стало важной частью стратегии модерации «Одноклассников». Ранее в 2023 году была запущена модель, предотвращающая настойчивые знакомства и общение с ненадежными собеседниками. Источник: www.cnews.ru
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ