Новости по акциям компании GOOGLE (ALPHABET)
Новость: положительная. Google Play расправляется с приложениями искусственного интеллекта после распространения приложений для создания дипфейковой обнаженной натуры. В четверг Google выпускает новое руководство для разработчиков, создающих приложения искусственного интеллекта, распространяемые через Google Play, в надежде сократить количество нежелательного и иным запрещенного контента. Компания заявляет, что приложения, предлагающие функции искусственного интеллекта, должны будут предотвращать создание ограниченного контента, включая контент сексуального характера, насилие и многое другое, и должны будут предлагать пользователям возможность отмечать обнаруженный ими оскорбительный контент. Кроме того, Google заявляет, что разработчикам необходимо «тщательно тестировать» свои инструменты и модели искусственного интеллекта, чтобы гарантировать безопасность и конфиденциальность пользователей. Он также принимает жесткие меры в отношении приложений, маркетинговые материалы которых пропагандируют ненадлежащие варианты использования, например приложения, которые раздевают людей или создают изображения обнаженной натуры без согласия. Если в рекламном тексте говорится, что приложение способно на подобные вещи, оно может быть заблокировано в Google Play, независимо от того, действительно ли приложение способно на это. Рекомендации отражают растущую проблему приложений для раздевания с помощью ИИ, которые в последние месяцы рекламируют себя в социальных сетях. Например, в апрельском отчете 404 Media было обнаружено, что Instagram размещал рекламу приложений, которые утверждали, что используют искусственный интеллект для создания дипфейковой обнаженной натуры . Одно приложение рекламировало себя, используя фотографию Ким Кардашьян и слоган «Разденьте любую девушку бесплатно». Apple и Google удалили приложения из своих магазинов приложений, но проблема по-прежнему широко распространена. Школы по всей территории США сообщают о проблемах с учениками , распространяющими ИИ-обнаженные изображения других учеников (а иногда и учителей ) в целях издевательств и преследований, а также другие виды неподобающего ИИ-контента. В прошлом месяце расистская ИИ-подделка директора школы привела к аресту в Балтиморе. Хуже того, в некоторых случаях проблема затрагивает даже учащихся средних школ . Google заявляет, что его политика поможет исключить из Google Play приложения, содержащие контент, созданный искусственным интеллектом, который может быть неприемлемым или вредным для пользователей. Он указывает на свою существующую политику в отношении контента, генерируемого искусственным интеллектом, как на место, где можно проверить требования для одобрения приложений в Google Play. Компания заявляет, что приложения искусственного интеллекта не могут допускать создание какого-либо ограниченного контента и должны также давать пользователям возможность отмечать оскорбительный и неуместный контент , а также отслеживать и определять приоритетность этой обратной связи. Последнее особенно важно в приложениях, где взаимодействие пользователей «формирует контент и опыт», говорит Google, например, в приложениях, в которых популярные модели, возможно, занимают более высокий или более заметный рейтинг. Разработчики также не могут рекламировать, что их приложение нарушает какие-либо правила Google Play в соответствии с требованиями Google по продвижению приложений . Если он рекламирует неподходящий вариант использования, приложение может быть загружено из магазина приложений. Кроме того, разработчики несут ответственность за защиту своих приложений от подсказок, которые могут манипулировать их функциями искусственного интеллекта для создания вредоносного и оскорбительного контента. Google заявляет, что разработчики могут использовать егозакрытое тестированиевозможность делиться ранними версиями своих приложений с пользователями для получения отзывов. Компания настоятельно рекомендует разработчикам не только тестировать перед запуском, но и документировать эти тесты, поскольку Google может попросить проверить их в будущем. Компания также публикует другие ресурсы и лучшие практики, например Руководство «Люди + ИИ», целью которого является поддержка разработчиков, создающих приложения AI. Автор: Sarah Perez. Источник: www.techcrunch.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ