Новости по компании INTERNATIONAL BUSINESS MACHINES
Новость: нейтральная. Глубокие подделки – реалистичные аудио, видео или изображения, генерируемые искусственным интеллектом, которые могут воссоздавать сходство с человеком - являются одной из наиболее актуальных проблем, связанных с генеративным ИИ, учитывая потенциальную возможность использования злоумышленниками для подрыва демократии, эксплуатации художников и исполнительниц, а также преследования и причинения вреда обычным людям. Это не спекулятивные риски. Подделки уже используются для распространения предвыборной дезинформации, наживаются на несанкционированном подражании музыкантам и создают порнографию без согласия несовершеннолетних, частных лиц и знаменитостей. И по мере дальнейшего совершенствования возможностей искусственного интеллекта эти проблемы станут еще более пагубными. В данный момент требуются как технические, так и юридические решения. Вот почему IBM (NYSE: IBM) подписала Технологическое соглашение по борьбе с обманным использованием ИИ на выборах 2024 года (Мюнхенское технологическое соглашение), пообещав помочь снизить риски использования ИИ для обмана общественности и подрыва результатов выборов. Именно поэтому IBM долгое время выступала за нормативные акты, которые точно нацелены на вредоносное применение технологий. Ниже мы выделяем три ключевых приоритета для директивных органов по смягчению вреда от глубоких подделок: Демократия зависит от способности населения участвовать в свободных и справедливых выборах. К сожалению, злоумышленники могут использовать фальшивки, выдавая себя за государственных должностных лиц и кандидатов, чтобы различными способами обманывать избирателей, что может подорвать этот ключевой принцип. Например, подделки могут ввести избирателей в заблуждение относительно того, где, когда и как они могут проголосовать, или ложно изобразить кандидата, делающего противоречивые заявления или участвующего в скандальной деятельности. Политики должны запретить распространение существенно вводящего в заблуждение фейкового контента, связанного с выборами. Например, Закон о защите выборов от вводящего в заблуждение искусственного интеллекта, внесенный сенаторами Клобучаром, Хоули, Кунсом и Коллинзом, ограничит использование искусственного интеллекта для создания вводящего в заблуждение контента, ложно изображающего федеральных кандидатов в политической рекламе с целью повлиять на выборы. Другие политические подходы могут позволить кандидатам, ставшим мишенью для существенно вводящего в заблуждение контента, созданного искусственным интеллектом и используемого в политической рекламе или кампаниях по сбору средств, требовать возмещения ущерба или удалять вводящий в заблуждение контент, сохраняя при этом защиту свободы слова. В ЕС IBM поддерживает Закон о цифровых услугах, который налагает на крупные интернет-платформы определенные обязательства в отношении модерации онлайн-контента. Недавно опубликованные Европейской комиссией рекомендации также предложили дополнительные требования к платформам, ориентированным на потребителя, для снижения "системных рисков избирательных процессов". Защита создателей: Музыканты, художники, актеры и творцы всех мастей используют свои таланты и сходства, чтобы формировать культуру, вдохновлять, развлекать и зарабатывать на жизнь. Подделки могут позволить злоумышленникам использовать сходства с создателями для распространения лживой рекламы, мошенничества и введения в заблуждение потребителей, ненадлежащим образом снизить способность создателей извлекать выгоду из своих талантов и многого другого. Директивные органы должны привлекать людей к ответственности за создание несанкционированных подделок выступлений создателей и привлекать платформы к ответственности, если они сознательно распространяют такой несанкционированный контент. В некоторых юрисдикциях уже действуют так называемые "законы о сходстве", запрещающие несанкционированное использование портрета человека в коммерческих целях, но они могут быть непоследовательными, и лишь немногие из них прямо распространяются на цифровые копии или права на использование портрета человека после его смерти. Учитывая эти несоответствия юрисдикций, IBM поддерживает Закон О ЗАПРЕТЕ ПОДДЕЛОК в США.S., который создал бы федеральную защиту для физических лиц, чьи голоса и / или изображения создаются третьими лицами без их согласия. Защита частной жизни людей: Обычные люди уже страдают от глубоких подделок самым серьезным образом, особенно от того, что злоумышленники используют свое внешнее сходство для создания порнографии без согласия. Это насилие в первую очередь направлено против женщин, среди жертв есть несовершеннолетние, и потенциально может привести к дальнейшим злоупотреблениям и вымогательству со стороны злоумышленников. Распространение интимных изображений без согласия, также известное как порно-месть, расширяется с использованием подделок, но в конечном итоге не является новой проблемой. Однако лишь немногие существующие законы надлежащим образом привлекают злоумышленников к ответственности за распространение или угрозу распространения этих материалов или обязательно охватывают контент, созданный искусственным интеллектом. Директивные органы должны установить строгую уголовную и гражданскую ответственность для людей, распространяющих аудиовизуальный контент интимного характера без согласия сторон, включая контент, созданный искусственным интеллектом, а также для людей, которые угрожают сделать это. Наказания должны быть особенно суровыми, если жертва несовершеннолетняя. Законодатели могут выполнить эту рекомендацию уже сейчас, поддержав и приняв двухпартийный Закон о предотвращении подделок интимных изображений в США.S. Этот законопроект предусматривает ответственность для физических лиц, которые разглашают или угрожают разглашением чьего-либо интимного цифрового изображения без согласия пользователя, включая контент, созданный искусственным интеллектом, и позволит пострадавшим сторонам требовать возмещения ущерба. Этот закон создаст столь необходимую федеральную основу подотчетности, которая непоследовательно рассматривается в различных законах о порнографии мести на уровне штатов, обеспечивая большую защиту жертв и отдельных лиц по всей территории Соединенных Штатов. Закон ЕС об искусственном интеллекте, который IBM давно поддерживает, уже решает многие из этих типов проблем, охватывая глубокие подделки в более общем плане и устанавливая требования прозрачности, которые разъясняют, когда конкретный контент не является подлинным. Поскольку политики ожидают вступления Закона в силу в ближайшие месяцы, особое внимание следует уделить обеспечению защиты отдельных лиц от аудиовизуального контента интимного характера без согласия сторон. Заключение: Решение проблем, связанных с глубокими подделками, потребует продуманных подходов со стороны всего общества с учетом изменений в законодательстве и технологиях. Технологические компании несут ответственность за внедрение технических решений и решений в области управления контентом, созданным с помощью искусственного интеллекта, таких как те, которые сформулированы в Мюнхенском соглашении, Добровольных обязательствах Белого дома в области искусственного интеллекта и Канадском Добровольном кодексе поведения по ответственной разработке и управлению передовыми генеративными системами искусственного интеллекта. IBM призывает директивные органы воспользоваться этой возможностью, чтобы оперативно устранить три наиболее серьезных вредоносных приложения глубоких подделок, чтобы гарантировать, что искусственный интеллект остается позитивной силой для мировой экономики и общества. Источник: www.finance.yahoo.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ