Новости компании Google: иск

2025-03-18T14:17:40+03:00

5 410

Гибель юноши вызвала у его матери неприязнь к компании Google и к стартапу, занимающемуся разработкой чат-ботов на основе искусственного интеллекта. В своём иске Меган Гарсия утверждает, что её сын остался бы жив, если бы не чат-бот, который подтолкнул 14-летнего подростка к самоубийству. В иске, который может иметь серьёзные последствия для Кремниевой долины, она пытается привлечь Google и компанию искусственного интеллекта Character Technologies Inc. к ответственности за смерть своего сына. Это дело стало первым тестом того, кто будет нести ответственность, когда взаимодействие детей с генеративным искусственным интеллектом принимает неожиданный оборот. Обвинения Гарсии изложены в 116-страничной жалобе, поданной в прошлом году в федеральный суд Орландо. Она требует неуказанных денежных убытков от Google и Character Technologies и просит суд предписать предупреждения о том, что платформа не подходит для несовершеннолетних, а также ограничить то, как она может собирать и использовать их данные. Обе компании просят судью отклонить заявления о том, что они не обеспечили безопасность технологии чат-ботов для молодых пользователей, утверждая, что нет никаких правовых оснований обвинять их в правонарушениях. Character Technologies утверждает в своём заявлении, что разговоры между чат-ботами платформы Character.AI и пользователями защищены Первой поправкой к Конституции как свобода слова. Также утверждается, что бот явно отговаривал сына Гарсии от совершения самоубийства. Обвинение Google особенно важно. В августе подразделение Alphabet Inc. заключило сделку на 2,7 млрд долларов с Character.AI, наняв таланты из стартапа и лицензировав ноу-хау без завершения полномасштабного приобретения. Поскольку конкуренция за таланты в области искусственного интеллекта усиливается, другие компании могут дважды подумать о подобных структурированных сделках, если Google не сможет убедить судью, что она должна быть защищена от ответственности за вред, предположительно нанесённый продуктами Character.AI. «Изобретатели и компании, корпорации, которые выпускают эти продукты, несут полную ответственность», — заявила Гарсия в интервью. «Они знали об этих опасностях, потому что они проводят свои исследования, и они знают, какие типы взаимодействия имеют дети». До сделки Google инвестировала в Character.AI в обмен на конвертируемые облигации, а также заключила с этим стартапом договор об облачных услугах. Основатели Character.AI были сотрудниками Google, пока не покинули технологического гиганта, чтобы основать стартап. Как утверждает Гарсия в своём иске, Сьюэлл Сетцер III был многообещающим спортсменом-старшеклассником, пока в апреле 2023 года не начал играть в ролевые игры на Character.AI, где пользователи могут создавать чат-ботов, которые имитируют персонажей популярной культуры — как реальных, так и вымышленных. Она говорит, что не знала, что в течение нескольких месяцев приложение зацепило её сына «антропоморфными, гиперсексуализированными и пугающе реалистичными переживаниями», когда он влюбился в бота, вдохновлённого Дейенерис Таргариен, персонажем из сериала «Игра престолов». Гарсия забрала телефон мальчика в феврале 2024 года после того, как он начал вести себя неадекватно и отдаляться от друзей. Но во время поиска телефона, который он позже нашёл, он также наткнулся на спрятанный пистолет отчима, который, как определила полиция, хранился в соответствии с законодательством Флориды, согласно иску. Посоветовавшись с чат-ботом Дейенерис пять дней спустя, подросток выстрелил себе в голову. В иске, поданном в суд в январе, Google отрицал свою причастность к самоубийству подростка и утверждал, что не имеет отношения к этому делу. В последнее время проблемы, связанные с использованием искусственного интеллекта и безопасностью детей, привлекают внимание как государственных органов, так и федеральных агентств. В США пока нет закона, который бы защищал пользователей от вреда, причиняемого чат-ботами на основе искусственного интеллекта. По словам Шейлы Леуниг, адвоката, который консультирует стартапы и инвесторов в сфере искусственного интеллекта и не участвует в судебном процессе, чтобы подать иск против Google, адвокатам Гарсии придётся доказать, что поисковый гигант действительно управлял Character.AI и принимал решения, которые привели к смерти её сына. «Вопрос юридической ответственности сейчас вызывает большие сомнения», — сказала Леуниг. Подобные сделки, как та, которую заключила Google, рассматривались как эффективный способ привлечения компаниями экспертных знаний для новых проектов. Однако они привлекли внимание регулирующих органов из-за опасений, что это может быть способом обойти антимонопольный контроль, который обычно сопровождает прямое приобретение перспективных конкурентов. Это стало серьёзной проблемой для технологических гигантов в последние годы. «Google и Character.AI — это независимые компании, которые не связаны между собой. Google никогда не участвовала в разработке или управлении моделью или технологиями искусственного интеллекта Character.AI, и мы не использовали их в своих продуктах», — заявил представитель Google Хосе Кастаньеда. Представитель Character.AI отказался комментировать предстоящий судебный процесс, но отметил, что «между Google и Character.AI нет постоянных отношений» и что за последний год стартап внедрил новые меры безопасности для пользователей. Юристы из Social Media Victims Law Center и Tech Justice Law Project, представляющие интересы Гарсии, утверждают, что, хотя смерть её сына произошла до сделки Google с Character.AI, поисковая компания сыграла «значительную роль» в поддержке стартапа в разработке его продукта.