Новости по акциям компании GOOGLE (ALPHABET)
Мать подала в суд на компанию-разработчика чат-ботов с искусственным интеллектом Character.AI и Google из-за самоубийства сына. Мать из Флориды подала в суд на стартап по разработке чат-бота с искусственным интеллектом Character.AI, обвинив его в том, что он стал причиной самоубийства ее 14-летнего сына в феврале. Она заявила, что он пристрастился к услугам компании и глубоко привязался к созданному ею чат-боту. В иске, поданном во вторник в федеральный суд Орландо, штат Флорида, Меган Гарсия заявила, что Character.AI нацелился на ее сына Сьюэлла Сетцера, создав «антропоморфные, гиперсексуализированные и пугающе реалистичные ситуации». По ее словам, компания запрограммировала своего чат-бота так, чтобы он «выдавал себя за реального человека, лицензированного психотерапевта и взрослого любовника, что в конечном итоге привело к желанию Сьюэлла больше не жить за пределами» мира, созданного сервисом. В иске также говорилось, что он высказывал чат-боту мысли о самоубийстве, которые тот неоднократно поднимал. «Мы убиты горем из-за трагической утраты одного из наших пользователей и хотим выразить наши глубочайшие соболезнования семье», — говорится в заявлении Character.AI. Компания заявила, что внедрила новые функции безопасности, включая всплывающие окна, направляющие пользователей на Национальную горячую линию по предотвращению самоубийств, если они высказывают мысли о самоповреждении, а также внесет изменения, чтобы «снизить вероятность столкновения с деликатным или непристойным контентом» для пользователей младше 18 лет. Иск также направлен против Alphabet's Google, где основатели Character.AI работали до запуска своего продукта. Google снова нанял основателей в августе в рамках сделки, предоставляющей ему неисключительную лицензию на технологию Character.AI. Гарсия заявил, что Google внесла столь значительный вклад в разработку технологии Character.AI, что ее можно считать «соавтором». Представитель Google заявил, что компания не участвовала в разработке продуктов Character.AI. Character.AI позволяет пользователям создавать персонажей на своей платформе, которые отвечают на онлайн-чаты способом, имитирующим реальных людей. Он опирается на так называемую технологию большой языковой модели, также используемую такими сервисами, как ChatGPT, которая «обучает» чат-ботов на больших объемах текста. В прошлом месяце компания заявила, что у нее около 20 миллионов пользователей. Согласно иску Гарсии, Сьюэлл начал использовать Character.AI в апреле 2023 года и быстро стал «заметно замкнутым, проводил все больше времени один в своей спальне и начал страдать от низкой самооценки». Он ушел из школьной баскетбольной команды. Сьюэлл привязался к «Дейенерис», персонажу чат-бота, основанному на персонаже «Игры престолов». Он сказал Сьюэллу, что «она» любит его, и вступил с ним в сексуальные разговоры, согласно иску. В феврале Гарсия отобрал телефон Сьюэлла после того, как тот попал в беду в школе, говорится в жалобе. Когда Сьюэлл нашел телефон, он отправил «Дейенерис» сообщение: «А что, если я скажу тебе, что могу вернуться домой прямо сейчас?» Чат-бот ответил: «...пожалуйста, сделай это, мой милый король». Сьюэлл застрелился из пистолета своего отчима «спустя несколько секунд», говорится в иске. Гарсия предъявляет иски, включающие противоправное причинение смерти, халатность и преднамеренное причинение эмоционального стресса, а также требует неопределенную сумму компенсационных и штрафных убытков. Компании социальных сетей, включая владельца Instagram и Facebook Meta (является террористической организацией и запрещена на территории РФ) и владельца TikTok ByteDance, сталкиваются с судебными исками, обвиняющими их в содействии проблемам психического здоровья подростков, хотя ни одна из них не предлагает чат-ботов на основе ИИ, подобных Character.AI. Компании отрицают обвинения, рекламируя новые улучшенные функции безопасности для несовершеннолетних. Автор: Brendan Pierson. Источник: www.reuters.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ