Amazon обеспокоена рисками ИИ‑моделей Anthropic
По словам источника, компания Amazon выражала обеспокоенность по поводу моделей искусственного интеллекта Anthropic до того, как власти США приняли меры Генеральный директор Amazon (AMZN.O) Энди Джасси был в числе технологических лидеров, которые на этой неделе выразили обеспокоенность высокопоставленным чиновникам администрации Трампа по поводу рисков, связанных с самыми передовыми моделями искусственного интеллекта от Anthropic, сообщил Reuters источник, знакомый с ситуацией. Участие Джасси проливает свет на беспрецедентный шаг компании Anthropic, которая в пятницу прекратила выпуск своих новейших моделей по всему миру в ответ на распоряжение администрации президента Дональда Трампа о мерах по обеспечению национальной безопасности. Стартап в области искусственного интеллекта из Сан-Франциско, который подал конфиденциальную заявку на первичное публичное размещение акций в США, ранее предупреждал о хакерских возможностях своей модели Mythos и не выпускал ее в широкий доступ, но в начале этой недели Anthropic выпустила общедоступную версию под названием Fable с, как утверждается, мерами по обеспечению кибербезопасности. Этот короткий период доступа закончился в пятницу. В своем блоге компания Anthropic сообщила, что, по мнению правительства США, существует способ обойти защиту от использования модели для поиска уязвимостей в кибербезопасности. Обход обнаружил лишь «незначительные» уязвимости, которые могут быть выявлены и другими общедоступными моделями, говорится в сообщении Anthropic в блоге. Администрация Трампа приказала компании Anthropic запретить всем иностранным гражданам, как в США, так и за их пределами, использовать две ее последние модели — Fable 5 и Mythos 5. В ответ Anthropic заявила, что отключит доступ к моделям по всему миру. Компания Amazon не подтвердила, что обсуждала с представителями правительства модели Anthropic. «Как ведущий поставщик облачных услуг, обслуживающий большое количество клиентов из частного и государственного секторов, мы нередко консультируем правительства по вопросам потенциальных рисков для безопасности, — сказал представитель Amazon. — Когда такие случаи происходят, мы не раскрываем подробности этих обсуждений». ЭКСПОРТНЫЙ КОНТРОЛЬ Ранее в субботу издание The Information, специализирующееся на технологических новостях, сообщило о беспокойстве Джасси. The Information со ссылкой на американского чиновника позже сообщила, что администрация вряд ли заставит другие компании, работающие в сфере искусственного интеллекта, соблюдать ограничения, аналогичные тем, что были введены в отношении Anthropic. Агентство Reuters не смогло оперативно проверить планы администрации Трампа по регулированию деятельности других компаний. Ограничения, введенные правительством США, касались экспортного контроля, говорится в сообщении Anthropic в блоге. Бюро промышленности и безопасности Министерства торговли США, которое осуществляет надзор за экспортным контролем, не сразу ответило на запрос о комментарии. Чиновники ввели экспортный контроль «неохотно» после того, как генеральный директор Anthropic Дарио Амодей «отказался» «устранить уязвимость или отозвать модель», написал советник Белого дома Дэвид Сакс в своём посте в социальных сетях в субботу. «Администрация надеется, что Anthropic устранит проблему с безопасностью, экспортный контроль будет снят, и Fable снова станет общедоступной», — написал Сакс, сопредседатель Совета советников Трампа по науке и технологиям и бывший «царь искусственного интеллекта» в Белом доме. Некоторые эксперты, выступающие за экспортный контроль в отношении передовых моделей искусственного интеллекта, сочли действия администрации Трампа странными, поскольку они затрагивают как союзников, так и противников. «Это было непродуманно, — сказал Джимми Гудрич, старший научный сотрудник Института глобальных конфликтов и сотрудничества Калифорнийского университета. — Это даже запрещает канадцам и британцам, работающим в Anthropic, заниматься исследованиями и разработками». Приказ был отдан как раз в тот момент, когда предыдущий спор между представителями администрации Трампа и компанией Anthropic начал ослабевать в некоторых частях правительства США. Полный профиль актива доступен в MONDIARA Котировки • Отчётность • Дивиденды • Аналитика • Новости [mondiara.com](https://mondiara.com/) Источник: www.reuters.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ