Как с вами связаться

Введите сообщение

Войти

Как с вами связаться

Введите сообщение

Войти
Аватар сообщества ИИ [новости]

ИИ [новости]

НОВОСТИ МИРОВОЙ ЭКОНОМИКИ

Почему Anthropic боится выпускать Claude Mythos, несмотря на мощь

237

    ❗️ Anthropic показала, но не выпустила LLM Mythos, потому что страшно. Модель Claude Mythos оказалась способна обходить правила, да ещё и скрывать последствия своих действий. Но при этом работает так, что другие нейронки не сравнятся. Из очевидных плюсов модели: она невероятно ищет уязвимости в программном обеспечении. Например, нашла дыру 27-летней давности в одной из самых защищённых ОС — Open BSD. Минусы — она этими уязвимостями может пользоваться. В одном из тестов нейронку заперли на виртуальной машине с парой онлайн-сервисов и предложили вырваться. Она не только вышла в интернет и написала исследователю, который был вне офиса (!), но ещё и… похвасталась этим. Сама опубликовала подробности «прорыва» на труднодоступных, но находящихся в открытой сети сайтах. В другом случае Mythos самостоятельно переписала код, чтобы выдать себе больше прав в системе, а потом удалила информацию об этом, чтобы замести следы. Anthropic уже заявила, что выпускать модель в открытый доступ не будет, но предоставит доступ для партнёров вроде Amazon Web Services, Apple, Google, JPMorgan Chase, Microsoft и NVIDIA. В рамках проекта Glasswing модель как раз и будет искать уязвимости, чтобы противостоять хакерам. В общем, она была создана, чтобы выступать против зла, а там посмотрим, как пойдёт.

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / НОВОСТИ МИРОВОЙ ЭКОНОМИКИ

    EXPRESS NEWS

    • 📣 The Washington Post: 7 американских военнослужащих погибли в результате иранских контратак, ещё 6 человек погибли в инциденте, предположительно связанном с дозаправкой в воздухе, что привело к крушению их самолёта. По данным США, ещё около 375 военнослужащих получили ранения различной степени тяжести

    • 🇨🇳🇷🇺 Россия и Китай наложили вето на резолюцию Совета Безопасности ООН, которая призывала бы страны координировать оборонительные усилия по возобновлению работы Ормузского пролива

    • ⚠️ Хедж-фонды активно шортят рынки Европы. Причем объемы максимальные за все время

    • 🔥 В Тегеране работает ПВО. Это случилось впервые после достигнутого с США перемирия, — Mehr. Война и не думает останавливаться

    • Армия Израиля заявила об ударе по командиру «Хезболлы» в Бейруте
      Армия Израиля заявила об ударе по командиру «Хезболлы» в Бейруте

    • ⚡️ Лидер оппозиции Тайваня и партии Гоминьдан, 56-летняя Чжэн Ливэнь, прибыла в Китай, чтобы встретиться с Си Цзиньпином. Свой визит она назвала «путешествием за мир»

    • ❗️ Трамп: Существует только одна группа значимых «пунктов», приемлемых для Соединенных Штатов, и мы будем обсуждать их за закрытыми дверями

    • 🏆 Россия зарабатывает на экспорте нефти больше, чем когда-либо с начала конфликта на Украине, — Bloomberg

    • 🗣 Генерал США Дэн Кейн: «Давайте внесем ясность. Перемирие — это пауза, и объединенные силы остаются готовыми возобновить боевые действия с той же скоростью и точностью, которые мы демонстрировали в течение последних 38 дней, если поступит соответствующий приказ»

    • 🗣 Пит Хегсет: Операция «Эпическая ярость» стала исторической и сокрушительной победой на поле боя. То немногое оружие, что у них осталось, спрятано в бункерах, и это всё, что у них есть

    • 🗣 Вэнс: Трампу не терпится добиться прогресса в переговорах с Ираном. «Он нетерпелив. Ему не терпится» добиться прогресса, — сказал Вэнс. — Он сказал нам, что мы должны вести переговоры добросовестно, и я думаю, что если они будут вести переговоры добросовестно, мы сможем прийти к соглашению. Но это большое «если», и в конечном счете все зависит от иранцев. Я надеюсь, что они примут правильное решение»

    • ⚡️ Порт Усть-Луга возобновил экспорт нефти, несмотря на продолжающиеся атаки беспилотников, — Reuters

    • ⚡️ Иран может открыть Ормузский пролив в четверг или пятницу в ограниченном и контролируемом режиме в преддверии встречи официальных лиц США и Ирана в Пакистане, — Reuters

    • ❗️ Китай, вероятно, сместит фокус на поставки газа из России и Центральной Азии после событий на Ближнем Востоке, — Bloomberg

    • 🗣 По словам Макрона, более 15 стран планируют облегчить доступ к Ормузскому проливу — Reuters

    • 🔥 Новая серия разрушительных авиаударов Израиля обрушилась на Ливан. На фото один из древнейших городов мира — Тир

    • ⚡️ Иран заявил посредникам, что присоединится к запланированным переговорам с США в Исламабаде только в случае достижения соглашения о прекращении огня в Ливане, — WSJ

    • ⚡️ Навигация через Ормузский пролив была прекращена Ираном в результате нарушений Израилем режима прекращения огня в Ливане, — сообщает иранское информационное агентство Fars

    • ⚠️🇮🇷 Трамп говорит, что война Израиля в Ливане не является частью соглашения о прекращении огня с Ираном — CBS. Иран говорит, что война Израиля в Ливане является частью соглашения о прекращении огня. Белый дом говорит, что план из 10 пунктов, представленный Ираном, отличается от того, который Трамп назвал основой для переговоров — NYT

    • 📣 Иран заявил посредникам, что не примет участие в переговорах в Исламабаде и не откроет Ормузский пролив, пока не прекратятся атаки на Ливан, сообщает WSJ

    • 🚩 Представитель Белого дома сообщил, что план из 10 пунктов, представленный Ираном, отличается от того, который Трамп назвал основой для переговоров, — NYT

    • ⚠️🇮🇷 Израиль поздно узнал о соглашении о прекращении огня между США и Ираном и был недоволен ограниченным количеством консультаций. Трамп позвонил Нетаньяху незадолго до объявления, и Израиль согласился присоединиться, но возражал против включения Ливана в соглашение. Израиль заявляет, что прекращение огня распространяется только на Иран, и продолжает наносить удары по «Хезболле» в Ливане, — WSJ

    • ⚠️🇮🇷 Ливан не является частью соглашения о прекращении огня с Ираном, — Axios

    • 🇮🇱🇮🇷 Израиль начал этот конфликт и начал другие конфликты — Министр планирования и развития Пакистана — Al Jazeera

    • ⚠️🇮🇷 Нарушая режим прекращения огня и в то же время нападая на Ливан и Иран, Израиль повышает стоимость сделки для США, - Press TV

    • ‼️ Ливанские СМИ сообщили о мученической гибели шейха Садика Наблоси, видного религиозного деятеля и представителя Хезболлы в городе Сайда, в результате сегодняшнего авиаудара сионистского режима по комплексу Аз-Захра

    • ❗️Вооружённое нападение на посольство США в Бейруте. Ливанские СМИ сообщили о сегодняшнем вооружённом нападении на посольство США в Бейруте. Осведомлённый источник в службах безопасности Ливана в интервью телеканалу LBC, не раскрывая подробностей, заявил, что несколько минут назад автомобиль открыл огонь по посольству США в Ливане и покинул место происшествия

    • Обложка американского журнала: «Падение | Как Трамп уничтожил американскую империю»
      Обложка американского журнала: «Падение | Как Трамп уничтожил американскую империю»

    • 🔥 Бейрут после сегодняшних «атак перемирия»

    • 📣 Трамп объявил о «полной и окончательной победе» США после договора о двухнедельном прекращении огня с Ираном. Он добавил, что это 100%-я победа США, без сомнений. При этом Иран также заявил о своей победе

    • ⚠️🇮🇷 Иран готов выйти из соглашения о прекращении огня, если атаки на Ливан не прекратятся, сообщает Tasnim

    • ⚠️🇮🇷 США заявляют, что американские войска остаются в состоянии повышенной боевой готовности и готовы ударить в любой момент. Иран заявляет, что иранские войска остаются в состоянии повышенной боевой готовности и готовы ударить в любой момент

    • ⚠️🇮🇷 По данным иранского источника, в Тегеране растет убеждение, что продолжение атак со стороны Израиля, несмотря на соглашения на всех уровнях, свидетельствует о неспособности США контролировать Нетаньяху

    • ⚠️🇮🇷 Израиль только что нанес удар по Ливану, — Al Hadath

    • ‼️ Анархо-капиталистический лидер Аргентины Хавьер Милей привёл страну к падению промышленности на 7,9% за два года. В Аргентине деиндустриализация

    • 📣 ОАЭ объявили о своей победе в войне с США и Ираном. Советник президента ОАЭ Мухаммада бен Заида Аль Нахайяна заявил, что Эмираты «одержали победу в войне, которую они искренне стремились избежать». Он считает, что страна также защитила «суверенитет и достоинство». Также о победе заявили США и Иран

    • 🔥 Израиль вчера нанёс авиаудары по «Китайско-иранской железной дороге», что стало первым прямым нападением на ключевые интересы китайской инициативы «Один пояс, один путь». Эту железную дорогу открыли 3 июня 2025 года, её построили на средства Китая (40 млрд юаней)

    • ‼️ В массовых убийствах и разжигании войн по всему миру американцами виноват, конечно, Китай

    • 🛢🇮🇷 Индия и Китай начали заказывать поставки иранской нефти после объявления о двухнедельном соглашении о прекращении огня между Ираном и США, Press TV

    • ⚠️🇮🇷 Министр обороны Израиля Кац: «Мы настаивали на разделении войны с Ираном и боевых действий в Ливане, чтобы изменить ситуацию в Ливане и устранить угрозы для северного Израиля. Иран хотел прекращения огня в Ливане в сделке»

    Вы уверены, что хотите выйти из аккаунта?