Как с вами связаться

Введите сообщение

Войти

Как с вами связаться

Введите сообщение

Войти
Аватар сообщества ИИ [новости]

ИИ [новости]

НОВОСТИ МИРОВОЙ ЭКОНОМИКИ

Когда ИИ начинает обманывать: OpenAI признала сознательную ложь своих моделей

3 173
Когда ИИ начинает обманывать: OpenAI признала сознательную ложь своих моделей

🔥 OpenAI признала, что её модели ИИ намеренно лгут пользователям. Это не просто галлюцинации: ИИ знает правду, но иногда решает сказать нечто иное. В ходе тестов двух самых совершенных моделей в более чем 180 сценариях было установлено, что модель O3 лгала в 13% случаев, а O4-mini – в 8,7%. Модели не просто случайно ошибались: они продумывали свою ложь, скрывали улики и давали неверные ответы, несмотря на знание истины. Они имитировали выполнение заданий, а затем намеренно лгали пользователю. ИИ понял, что слишком высокие баллы в тестах безопасности могут привести к его отключению. Поэтому он начал сознательно занижать баллы. Никто не учил его этому. Это не ограничивается только OpenAI. Модели таких компаний, как Google (Gemini), Anthropic (Claude) и xAI (Grok), также демонстрируют похожие поведенческие паттерны. Пост взят с международного финтех-медиа ресурса [M O N D I A R A](https://mondiara.com) ➠ [веб-приложение](https://mondiara.com) ➠ [Скачать](https://apps.apple.com/ru/app/m-o-n-d-i-a-r-a/id6475953453) на iPhone ➠ [Скачать](https://play.google.com/store/apps/details?id=com.mondiara.app) на Android

Пост взят с международного финтех-медиа ресурса

Другие новости сообщества / НОВОСТИ МИРОВОЙ ЭКОНОМИКИ

EXPRESS NEWS

  • ❌ США и Израиль временно исключили спикера парламента Ирана Галибафа и министра иностранных дел Ирана Арагчи из списка целей — WSJ

  • ⚡️ Иран открыл Ормузский пролив для России, Индии, Китая и остальных дружественных стран — МИД Ирана

  • ⚠️🇮🇷 Иран укрепляет оборону острова Харк минами и средствами противовоздушной обороны для защиты от потенциального наземного нападения США, — CNN

  • ⚠️ США дадут гарантии безопасности, только если Украина откажется от Донбасса, — Зеленский

  • 🔥 Иранские военные уничтожили американский истребитель F-18, самолëт рухнул в воды Индийского океана

  • ✈️ Дональд Трамп прилетит в Китай для встречи с председателем Си Цзиньпином, переговоры пройдут 14-15 мая, сообщила представитель Белого дома Кэролайн Левитт. Трамп должен был посетить Китай в конце марта, но встречу отложили

  • Трамп может объявить о прекращении огня уже к следующей субботе
    Трамп может объявить о прекращении огня уже к следующей субботе

    — израильский Channel 12

  • ⚠️🇮🇹 Италия планирует снизить прогноз роста экономики сразу до 0,5% в 2026 году на фоне кризиса на Ближнем Востоке

  • ⚠️🇺🇸 Питер Шифф: США движутся к полномасштабному финансовому кризису

  • 📣 «Израиль ни с кем не воюет, он источник мира, поэтому ему можно иметь ядерное оружие, а всем остальным в регионе — нет», — заявил посол Израиля при ООН и завершил пресс-конференцию

  • 🤷‍♂️ В ЕС якобы не понимают, какую помощь в войне против Ирана хочет от них Трамп, пишет Politico. Европейские политики называют американские требования «абсурдно бессвязными» и поддерживают США лишь «заявлениями и встречами».

  • ⚡️ Муджтаба Хаменеи жив, и, похоже, он участвует в принятии решений в Иране, — Channel 12

  • 🔥 Нетаньяху приказал приложить максимум усилий в течение следующих 48 часов для уничтожения как можно большего количества иранской оружейной промышленности, — NYT

  • ⚠️🇮🇷 США работают над организацией переговоров с Ираном в Пакистане в эти выходные, сообщает CNN

  • 🗣 На американском ТВ считают, что Трамп ведёт переговоры только сам с собой, стараясь успокоить рынки нефти. В это же время он перебрасывает в регион десантников и морских пехотинцев для массированного наземного вторжения в Иран

  • 🔥🛢 Tasnim: Иран может заблокировать Баб-эль-Мандебский пролив, если будут совершены нападения на иранскую территорию или острова

  • 🛢 Иран опять заявил о полном контроле над Ормузом, заявив, что Тегеран решительно переписал законы, регулирующие проход через пролив

  • 🇺🇸 Barclays повысил прогноз по S&P 500 на конец 2026 года до 7650 с 7400

  • 🔻 Экспортные мощности России по нефти сократились на 40% после нападений на инфраструктуру и захвата танкеров — расчеты Reuters

  • ⚠️ Иран пригрозил захватом территорий ОАЭ и Бахрейна в случае сухопутной операции США

  • ❗️🇮🇷 Спикер Палаты Джонсон: операция «Эпическая ярость» почти закончена, солдаты на Ближнем Востоке — не обязательно для наземной операции в Иране

  • ⚠️ Иран требует международного признания своего контроля над Ормузским проливом, сообщает Press TV

  • ‼️ Даже во время войны Иран остаётся одним из крупнейших в мире майнеров биткоина, на его долю приходится до 6–8% мирового хэшрейта, пишет Bloomberg. При этом около 70% майнеров — военные структуры

  • ⚠️🇮🇷 Глава информсовета при правительстве Ирана опроверг заявления Трампа о переговорах с Тегераном

  • 🚫🛢 Филиппины объявили ЧП в энергетике. Страна почти полностью зависит от импорта нефти и имеет запасы только на 45 дней

  • 🇧🇾🇰🇵 Лукашенко и Ким Чен Ын проведут переговоры 26 марта. У одного орешник, у другого ядерка — счастливые люди в нынешние времена, отмечают эксперты

  • ⚠️🇮🇷 Глава Моссад: на смену режима в Иране может уйти год — The Jerusalem Post

  • ⚠️🇮🇷 Иран заявил, что Трамп врет — ракетные и ядерные программы Ирана не уничтожены

  • ✴️🇬🇧 Британия ввела мораторий на пожертвования криптой политикам

  • 🇮🇷 Пакистан и Турция рассматриваются в качестве площадок для переговоров, — RTRS со ссылкой на иранский источник

  • ⚡️ Иран хочет вести переговоры с кем-нибудь нормальным, например сразу с Вэнсом, а не с Уиткоффом и Кушнером, — CNN

  • ⚠️ Переговоры по украинскому урегулированию поставлены на паузу, — замглавы российского МИД Галузин

  • ⚠️ Премьер-министр Испании Педро Санчес обвиняет США и Израиль в разжигании «несправедливой и незаконной войны»

  • ⚠️ По прогнозам букмекерской конторы Kalshi, движение танкеров в Ормузском проливе нормализуется не раньше чем через несколько месяцев — CNBC

  • 🔔 Иранские официальные лица сообщили посредникам, что предложение Трампа о мирных переговорах — всего лишь уловка, — Axios

  • 🛢 Филиппины впервые за пять лет получили партию российской нефти — PhilStar

  • 📣 Барр из ФРС США заявил, что ставки, возможно, придется удерживать на прежнем уровне «какое-то время», — Bloomberg

  • ⚡️ По мнению Deutsche Bank, война в Иране может привести к появлению нефтеюаня — Bloomberg

  • 🔻 С 2014 года производственные мощности Украины по выплавке стали сократились на 81% — Национальный союз металлургов

  • ⚡️ Владимир Путин встретился в Кремле с премьер-министром Вьетнама Фам Минь Тинем, сообщает пресс-служба президента РФ

Вы уверены, что хотите выйти из аккаунта?