Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества ВТБ [новости]

ВТБ [новости]

НОВОСТИ АКЦИЙ РОССИИ

Как снизить риски ИИ-галлюцинаций: советы экспертов ВТБ по безопасности и точности искусственного интеллекта

4 748

    Эксперты ВТБ поделились методами снижения рисков ИИ-галлюцинаций. Специалисты ВТБ рассказали о главных способах борьбы с так называемыми «галлюцинациями» искусственного интеллекта — явлением, когда нейросети генерируют правдоподобный, но недостоверный или полностью вымышленный контент. Такие ошибки могут не только дезориентировать пользователей, но и привести к серьезным финансовым и репутационным потерям для компаний. «Иногда ИИ предлагает несуществующие книги или придумывает условия продуктов, которые на самом деле отсутствуют. Модель не проверяет факты, а лишь подбирает наиболее вероятный ответ, из-за чего и возникают подобные заблуждения. Уменьшить число галлюцинаций помогает точная и чёткая формулировка запросов, но самым надёжным остаётся контроль человеком», — пояснил Лев Меркушов, руководитель направления ИИ-решений ВТБ. Алексей Пустынников, глава команды по разработке моделей, отметил, что ошибки в работе языковых моделей бывают разных типов. Поскольку ИИ не осознаёт смысла информации и не проверяет её достоверность в режиме реального времени, «галлюцинации» могут проявляться как неправильное воспроизведение фактов, придумывание данных или некорректное выполнение инструкций. «Существуют фактические галлюцинации — когда модель ошибочно указывает дату или имя, фабрикация фактов — полностью вымышленные сведения, а также ошибки при следовании указаниям: например, неправильное выполнение задачи или логические промахи», — рассказал Пустынников. Причины подобных сбоев кроются в методах обучения моделей, которые основываются на вероятностях, а не на реальном понимании. Недостаток информации, устаревшие данные или искажения в обучающих выборках приводят к тому, что ИИ пытается «догадаться» недостающие сведения. Дополнительно ошибки усиливаются из-за отсутствия проверки в реальном времени и ограниченного доступа к свежей информации. «Особо сложные и абстрактные задачи увеличивают вероятность ошибок, поэтому мы рекомендуем разбивать такие запросы на последовательные этапы — цепочку рассуждений, а также использовать модели, которые перед ответом обращаются к проверенным базам данных. Дообучение на узкоспециализированных данных и внедрение защитных механизмов — AI guardrails — помогают снижать количество неправильных ответов», — отметил Лев Меркушов. В ВТБ применяются каскадные модели, когда несколько алгоритмов последовательно обрабатывают и корректируют результаты друг друга. Такой подход используется в задачах распознавания речи и текста, а также в прогнозировании операций с наличностью. Сейчас ведется работа над каскадными решениями для интеллектуального поиска по корпоративным знаниям. Особое внимание уделяется качеству исходных данных: фильтрация обучающих выборок и проверка источников экспертами значительно повышают надёжность моделей, хотя и увеличивают затраты на обучение, пояснил Алексей Пустынников. Эксперты банка подчёркивают, что успешное применение искусственного интеллекта требует не только технологической зрелости, но и ответственного отношения к контролю качества данных, прозрачности алгоритмов и человеческому надзору. Такой подход помогает создавать надёжные ИИ-системы, которые поддерживают бизнес, минимизируют риски и укрепляют доверие клиентов. Источник: www.vtb.ru

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / НОВОСТИ АКЦИЙ РОССИИ

    EXPRESS NEWS

    • Brent подешевела до $89,11 за баррель. Эталонные марки нефти ушли в крутое пике в пятницу после заявлений об открытии Ормузского пролива.. Цена июньских фьючерсов на нефть марки Brent на лондонской бирже ICE Futures по данным на 16:56 мск пятницы рухнула на $10,28 (10,34%), до $89,11 за баррель.

    • Los Angeles Post: Европа, вероятно, располагает запасами авиационного топлива только на шесть недель. Этот кризис был описан как «крупнейший энергетический кризис», который может привести к перебоям в авиаперелётах и усилению давления на мировую экономику

    • Reuters: четыре осведомлённых источника сообщили, что индийские нефтеперерабатывающие заводы используют китайский юань для расчётов за иранскую нефть через Mumbaĭское отделение банка ICICI. Индийская нефтяная компания оплатила 95% стоимости груза сразу после входа танкера в территориальные воды Индии

    • «Армия обороны Израиля останется в южном Ливане и будет удерживать все районы, которые она захватила и очистила». Об этом заявил министр обороны Израиля Исраэль Кац, отметив, что военные операции в Ливане будут продолжены.

    • Самолёт израильского правительства «Крыло Сиона» теперь возвращается в Израиль после более чем 6 недель отсутствия. Основной борт израильских властей, который используют президент страны Ицхак Герцог и премьер-министр Биньямин Нетаньяху, покинул Израиль всего за несколько часов после начала войны с Ираном и позже приземлился в Берлине, где находился более 6 недель

    • Франция готова задействовать часть своих кораблей из Средиземного и Красного морей для потенциальной миссии в Ормузском проливе, заявил Макрон. Британия и Франция возглавят многонациональную миссию по защите свободы навигации в Ормузском проливе, как только позволят условия, сообщил Стармер

    • Поражение партии Орбана на выборах могло быть вызвано ее сближением с администрацией Трампа, пишет Politico со ссылкой на источники. При этом глава канцелярии Орбана сообщил, что премьер-министр переходит в оппозицию, но остается лидером своей партии.

    • США и Иран обсуждают возможность разблокирования $20 млрд из замороженных средств Тегерана в обмен на передачу им Вашингтону своего обогащенного урана, сообщает Axios. Новый раунд очных переговоров США и Ирана может пройти в воскресенье в столице Пакистана

    • Военная блокада Ирана со стороны США продолжает действовать — официальный представитель США. Трамп: Ормузский пролив открыт, но морская блокада остается в силе

    • Дональд Трамп поблагодарил Иран за открытие Ормузского пролива
      Дональд Трамп поблагодарил Иран за открытие Ормузского пролива

    • «Никакие вы не демократы». Так Лукашенко прокомментировал внешнюю политику США. «Ваша [американская] политика в Венесуэле, угрозы Кубе и война на Ближнем Востоке, ну и другие вещи говорят о том, что вы самые настоящие диктаторы», — сказал глава государства в интервью RT. Он также заявил, что США стоит учиться реальной демократии у Белоруссии

    • Иран открыл Ормузский пролив для всех коммерческих судов до конца периода прекращения огня, заявил глава МИД
      Иран открыл Ормузский пролив для всех коммерческих судов до конца периода прекращения огня, заявил глава МИД

    • Турция сохраняет надежду на мирное урегулирование на Украине, готова обеспечить проведение переговоров на высшем уровне, заявил Эрдоган

    • В Европе к концу мая начнут отменять авиарейсы из-за нехватки топлива. Это уже происходит в некоторых частях Азии, говорится в заявлении Международной ассоциации воздушного транспорта. Как заявил ранее глава IATA Вилли Уолш, восстановление поставок авиационного топлива займет несколько месяцев, даже если судоходство в Ормузском проливе будет налажено

    • Илон Маск заявил, что правительство должно выплачивать населению деньги ради борьбы с безработицей, обусловленной внедрением ИИ. По его мнению, ИИ и робототехника позволят производить товары и услуги в «объеме, значительно превышающем рост денежной массы», что предотвратит повышение уровня инфляции

    • Доля стран БРИКС в мировой экономике по итогам прошлого года превысила рекордные 39%, что почти на 11 процентных пунктов больше, чем у стран G7 («Большой семерки»). Об этом сообщают РИА Новости со ссылкой на данные МВФ и отмечают, что среди стран БРИКС самый большой вклад в мировую экономику вносят Китай, Индия и Россия

    • Американский самолет разведки Bombardier Challenger 650 Artemis II вновь летает над нейтральными водами Черного моря. Об этом сообщил ТАСС источник в авиадиспетчерских службах Евросоюза. Борт сделал несколько кругов, однако не входил в воздушное пространство ни одной из стран

    • Deutsche Bank сообщил европейским регуляторам о нарушении санкций ЕС в отношении российских клиентов, пишет FT. Банк выявил в розничном подразделении приём депозитов свыше €100 тыс. от лиц под санкциями после создания рабочей группы для проверки соблюдения режима в связи с его ужесточением в Германии в феврале

    • Мурашко назвал одну из главных биологических угроз современности. Это антимикробная резистентность, из-за распространения которой теряется эффективность лечения, вынужденно увеличиваются сроки госпитализации

    • Поставки российской нефти по трубопроводу «Дружба» в Венгрию могут возобновиться на следующей неделе. Как сообщил Мадьяр, об этом его проинформировал глава нефтегазовой компании MOL Хернади, поддерживающий контакты с украинской стороной. Жолт Хернади также планирует совершить поездку в Россию, чтобы обсудить вопрос о продолжении поставок российского сырья в Венгрию

    • «Я чувствовал боль и пустоту. Я исцеляюсь работой. Я пережил эмоциональные качели. После поражения я чувствую себя моложе. Эта боль высвободила много энергии». Премьер-министр Венгрии Виктор Орбан рассказал о своих чувствах после поражения на выборах.

    • Образ Америки как главной сверхдержавы мира «летит в пропасть» из-за поражения в Иране, когда Тегеран наносит удары по их военным объектам и союзникам, заявил Алексей Пушков в интервью ТАСС

    • Франция не пригласила на запланированный в Париже саммит по Ормузскому проливу главу Еврокомиссии Урсулу фон дер Ляйен и генсека НАТО Марка Рютте, пишет Financial Times, ссылаясь на трёх официальных лиц. Как сообщает FT, французская сторона дважды вычёркивала фамилии Рютте и фон дер Ляйен из предложенного Великобританией списка приглашённых

    • Крупнейший авианосец Соединённых Штатов «USS Dwight D. Eisenhower» пострадал от загадочного пожара, в результате которого трое моряков получили ранения. Инцидент произошёл во время прохождения ими курса ремонта и технического обслуживания на военно-морской верфи в Норфолке, штат Вирджиния

    • Командующий армией Пакистана Асим Мунир встретился с Пезешкиан
      Командующий армией Пакистана Асим Мунир встретился с Пезешкиан

    • Правящая партия Британии проголосовала за закон, который обязывает пенсионные фонды инвестировать деньги в «приоритетные» проекты правительства Великобритании

    • Великобритания готовится к перебоям с продовольствием из-за конфликта с Ираном и дефицита углекислого газа: его используют для упаковки напитков, забоя животных, а также в медицине и атомной энергетике. Полки магазинов не опустеют даже в худшем случае, но ассортимент продуктов сократится. Если Ормузский пролив не откроется к июню, последствия будут ощутимыми

    • Аналитики Deutsche Bank прогнозируют структурное ослабление доллара на фоне войны в Иране и возможного роста нефтеюаня. Если страны начнут рассчитываться за нефть в юанях, привычный «нефтедоллар» может потерять свою роль. Доллар действительно пережил слабый 2025 год: индекс доллара упал почти на 10%, несмотря на краткосрочное укрепление в начале 2026 года

    • Bosch впервые за много лет оказалась в убытках. В 2025 году убытки составили 400 миллионов евро. В 2024 году чистая прибыль после уплаты налогов составила около 1,3 млрд евро. По словам представителя компании, последний раз Bosch сообщала об убытках в кризисном 2009 году.

    • В США обсуждают санкции против китайских ИИ-компаний за копирование. Комитет по иностранным делам Палаты представителей рассмотрит «Акт о предотвращении кражи американских ИИ-моделей». Закон может наложить санкции на компании из Китая, копирующие американские модели.

    • Итальянский производитель шин Pirelli объявил о запуске «плана смягчения последствий», который позволит ограничить влияние продолжающегося кризиса на Ближнем Востоке. План включает повышение цен, дополнительное сокращение затрат, а также пересмотр логистических потоков и временное увеличение резервных запасов критически важного сырья для обеспечения непрерывности производства

    • Международный валютный фонд (МВФ) официально возобновил отношения с Венесуэлой после семилетнего перерыва, вызванного «непрозрачностью и цензурой в социалистической системе».

    • Исполняющий обязанности директора иммиграционной службы США (ICE) Тодд Лайонс сегодня подал заявление об отставке в Министерство внутренней безопасности США. Согласно Fox News, он останется на своем посту до 31 мая, пока не будет найден его преемник.

    • По данным американской разведки, Китай рассматривал возможность поставки Ирану передовых радарных систем X-диапазона в начале войны, что позволило бы улучшить обнаружение и отслеживание таких угроз, как низколетящие беспилотники и крылатые ракеты, а также укрепить его противовоздушную оборону. Об этом сообщает CBS News и отмечает, что неясно, состоялась ли эта поставка.

    • США сообщили европейским партнёрам, что некоторые запланированные поставки оружия, вероятно, будут отложены, поскольку война с Ираном оказывает давление на американские запасы, — сообщает Reuters.

    • Посольство Франции в Москве лукавит, утверждая, что правила выдачи виз россиянам не изменились, заявила Мария Захарова. Диппредставительству следовало бы добавить, что Евросоюз в одностороннем порядке прекратил действие соглашения с Россией об упрощении выдачи виз.

    • Минфин США запускает операцию «Экономическая ярость» для максимального давления на Тегеран, чтобы иранская сторона сделала «мудрый выбор», заявил министр войны США Пит Хегсет на брифинге. Операция США против Ирана ранее получила название «Эпическая ярость».

    • Генеральный секретарь НАТО Марк Рютте и глава Еврокомиссии Урсула фон дер Ляйен 16 апреля провели в Брюсселе закрытые консультации, не предполагавшие последующего общения с прессой. Накануне встречи Рютте с фон дер Ляйен еврокомиссар по обороне Андрюс Кубилюс поднял на заседании в Европарламенте вопрос, как подготовиться к потенциальному выводу американского контингента из Европы

    • Если на американо-иранских переговорах будет достигнуто соглашение о прекращении конфликта, для его подписания может приехать президент США Дональд Трамп. Об этом сообщил сам глава Белого дома на пресс-подходе. «Если в Исламабаде будет подписана сделка, я могу поехать», — сказал господин Трамп

    • Стратегия ЕС в отношении РФ порочна, несостоятельна и не работает, заявил Фицо. Он добавил, что Евросоюз «до сих пор не верит в необходимость» мирных инициатив и «продолжает твердить лишь о войне»

    Вы уверены, что хотите выйти из аккаунта?