Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества ВТБ: НОВОСТИ

ВТБ: НОВОСТИ

ВТБ - последние новости сегодня - MONDIARA

Как снизить риски ИИ-галлюцинаций: советы экспертов ВТБ по безопасности и точности искусственного интеллекта

4 748

    Эксперты ВТБ поделились методами снижения рисков ИИ-галлюцинаций. Специалисты ВТБ рассказали о главных способах борьбы с так называемыми «галлюцинациями» искусственного интеллекта — явлением, когда нейросети генерируют правдоподобный, но недостоверный или полностью вымышленный контент. Такие ошибки могут не только дезориентировать пользователей, но и привести к серьезным финансовым и репутационным потерям для компаний. «Иногда ИИ предлагает несуществующие книги или придумывает условия продуктов, которые на самом деле отсутствуют. Модель не проверяет факты, а лишь подбирает наиболее вероятный ответ, из-за чего и возникают подобные заблуждения. Уменьшить число галлюцинаций помогает точная и чёткая формулировка запросов, но самым надёжным остаётся контроль человеком», — пояснил Лев Меркушов, руководитель направления ИИ-решений ВТБ. Алексей Пустынников, глава команды по разработке моделей, отметил, что ошибки в работе языковых моделей бывают разных типов. Поскольку ИИ не осознаёт смысла информации и не проверяет её достоверность в режиме реального времени, «галлюцинации» могут проявляться как неправильное воспроизведение фактов, придумывание данных или некорректное выполнение инструкций. «Существуют фактические галлюцинации — когда модель ошибочно указывает дату или имя, фабрикация фактов — полностью вымышленные сведения, а также ошибки при следовании указаниям: например, неправильное выполнение задачи или логические промахи», — рассказал Пустынников. Причины подобных сбоев кроются в методах обучения моделей, которые основываются на вероятностях, а не на реальном понимании. Недостаток информации, устаревшие данные или искажения в обучающих выборках приводят к тому, что ИИ пытается «догадаться» недостающие сведения. Дополнительно ошибки усиливаются из-за отсутствия проверки в реальном времени и ограниченного доступа к свежей информации. «Особо сложные и абстрактные задачи увеличивают вероятность ошибок, поэтому мы рекомендуем разбивать такие запросы на последовательные этапы — цепочку рассуждений, а также использовать модели, которые перед ответом обращаются к проверенным базам данных. Дообучение на узкоспециализированных данных и внедрение защитных механизмов — AI guardrails — помогают снижать количество неправильных ответов», — отметил Лев Меркушов. В ВТБ применяются каскадные модели, когда несколько алгоритмов последовательно обрабатывают и корректируют результаты друг друга. Такой подход используется в задачах распознавания речи и текста, а также в прогнозировании операций с наличностью. Сейчас ведется работа над каскадными решениями для интеллектуального поиска по корпоративным знаниям. Особое внимание уделяется качеству исходных данных: фильтрация обучающих выборок и проверка источников экспертами значительно повышают надёжность моделей, хотя и увеличивают затраты на обучение, пояснил Алексей Пустынников. Эксперты банка подчёркивают, что успешное применение искусственного интеллекта требует не только технологической зрелости, но и ответственного отношения к контролю качества данных, прозрачности алгоритмов и человеческому надзору. Такой подход помогает создавать надёжные ИИ-системы, которые поддерживают бизнес, минимизируют риски и укрепляют доверие клиентов. Источник: www.vtb.ru

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / ВТБ - последние новости сегодня - MONDIARA

    EXPRESS NEWS

    • Планов встречи Путина и Трампа пока нет, сначала нужно поработать над украинским урегулированием, заявил Песков в интервью «Известиям»
      Планов встречи Путина и Трампа пока нет, сначала нужно поработать над украинским урегулированием, заявил Песков в интервью «Известиям»

    • Диалог с США продолжается, состоялось несколько разговоров с Уиткоффом в течение последней недели, заявил Дмитриев

    • Армения не вернется в ОДКБ и примет решение о выходе, когда придет время. Об этом заявил Пашинян в ходе предвыборных дебатов на Общественном телевидении
      Армения не вернется в ОДКБ и примет решение о выходе, когда придет время. Об этом заявил Пашинян в ходе предвыборных дебатов на Общественном телевидении
    • В диалоге с США по украинскому урегулированию наблюдается замкнутый круг, заявил Лавров «Известиям». Кушнер и Уиткофф искренне заинтересованы в нормализации отношений с РФ, но это пока ни во что не материализуется, отметил он
      В диалоге с США по украинскому урегулированию наблюдается замкнутый круг, заявил Лавров «Известиям». Кушнер и Уиткофф искренне заинтересованы в нормализации отношений с РФ, но это пока ни во что не материализуется, отметил он

    • На вывоз погребенного на трех иранских объектах урана потребовалось бы около двух недель. Сейчас необходимости изымать его нет, заявил Трамп. Он добавил, что был бы готов к уважительной встрече с верховным лидером Ирана в случае договоренности

    • Трамп выразил уверенность в том, что и Путин, и Зеленский пойдут на компромиссы, необходимые для урегулирования конфликта на Украине

    • Кремль никогда не идеализировал статус США, при всем уважении к добрым услугам Вашингтона, для РФ важнее национальные интересы, заявил Песков. Отношениям РФ и США не откатиться назад, потому что «некуда» уже откатываться

    • Соглашение по проектированию «тоннеля Путина — Трампа» под Беринговым проливом подпишут 5 июня. Об этом заявил Дмитриев телеканалу «Звезда» на полях ПМЭФ

    • Для переговоров о приеме в ЕС Украине надо выполнить обязательства перед Венгрией, заявил Мадьяр
      Для переговоров о приеме в ЕС Украине надо выполнить обязательства перед Венгрией, заявил Мадьяр

    • Трамп сравнил сооружение временной арены для поединков UFC на территории Белого дома с Эйфелевой башней и допустил, что демонтировать ее никогда не будут

    • Мадьяр считает невозможным полный отказ от энергоносителей из России. Премьер-министр Венгрии полагает, что по завершении украинского конфликта «никто не будет заинтересован в новой холодной войне, в том числе в энергетической сфере»

    • Действующий градоначальник О Се Хун победил на выборах мэра Сеула, свидетельствуют данные ЦИК Республики Корея. О Се Хун представлял ведущую оппозиционную партию «Гражданская сила». За него отдали голоса 49,07% избирателей

    • Ким Чен Ын посетил новый завод по производству ядерных материалов в КНДР, сообщило ЦТАК. Лидер КНДР заявил, что за пять лет стране удалось удвоить мощности по производству оружейных ядерных материалов

    • Вашингтонская администрация участвует в разработке в Конгрессе законопроекта об ужесточении санкций в отношении России, заявил Рубио. Инициатива, о которой идет речь, представлена в апреле 2025 года. Она предусматривает в том числе вторичные санкции в отношении торговых партнеров России

    • США не выпустят купюру в $250 с портретом Трампа, если Конгресс будет против, заявил министр финансов страны Скотт Бессент

    • В Германии есть интерес к перезапуску «Северных потоков» после окончания конфликта на Украине. Об этом заявил ТАСС на ПМЭФ замруководителя фракции АдГ в Бундестаге Маркус Фронмайер
      В Германии есть интерес к перезапуску «Северных потоков» после окончания конфликта на Украине. Об этом заявил ТАСС на ПМЭФ замруководителя фракции АдГ в Бундестаге Маркус Фронмайер

    • Трамп в очередной раз раскритиковал ключевые СМИ США и назвал CNN мусором: «Такие, как вы, очень плохо обходились с нашими людьми. Фейковые СМИ вроде CNN, вроде The New York Times и других плохо обходились с нашими людьми»

    • Власти Германии подрывают экономику и энергетическую безопасность собственной страны своими изоляционистскими подходами. Такое мнение высказал Кирилл Дмитриев. Так он прокомментировал новость о том, что власти ФРГ осудили поездку двух депутатов фракции АдГ на ПМЭФ

    • Трамп заявил, что переговоры США и Ирана идут очень хорошо, сделка возможна на выходных, хотя провала тоже нельзя исключать. Предварительное соглашение Вашингтона и Тегерана предусматривает совместное извлечение урана на разбомбленных ядерных объектах Ирана, заявил Трамп

    • Конфликт Ирана и США завершится только в случае прекращения войны между Израилем и Ливаном, заявил Арагчи в интервью Al Mayadeen. Он подчеркнул, что Тегеран «не вмешивался и не будет вмешиваться во внутренние дела Ливана»
      Конфликт Ирана и США завершится только в случае прекращения войны между Израилем и Ливаном, заявил Арагчи в интервью Al Mayadeen. Он подчеркнул, что Тегеран «не вмешивался и не будет вмешиваться во внутренние дела Ливана»

    • Соединенные Штаты не отказываются от идеи получения суверенитета над Гренландией, заявил Рубио. На вопрос о том, известно ли ему, что Гренландия является частью Дании, глава внешнеполитического ведомства ответил: «Пока что»

    • Дмитриев обсудил с представителем АдГ Маркусом Фронмайером возобновление делового диалога между РФ, ФРГ и США. Об этом он написал на своей странице в соцсети X

    • Трамп примет участие в саммите НАТО в июле, сообщил Рубио
      Трамп примет участие в саммите НАТО в июле, сообщил Рубио
    • Рубио признал, что Вашингтон нельзя считать беспристрастным посредником в урегулировании на Украине, поскольку он поддерживает Киев посредством поставок оружия и военной техники
      Рубио признал, что Вашингтон нельзя считать беспристрастным посредником в урегулировании на Украине, поскольку он поддерживает Киев посредством поставок оружия и военной техники

    • США ожидает, что Ливан и Израиль по итогам пятого раунда консультаций в американской столице смогут утвердить план действий по укреплению безопасности, заявил Рубио

    • В рамках ПМЭФ планируются встречи на высоком уровне с Саудовской Аравией, Бахрейном, ОАЭ, руководством АТЭС. Об этом заявил Костин

    • «Если бы не я, больше бы не было никакого Израиля». Трамп заявил, что своим решением начать военную операцию против Ирана он спас Израиль от потенциального уничтожения

    • Трамп считает, что тандем Вэнса и Рубио на выборах в 2028 году будет непобедимым: «Я смотрю на них вместе, они отлично ладят. У них хорошие отношения. Они во многом чем-то похожи, и, я думаю, если они будут баллотироваться в тандеме, они будут непобедимы»

    • Трамп заявил, что хотел бы встретиться с верховным лидером Ирана Хаменеи. Президент США утверждает, что верховный лидер Ирана участвует в принятии решений в переговорном процессе с Вашингтоном. Он отмечает, что переговоры с Ираном «быстро развиваются»

    • Мадьяр выступил против отмены в ЕС принципа единогласия при принятии решений: «Люди хотят видеть ЕС, который основывается на сильных государствах-членах, а не "Соединенные штаты Европы"»

    • Венгрия могла бы быть местом переговоров по урегулированию конфликта на Украине, заявил Мадьяр
      Венгрия могла бы быть местом переговоров по урегулированию конфликта на Украине, заявил Мадьяр
    • Молдавии нужно вернуться на площадки СНГ и ЕАЭС, а также отказаться от антироссийских санкций ради спасения своей экономики. Об этом заявил Додон
      Молдавии нужно вернуться на площадки СНГ и ЕАЭС, а также отказаться от антироссийских санкций ради спасения своей экономики. Об этом заявил Додон

    • Венесуэле нужны новые выборы, но для них требуется создать условия, заявил Рубио: «Эти условия включают свободные и открытые СМИ. Нужно дать время и пространство политическим партиям на организацию и подготовку к этим выборам. Нужен новый избирательный совет»

    • Вашингтонская администрация готова при определенных условиях согласиться с тем, что Иран будет иметь возможность использовать атомную энергию. Об этом заявил госсекретарь США Марко Рубио

    • Трамп заявил, что переговоры США и Ирана продолжаются непрерывно, но их исход неясен: «Сообщения лживых СМИ о том, что Исламская Республика Иран и США прекратили разговаривать несколько дней назад, являются абсолютно ложными и вводят в заблуждение»

    • Идея отмены или смягчения американских санкций в отношении Ирана в обмен на открытие Ормузского пролива не обсуждается. Об этом заявил Рубио

    • Переговоры США и Ирана продолжаются, обсуждаются и аспекты ядерной программы Тегерана, успех может быть достигнут в ближайшие дни, заявил Рубио

    • Президент Танзании Самия Сулуху Хасан 3–5 июня посетит РФ с государственным визитом, сообщил Ушаков

    • Пашинян заявил, что его разговор с Путиным 1 июня был позитивным
      Пашинян заявил, что его разговор с Путиным 1 июня был позитивным

    • Вучич заявил, что не пойдет на новый президентский срок после истечения нынешнего. При этом политик, отвечая на вопрос Bloomberg, заявил, что может занять пост премьер-министра, так как его Сербская прогрессивная партия нуждается в нем

    Вы уверены, что хотите выйти из аккаунта?