Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества Т-ТЕХНОЛОГИИ: НОВОСТИ

Т-ТЕХНОЛОГИИ: НОВОСТИ

Т-ТЕХНОЛОГИИ: последние новости сегодня

Новые технологии от Т-Банка

9 514

    Открытие ученых из T-Bank AI Research: Как искусственный интеллект принимает решения на разных этапах вычислений. Ученые из лаборатории исследований искусственного интеллекта (ИИ) T-Bank AI Research совершили прорыв, разработав новый метод, получивший название SAE Match. Этот метод позволяет понять, как функционируют механизмы принятия решений в искусственном интеллекте и как модель приходит к тем или иным выводам в процессе вычислений. Благодаря этому открытию в будущем появится возможность влиять на ответы ИИ, повышая их точность и качество. С помощью SAE Match можно отслеживать, как искусственный интеллект генерирует ответы, и своевременно вносить необходимые коррективы. Это первый шаг на пути к созданию более прозрачных, точных и понятных алгоритмов, что особенно важно при внедрении ИИ в критически важные сферы, такие как медицина, финансы и безопасность. Результаты исследования будут представлены на международной конференции по обучению представлений (ICRL), которая пройдет в Сингапуре с 24 по 28 апреля 2025 года. Эта конференция считается одной из самых значимых в области машинного обучения и искусственного интеллекта уровня А. Суть открытия Метод SAE Match относится к области интерпретируемости искусственного интеллекта. Основная цель этой области — сделать работу ИИ более прозрачной и понятной для человека. Это позволит отслеживать, как модель обрабатывает информацию и почему принимает те или иные решения, что в свою очередь повысит точность ответов. Современные языковые модели (LLM) состоят из нескольких слоев, каждый из которых использует результаты предыдущего. Таким образом, модель стремится улучшить свои предсказания слой за слоем. Однако иногда модель может выдавать недостоверную или даже оскорбительную информацию. Ранее не существовало метода, который позволял бы проследить, как концепции изменяются от слоя к слою. SAE Match стал первым инструментом, который не просто фиксирует концепции на отдельных слоях, а анализирует их эволюцию в процессе вычислений. Эксперименты на различных моделях показали, что метод помогает отслеживать признаки, которые остаются неизменными на нескольких слоях сети. Это делает поведение ИИ более предсказуемым и понятным. Метод SAE Match позволяет заглянуть внутрь модели и понять, как меняются концепции от слоя к слою. Это дает возможность контролировать процесс генерации текста, а не просто накладывать внешние ограничения или обучать модель на новых данных, что является дорогостоящим и требует больших вычислительных ресурсов. Уникальность метода SAE Match Простая и прозрачная интерпретация работы модели Метод позволяет заглянуть внутрь языковой модели и понять, как она «думает» на разных этапах вычислений. Это упрощает анализ работы ИИ и делает его более предсказуемым. Доступность и низкие требования к ресурсам SAE Match не требует дополнительных данных или дообучения модели, что делает его гораздо более доступным, чем другие методы контроля работы ИИ. Это особенно важно для небольших команд, которые не могут позволить себе сбор и обработку больших наборов данных. Повышение уровня доверия и безопасности ИИ Метод позволяет отслеживать, когда модель начинает предсказывать нежелательные или потенциально опасные фразы, и предотвращать их появление. Это поможет создавать более безопасные и этичные решения на базе искусственного интеллекта. Вклад в дальнейшее развитие интерпретируемости Методика SAE Match открывает новые горизонты для научных исследований и разработки гибридных архитектур ИИ, сочетающих высокое качество интерпретации и скорость работы. Никита Балаганский, руководитель научной группы LLM Foundations, T-Bank AI Research: «Наша задача не только сделать модели лучше, но и понять, как они работают изнутри. Представьте ИИ-ассистента, с которым общаются дети. Вдруг он начинает выдавать недостоверную или даже грубую информацию. Сейчас изменить его поведение — сложная задача, ведь существующие методы не дают нам четкого понимания, где именно возникла проблема. Наши исследования в области интерпретируемости ИИ направлены на то, чтобы такие сбои можно было заметить и быстро исправить их без дорогостоящего переобучения модели. SAE Match — это первый шаг к созданию более прозрачного и надежного искусственного интеллекта, которому можно доверять. И мы планируем продолжить исследования в направлении интерпретируемости ИИ». Источник: www.tbank.ru*

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / Т-ТЕХНОЛОГИИ: последние новости сегодня

    EXPRESS NEWS

    • Президент Бангладеш Шахабуддин Чуппу намерен в пятницу подать в отставку. Об этом со ссылкой на источники сообщил Reuters

    • Сергей Лавров прибыл в Киргизию. 24 июля он примет участие в совещании глав МИД стран ШОС
      Сергей Лавров прибыл в Киргизию. 24 июля он примет участие в совещании глав МИД стран ШОС

    • Рубио заявил, что у него был «хороший, честный разговор» с Лавровым. Также он добавил, что США готовы сыграть конструктивную роль

    • Рубио сообщил, что обсудил с Лавровым отношения между США и РФ
      Рубио сообщил, что обсудил с Лавровым отношения между США и РФ

    • Трамп считает, что Иран очень скоро будет готов к заключению сделки с США. «Каждый раз, когда они согласовывают сделку, они хотят изменить ее. Они не готовы, но очень скоро они будут готовы», — заявил американский лидер

    • Авиаперевозки пассажиров между Россией и Китаем в этом году выросли почти на 50%. Как сообщили РИА Новости в Минтрансе России, в январе-мае они превысили 900 000 человек

    • Встреча с Рубио согласована и состоится 23 июля в первой половине дня. Лавров сообщил, что он поинтересуется у Рубио о словах Трампа относительно возможности скорого урегулирования конфликта на Украине
      Встреча с Рубио согласована и состоится 23 июля в первой половине дня. Лавров сообщил, что он поинтересуется у Рубио о словах Трампа относительно возможности скорого урегулирования конфликта на Украине

    • Тегеран обращался к Вашингтону по поводу переговоров для урегулирования вооруженного конфликта, но США не считают, что Иран настроен серьезно. Об этом заявил американский госсекретарь Марко Рубио

    • Защита и обвинение по делу Мадуро предложили начать суд по существу в июне 2027 года. Об этом говорится в электронной базе суда Нью-Йорка
      Защита и обвинение по делу Мадуро предложили начать суд по существу в июне 2027 года. Об этом говорится в электронной базе суда Нью-Йорка

    • Изоляции РФ на мировой арене нет и даже не предвидится. В «двадцатке» и АТЭС спрос на встречи с Лавровым всегда огромный. Об этом заявил в интервью ТАСС посол по особым поручениям российского МИД Марат Бердыев

    • США транслируют сигнал, что хотят видеть Путина на саммите «двадцатки» в Майами. Об этом заявил в интервью ТАСС посол по особым поручениям МИД РФ. По мнению Марата Бердыева, «это не политический реверанс, а рациональная логика»

    • Затраты США на военную операцию против Ирана составляют к настоящему моменту порядка $37,5 млрд. Об этом заявил американский военный министр Пит Хегсет

    • Трамп утверждает, что Иран стремится к проведению новой встречи с США: «Они отчаянно хотят встретиться. Но пока они не будут готовы значимым образом, у нас даже нет заинтересованности в этом»

    • «Если что-то подобное произойдет, мы об этом позаботимся». США примут меры, если хуситы введут морскую блокаду Саудовской Аравии, заявил Трамп
      «Если что-то подобное произойдет, мы об этом позаботимся». США примут меры, если хуситы введут морскую блокаду Саудовской Аравии, заявил Трамп

    • США могут ввести новые пошлины на импорт из Канады из-за лесных пожаров, сообщил Трамп. Он добавил, что в американском штате Мичиган ранее из-за загрязнения воздуха была нарушена работа некоторых компаний

    • Путин продлил безвизовый въезд для граждан Китая до конца 2027 года
      Путин продлил безвизовый въезд для граждан Китая до конца 2027 года
    • Энди Бернэм вступил в должность премьера Великобритании, получив от Карла III мандат на формирование правительства, сообщает Букингемский дворец
      Энди Бернэм вступил в должность премьера Великобритании, получив от Карла III мандат на формирование правительства, сообщает Букингемский дворец
    • Король Карл III принял отставку Стармера с поста премьера Британии, сообщила королевская пресс-служба
      Король Карл III принял отставку Стармера с поста премьера Британии, сообщила королевская пресс-служба

    • Германия не делала практических шагов для возобновления диалога с Россией, заявил Песков. Он отметил, что Россия остается открытой к диалогу с Европой и никогда не была инициатором сворачивания отношений

    • Россия готова содействовать мирному урегулированию разногласий как между США и Ираном, так и между иранцами и арабами. Об этом замглавы МИД РФ Александр Алимов заявил «Известиям»
      Россия готова содействовать мирному урегулированию разногласий как между США и Ираном, так и между иранцами и арабами. Об этом замглавы МИД РФ Александр Алимов заявил «Известиям»

    • Трамп заявил о поддержке планов Бернэма по наращиванию добычи нефти в Северном море. Нефть "превратит Соединенное Королевство из нищей страны в одно из самых богатых в мире государств", отметил американский президент

    • Дональд Трамп заявил, что его совершенно не волнует приостановка властями Ирана выполнения обязательств по меморандуму о взаимопонимании с США

    • Артистов и спортсменов России ни у кого отменить не получится, заявил в интервью ТАСС американский продюсер Стивен Мао. Он убежден, что «русская культура, русское искусство и русский спорт принадлежат миру»

    • Трамп пригрозил Канаде увеличением таможенных пошлин из-за лесных пожаров, дым от которых окутал несколько крупных городов США
      Трамп пригрозил Канаде увеличением таможенных пошлин из-за лесных пожаров, дым от которых окутал несколько крупных городов США

    • Венесуэла получила доступ к собственным средствам в МВФ в размере $346 млн, которые будут направлены на ликвидацию последствий землетрясения. Об этом сообщила уполномоченный президент боливарианской республики Делси Родригес

    • Глава FIFA и Белый дом обсудят риски проведения финала чемпионата мира по футболу. Об этом сообщил корреспондент Sky News Роб Харрис. Риски связаны с дымом от лесных пожаров в районе Нью-Йорка и Нью-Джерси

    • Apple меньше суток пробыла самой дорогостоящей компанией в мире. Ее обошла Nvidia, свидетельствуют данные торгов

    • Трамп пригрозил Канаде увеличением таможенных пошлин из-за лесных пожаров, дым от которых окутал несколько крупных городов США

    • Энди Бернэм объявлен новым лидером Лейбористской партии и 20 июля займет пост премьер-министра Великобритании
      Энди Бернэм объявлен новым лидером Лейбористской партии и 20 июля займет пост премьер-министра Великобритании

    • Россия никогда не вмешивалась во внутренние дела других стран и рассчитывает, что никто не будет вмешиваться в ее, заявил Песков

    • Аналитики продолжают повышать прогнозы по STOXX 600 на конец этого года. Самые большие быки — UBS и Deutsche
      Аналитики продолжают повышать прогнозы по STOXX 600 на конец этого года. Самые большие быки — UBS и Deutsche

    • Журналист Карлсон заявил о риске народной революции в США: «Мы имеем дело с лидерами [страны], которые презирают нас, принимают нас за нечто само собой разумеющееся, которые используют нас, лгут нам, которым в действительности нет дела до нас»

    • Разведка США считала, что Меркель не хотела переизбрания Трампа в 2020 году. Об этом говорится в докладе, рассекреченном Белым домом

    • Ситуация в Мали расценивается как относительно стабильная, заявил ТАСС замминистра иностранных дел РФ Георгий Борисенко

    • Власти США выявили около 278 000 неграждан, зарегистрированных для голосования на федеральных выборах, их может быть еще больше, заявил Трамп
      Власти США выявили около 278 000 неграждан, зарегистрированных для голосования на федеральных выборах, их может быть еще больше, заявил Трамп

    • Трамп заявил, что рассекречивает данные о шокирующей уязвимости систем голосования в США. Он утверждает, что КНР в 2020 году получила несанкционированный доступ к данным 220 млн избирателей в США

    • Причиной введения пошлин США на импорт из Бразилии стали ультимативные требования о беспрепятственном доступе на внутренние рынки южноамериканской республики. Об этом заявил глава МИД Бразилии Мауро Виэйра. «Иными словами, американские власти потребовали от нас капитуляции», — добавил Виэйра

    • Трамп даст прием в честь FIFA в Нью-Йорке и будет присутствовать на финале ЧМ по футболу, заявила пресс-секретарь Белого дома Кэролайн Ливитт
      Трамп даст прием в честь FIFA в Нью-Йорке и будет присутствовать на финале ЧМ по футболу, заявила пресс-секретарь Белого дома Кэролайн Ливитт
    • Мировые акции сильно снижаются на азиатской сессии. В Азии продолжается распродажа акций техов, акции SoftBank падают на 10%, TSMC падает на 5%, несмотря на сильный отчет
      Мировые акции сильно снижаются на азиатской сессии. В Азии продолжается распродажа акций техов, акции SoftBank падают на 10%, TSMC падает на 5%, несмотря на сильный отчет

    • США и Иран продолжают обмениваться ударами. Трамп в обращении к нации заявил, что США скоро начнут получать выгоду от конфликта с Ираном так же, как они уже получают выгоду от Венесуэлы

    Вы уверены, что хотите выйти из аккаунта?