Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества Т-ТЕХНОЛОГИИ: НОВОСТИ

Т-ТЕХНОЛОГИИ: НОВОСТИ

Т-ТЕХНОЛОГИИ - последние новости сегодня - MONDIARA

Новые технологии от Т-Банка

9 512

    Открытие ученых из T-Bank AI Research: Как искусственный интеллект принимает решения на разных этапах вычислений. Ученые из лаборатории исследований искусственного интеллекта (ИИ) T-Bank AI Research совершили прорыв, разработав новый метод, получивший название SAE Match. Этот метод позволяет понять, как функционируют механизмы принятия решений в искусственном интеллекте и как модель приходит к тем или иным выводам в процессе вычислений. Благодаря этому открытию в будущем появится возможность влиять на ответы ИИ, повышая их точность и качество. С помощью SAE Match можно отслеживать, как искусственный интеллект генерирует ответы, и своевременно вносить необходимые коррективы. Это первый шаг на пути к созданию более прозрачных, точных и понятных алгоритмов, что особенно важно при внедрении ИИ в критически важные сферы, такие как медицина, финансы и безопасность. Результаты исследования будут представлены на международной конференции по обучению представлений (ICRL), которая пройдет в Сингапуре с 24 по 28 апреля 2025 года. Эта конференция считается одной из самых значимых в области машинного обучения и искусственного интеллекта уровня А. Суть открытия Метод SAE Match относится к области интерпретируемости искусственного интеллекта. Основная цель этой области — сделать работу ИИ более прозрачной и понятной для человека. Это позволит отслеживать, как модель обрабатывает информацию и почему принимает те или иные решения, что в свою очередь повысит точность ответов. Современные языковые модели (LLM) состоят из нескольких слоев, каждый из которых использует результаты предыдущего. Таким образом, модель стремится улучшить свои предсказания слой за слоем. Однако иногда модель может выдавать недостоверную или даже оскорбительную информацию. Ранее не существовало метода, который позволял бы проследить, как концепции изменяются от слоя к слою. SAE Match стал первым инструментом, который не просто фиксирует концепции на отдельных слоях, а анализирует их эволюцию в процессе вычислений. Эксперименты на различных моделях показали, что метод помогает отслеживать признаки, которые остаются неизменными на нескольких слоях сети. Это делает поведение ИИ более предсказуемым и понятным. Метод SAE Match позволяет заглянуть внутрь модели и понять, как меняются концепции от слоя к слою. Это дает возможность контролировать процесс генерации текста, а не просто накладывать внешние ограничения или обучать модель на новых данных, что является дорогостоящим и требует больших вычислительных ресурсов. Уникальность метода SAE Match Простая и прозрачная интерпретация работы модели Метод позволяет заглянуть внутрь языковой модели и понять, как она «думает» на разных этапах вычислений. Это упрощает анализ работы ИИ и делает его более предсказуемым. Доступность и низкие требования к ресурсам SAE Match не требует дополнительных данных или дообучения модели, что делает его гораздо более доступным, чем другие методы контроля работы ИИ. Это особенно важно для небольших команд, которые не могут позволить себе сбор и обработку больших наборов данных. Повышение уровня доверия и безопасности ИИ Метод позволяет отслеживать, когда модель начинает предсказывать нежелательные или потенциально опасные фразы, и предотвращать их появление. Это поможет создавать более безопасные и этичные решения на базе искусственного интеллекта. Вклад в дальнейшее развитие интерпретируемости Методика SAE Match открывает новые горизонты для научных исследований и разработки гибридных архитектур ИИ, сочетающих высокое качество интерпретации и скорость работы. Никита Балаганский, руководитель научной группы LLM Foundations, T-Bank AI Research: «Наша задача не только сделать модели лучше, но и понять, как они работают изнутри. Представьте ИИ-ассистента, с которым общаются дети. Вдруг он начинает выдавать недостоверную или даже грубую информацию. Сейчас изменить его поведение — сложная задача, ведь существующие методы не дают нам четкого понимания, где именно возникла проблема. Наши исследования в области интерпретируемости ИИ направлены на то, чтобы такие сбои можно было заметить и быстро исправить их без дорогостоящего переобучения модели. SAE Match — это первый шаг к созданию более прозрачного и надежного искусственного интеллекта, которому можно доверять. И мы планируем продолжить исследования в направлении интерпретируемости ИИ». Источник: www.tbank.ru*

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / Т-ТЕХНОЛОГИИ - последние новости сегодня - MONDIARA

    EXPRESS NEWS

    • Планов встречи Путина и Трампа пока нет, сначала нужно поработать над украинским урегулированием, заявил Песков в интервью «Известиям»
      Планов встречи Путина и Трампа пока нет, сначала нужно поработать над украинским урегулированием, заявил Песков в интервью «Известиям»

    • Диалог с США продолжается, состоялось несколько разговоров с Уиткоффом в течение последней недели, заявил Дмитриев

    • Армения не вернется в ОДКБ и примет решение о выходе, когда придет время. Об этом заявил Пашинян в ходе предвыборных дебатов на Общественном телевидении
      Армения не вернется в ОДКБ и примет решение о выходе, когда придет время. Об этом заявил Пашинян в ходе предвыборных дебатов на Общественном телевидении
    • В диалоге с США по украинскому урегулированию наблюдается замкнутый круг, заявил Лавров «Известиям». Кушнер и Уиткофф искренне заинтересованы в нормализации отношений с РФ, но это пока ни во что не материализуется, отметил он
      В диалоге с США по украинскому урегулированию наблюдается замкнутый круг, заявил Лавров «Известиям». Кушнер и Уиткофф искренне заинтересованы в нормализации отношений с РФ, но это пока ни во что не материализуется, отметил он

    • На вывоз погребенного на трех иранских объектах урана потребовалось бы около двух недель. Сейчас необходимости изымать его нет, заявил Трамп. Он добавил, что был бы готов к уважительной встрече с верховным лидером Ирана в случае договоренности

    • Трамп выразил уверенность в том, что и Путин, и Зеленский пойдут на компромиссы, необходимые для урегулирования конфликта на Украине

    • Кремль никогда не идеализировал статус США, при всем уважении к добрым услугам Вашингтона, для РФ важнее национальные интересы, заявил Песков. Отношениям РФ и США не откатиться назад, потому что «некуда» уже откатываться

    • Соглашение по проектированию «тоннеля Путина — Трампа» под Беринговым проливом подпишут 5 июня. Об этом заявил Дмитриев телеканалу «Звезда» на полях ПМЭФ

    • Для переговоров о приеме в ЕС Украине надо выполнить обязательства перед Венгрией, заявил Мадьяр
      Для переговоров о приеме в ЕС Украине надо выполнить обязательства перед Венгрией, заявил Мадьяр

    • Трамп сравнил сооружение временной арены для поединков UFC на территории Белого дома с Эйфелевой башней и допустил, что демонтировать ее никогда не будут

    • Мадьяр считает невозможным полный отказ от энергоносителей из России. Премьер-министр Венгрии полагает, что по завершении украинского конфликта «никто не будет заинтересован в новой холодной войне, в том числе в энергетической сфере»

    • Действующий градоначальник О Се Хун победил на выборах мэра Сеула, свидетельствуют данные ЦИК Республики Корея. О Се Хун представлял ведущую оппозиционную партию «Гражданская сила». За него отдали голоса 49,07% избирателей

    • Ким Чен Ын посетил новый завод по производству ядерных материалов в КНДР, сообщило ЦТАК. Лидер КНДР заявил, что за пять лет стране удалось удвоить мощности по производству оружейных ядерных материалов

    • Вашингтонская администрация участвует в разработке в Конгрессе законопроекта об ужесточении санкций в отношении России, заявил Рубио. Инициатива, о которой идет речь, представлена в апреле 2025 года. Она предусматривает в том числе вторичные санкции в отношении торговых партнеров России

    • США не выпустят купюру в $250 с портретом Трампа, если Конгресс будет против, заявил министр финансов страны Скотт Бессент

    • В Германии есть интерес к перезапуску «Северных потоков» после окончания конфликта на Украине. Об этом заявил ТАСС на ПМЭФ замруководителя фракции АдГ в Бундестаге Маркус Фронмайер
      В Германии есть интерес к перезапуску «Северных потоков» после окончания конфликта на Украине. Об этом заявил ТАСС на ПМЭФ замруководителя фракции АдГ в Бундестаге Маркус Фронмайер

    • Трамп в очередной раз раскритиковал ключевые СМИ США и назвал CNN мусором: «Такие, как вы, очень плохо обходились с нашими людьми. Фейковые СМИ вроде CNN, вроде The New York Times и других плохо обходились с нашими людьми»

    • Власти Германии подрывают экономику и энергетическую безопасность собственной страны своими изоляционистскими подходами. Такое мнение высказал Кирилл Дмитриев. Так он прокомментировал новость о том, что власти ФРГ осудили поездку двух депутатов фракции АдГ на ПМЭФ

    • Трамп заявил, что переговоры США и Ирана идут очень хорошо, сделка возможна на выходных, хотя провала тоже нельзя исключать. Предварительное соглашение Вашингтона и Тегерана предусматривает совместное извлечение урана на разбомбленных ядерных объектах Ирана, заявил Трамп

    • Конфликт Ирана и США завершится только в случае прекращения войны между Израилем и Ливаном, заявил Арагчи в интервью Al Mayadeen. Он подчеркнул, что Тегеран «не вмешивался и не будет вмешиваться во внутренние дела Ливана»
      Конфликт Ирана и США завершится только в случае прекращения войны между Израилем и Ливаном, заявил Арагчи в интервью Al Mayadeen. Он подчеркнул, что Тегеран «не вмешивался и не будет вмешиваться во внутренние дела Ливана»

    • Соединенные Штаты не отказываются от идеи получения суверенитета над Гренландией, заявил Рубио. На вопрос о том, известно ли ему, что Гренландия является частью Дании, глава внешнеполитического ведомства ответил: «Пока что»

    • Дмитриев обсудил с представителем АдГ Маркусом Фронмайером возобновление делового диалога между РФ, ФРГ и США. Об этом он написал на своей странице в соцсети X

    • Трамп примет участие в саммите НАТО в июле, сообщил Рубио
      Трамп примет участие в саммите НАТО в июле, сообщил Рубио
    • Рубио признал, что Вашингтон нельзя считать беспристрастным посредником в урегулировании на Украине, поскольку он поддерживает Киев посредством поставок оружия и военной техники
      Рубио признал, что Вашингтон нельзя считать беспристрастным посредником в урегулировании на Украине, поскольку он поддерживает Киев посредством поставок оружия и военной техники

    • США ожидает, что Ливан и Израиль по итогам пятого раунда консультаций в американской столице смогут утвердить план действий по укреплению безопасности, заявил Рубио

    • В рамках ПМЭФ планируются встречи на высоком уровне с Саудовской Аравией, Бахрейном, ОАЭ, руководством АТЭС. Об этом заявил Костин

    • «Если бы не я, больше бы не было никакого Израиля». Трамп заявил, что своим решением начать военную операцию против Ирана он спас Израиль от потенциального уничтожения

    • Трамп считает, что тандем Вэнса и Рубио на выборах в 2028 году будет непобедимым: «Я смотрю на них вместе, они отлично ладят. У них хорошие отношения. Они во многом чем-то похожи, и, я думаю, если они будут баллотироваться в тандеме, они будут непобедимы»

    • Трамп заявил, что хотел бы встретиться с верховным лидером Ирана Хаменеи. Президент США утверждает, что верховный лидер Ирана участвует в принятии решений в переговорном процессе с Вашингтоном. Он отмечает, что переговоры с Ираном «быстро развиваются»

    • Мадьяр выступил против отмены в ЕС принципа единогласия при принятии решений: «Люди хотят видеть ЕС, который основывается на сильных государствах-членах, а не "Соединенные штаты Европы"»

    • Венгрия могла бы быть местом переговоров по урегулированию конфликта на Украине, заявил Мадьяр
      Венгрия могла бы быть местом переговоров по урегулированию конфликта на Украине, заявил Мадьяр
    • Молдавии нужно вернуться на площадки СНГ и ЕАЭС, а также отказаться от антироссийских санкций ради спасения своей экономики. Об этом заявил Додон
      Молдавии нужно вернуться на площадки СНГ и ЕАЭС, а также отказаться от антироссийских санкций ради спасения своей экономики. Об этом заявил Додон

    • Венесуэле нужны новые выборы, но для них требуется создать условия, заявил Рубио: «Эти условия включают свободные и открытые СМИ. Нужно дать время и пространство политическим партиям на организацию и подготовку к этим выборам. Нужен новый избирательный совет»

    • Вашингтонская администрация готова при определенных условиях согласиться с тем, что Иран будет иметь возможность использовать атомную энергию. Об этом заявил госсекретарь США Марко Рубио

    • Трамп заявил, что переговоры США и Ирана продолжаются непрерывно, но их исход неясен: «Сообщения лживых СМИ о том, что Исламская Республика Иран и США прекратили разговаривать несколько дней назад, являются абсолютно ложными и вводят в заблуждение»

    • Идея отмены или смягчения американских санкций в отношении Ирана в обмен на открытие Ормузского пролива не обсуждается. Об этом заявил Рубио

    • Переговоры США и Ирана продолжаются, обсуждаются и аспекты ядерной программы Тегерана, успех может быть достигнут в ближайшие дни, заявил Рубио

    • Президент Танзании Самия Сулуху Хасан 3–5 июня посетит РФ с государственным визитом, сообщил Ушаков

    • Пашинян заявил, что его разговор с Путиным 1 июня был позитивным
      Пашинян заявил, что его разговор с Путиным 1 июня был позитивным

    • Вучич заявил, что не пойдет на новый президентский срок после истечения нынешнего. При этом политик, отвечая на вопрос Bloomberg, заявил, что может занять пост премьер-министра, так как его Сербская прогрессивная партия нуждается в нем

    Вы уверены, что хотите выйти из аккаунта?