Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества ALPHABET [новости]

ALPHABET [новости]

НОВОСТИ АКЦИЙ США

Google заявляет, что её новые разработки в области искусственного интеллекта способны определять эмоции, и это вызывает опасения у специалистов

17

    Google заявляет, что её новые разработки в области искусственного интеллекта способны определять эмоции, и это вызывает опасения у специалистов. Компания Google сообщает, что её новое семейство моделей искусственного интеллекта обладает уникальной способностью «распознавать» эмоции. В четверг было анонсировано семейство моделей PaliGemma 2, которое может анализировать изображения. Это позволяет искусственному интеллекту создавать подписи и отвечать на вопросы о людях, которых он «видит» на фотографиях. «PaliGemma 2 генерирует подробные, контекстно-зависимые подписи к изображениям», — говорится в сообщении Google, опубликованном в блоге для TechCrunch. «Искусственный интеллект выходит за рамки простого определения объекта и описывает действия, эмоции и общее содержание сцены». Однако распознавание эмоций не является стандартной функцией PaliGemma 2, и для её активации требуется настройка. Тем не менее, эксперты, с которыми общался TechCrunch, выразили обеспокоенность по поводу появления общедоступного детектора эмоций. «Меня это очень беспокоит», — сказала Сандра Вахтер, профессор этики данных и искусственного интеллекта в Оксфордском институте Интернета, в интервью TechCrunch. «Я считаю, что предположение о том, что мы можем «читать» эмоции людей, вызывает опасения. Это похоже на обращение к магическому шару». В течение многих лет стартапы и технологические гиганты пытаются создать искусственный интеллект, который может определять эмоции в различных областях, от обучения продажам до предотвращения несчастных случаев. Некоторые утверждают, что уже достигли этого, но наука пока не имеет прочной эмпирической основы для таких заявлений. Большинство детекторов эмоций основаны на ранних работах Пола Экмана, психолога, который предположил, что у людей есть шесть основных эмоций: гнев, удивление, отвращение, радость, страх и грусть. Однако последующие исследования поставили под сомнение гипотезу Экмана, показав, что существуют значительные различия в том, как люди из разных слоёв общества выражают свои чувства. «Определение эмоций в общем случае невозможно, поскольку люди испытывают их сложным образом», — сказал Майк Кук, научный сотрудник Королевского колледжа Лондона, специализирующийся на искусственном интеллекте, в интервью TechCrunch. «Конечно, мы думаем, что можем определить, что чувствуют другие люди, наблюдая за ними, и многие люди на протяжении многих лет пытались сделать то же самое, например, шпионские агентства или маркетинговые компании. Я уверен, что в некоторых случаях можно обнаружить некоторые общие признаки, но это не то, что мы когда-либо сможем полностью «решить». Неудивительно, что системы обнаружения эмоций, как правило, ненадёжны и предвзяты из-за предположений их разработчиков. В исследовании MIT 2020 года исследователи показали, что модели анализа лиц могут вырабатывать непреднамеренные предпочтения для определённых выражений, таких как улыбка. Более поздние работы показывают, что модели анализа эмоций приписывают больше негативных эмоций лицам чернокожих людей, чем лицам белых людей. Google заявляет, что провела «обширное тестирование» для оценки демографических предубеждений в PaliGemma 2 и обнаружила «низкий уровень токсичности и ненормативной лексики» по сравнению с отраслевыми стандартами. Однако компания не предоставила полный список стандартов, которые она использовала, и не указала, какие типы тестов были проведены. Единственный стандарт, который раскрыла Google, — это FairFace, набор из десятков тысяч изображений людей. Компания утверждает, что PaliGemma 2 показала хорошие результаты на FairFace. Однако некоторые исследователи раскритиковали этот стандарт как показатель предвзятости, отметив, что FairFace представляет лишь несколько расовых групп. «Интерпретация эмоций — это довольно субъективный вопрос, который выходит за рамки использования визуальных средств и тесно связан с личным и культурным контекстом», — говорит Хайди Кхлааф, главный научный сотрудник по искусственному интеллекту в AI Now Institute, некоммерческой организации, изучающей социальные последствия искусственного интеллекта. «Оставляя искусственный интеллект в стороне, исследования показали, что мы не можем определять эмоции только по чертам лица». Системы обнаружения эмоций вызвали гнев регулирующих органов в некоторых странах, которые пытаются ограничить использование этой технологии в ситуациях с высоким риском. Закон об искусственном интеллекте, основной законодательный акт Европейского союза в области искусственного интеллекта, запрещает школам и работодателям использовать детекторы эмоций (но не правоохранительным органам). Наибольшие опасения вызывают открытые модели, такие как PaliGemma 2, которые доступны на некоторых хостингах, включая платформу для разработки искусственного интеллекта Hugging Face. Существует риск их неправильного использования, что может привести к негативным последствиям. Кхлааф отметил, что если эмоциональная идентификация, основанная на псевдонаучных предположениях, будет реализована, это может иметь серьёзные последствия. Например, такая возможность может быть использована для дальнейшей дискриминации маргинализированных групп, таких как представители правоохранительных органов, кадровых служб, пограничного управления и т. д. Представитель Google, отвечая на вопрос об опасностях публичного выпуска PaliGemma 2, заявил, что компания поддерживает свои тесты на «репрезентативный вред», поскольку они касаются визуальных ответов на вопросы и субтитров. Они также добавили, что провели надёжные оценки моделей PaliGemma 2 с точки зрения этики и безопасности, включая безопасность детей и безопасность контента. Однако Вахтер выразил сомнения в том, что этого достаточно. «Ответственные инновации подразумевают, что вы думаете о последствиях с самого начала работы в лаборатории и продолжаете это делать на протяжении всего жизненного цикла продукта», — сказала она. «Я могу представить множество потенциальных проблем, которые могут привести к антиутопическому будущему, где ваши эмоции будут определять, получите ли вы работу, кредит или поступите ли в университет». Источник: www.techcrunch.com

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / НОВОСТИ АКЦИЙ США

    EXPRESS NEWS

    • Официальный представитель Министерства иностранных дел сегодня вечером, подчеркнув право Ирана на обогащение, заявил: «Более 20 лет мир пугают мифической иранской ядерной бомбой»

    • Серия землетрясений, самое значительное из которых магнитудой 5,8, сегодня фиксируется по всей Греции и на Крите
      Серия землетрясений, самое значительное из которых магнитудой 5,8, сегодня фиксируется по всей Греции и на Крите

    • Китай запретил экспорт товаров двойного назначения (гражданского и военного назначения) семи европейским компаниям, включая немецкую Hensoldt и бельгийскую FN Browning, ссылаясь на их связи с сотрудничеством Тайваня в сфере вооружений. Запрет также препятствует реэкспорту китайских комплектующих третьими сторонами для этих фирм

    • Ожидается, что Минюст США прекратит уголовное расследование в отношении председателя ФРС Пауэлла уже сегодня, — ABC News. Это может еще сильнее отсрочить утверждение Уорша на пост нового главы ФРС

    • Президент США отправит Уиткоффа и Кушнера на переговоры с Ираном в Пакистане в ближайшие выходные, передает CNN. Уточняется, что Вэнс в настоящее время не планирует участвовать в переговорах

    • Туск через два месяца приедет в РФ умолять о поставках энергоресурсов, заявил Дмитриев. Так он прокомментировал слова премьер-министра Польши об отсутствии русских на заседании ЕС. Дмитриев также посоветовал Туску заправиться достаточным количеством авиатоплива для полета в РФ

    • РФ придает большое значение работе в рамках G20. На саммите в Майами будет о чем поговорить, с учетом зарождающихся и нарастающих кризисов, заявил Песков журналисту «Вестей» Зарубину. Он отметил, что РФ в любом случае достойно будет представлена на саммите G20 в Майами

    • Глава Пентагона Пит Хегсет называет союзников США в Европе и Азии «нахлебниками» и отмечает, что «Америка и свободный мир заслуживают союзников, которые способны и верны. Европа нуждается в Ормузском проливе гораздо больше, чем мы»

    • Цифровой рубль будет постепенно входить в обиход, задача ЦБ — сделать его удобным, а не навязать людям, заявила Набиуллина
      Цифровой рубль будет постепенно входить в обиход, задача ЦБ — сделать его удобным, а не навязать людям, заявила Набиуллина

    • РФ сможет вернуться к целевым значением инфляции в 4% быстрее, чем человечество вернулось на Луну, заявила глава ЦБ Эльвира Набиуллина в ходе пресс-конференции по ключевой ставке. «Человечеству потребовалось 50 лет, чтобы вернуться на Луну​​​. Мы тоже вернемся к инфляции 4%, я в этом уверена. И уверена в том, что это произойдет гораздо быстрее»

    • Набиуллина заявила, что сейчас не время для её брошек. Ранее глава ЦБ надевала их, чтобы подчеркнуть взгляд ЦБ на ситуацию в российской экономике. Последний раз Набиуллина появлялась с брошью в феврале 2022 года

    • Конфликт на Ближнем Востоке в базовом прогнозе ЦБ приведет к ускорению мировой инфляции. В случае его затягивания негативные эффекты для экономики РФ будут расти, заявила Набиуллина

    • Центробанк снизил ключевую ставку до 14,5%. Восьмое снижение подряд. Рынок это предсказывал — и не ошибся
      Центробанк снизил ключевую ставку до 14,5%. Восьмое снижение подряд. Рынок это предсказывал — и не ошибся

    • Нефтепродукты из реки в Туапсе частично попали в акваторию Черного моря и на береговую линию, — оперштаб Кубани, ТАСС. На месте идут проливные дожди – из-за этого поднялась вода и нефтепродукты «перелились» через боновые заграждения

    • «Я считаю, что главной проблемой для Европы и Венгрии является риск того, что военный психоз и фанатизм последних лет, которые я лично наблюдал и ощущал в Брюсселе в течение последних четырёх лет, возьмут верх. К сожалению, я до сих пор считаю это реальной угрозой». Об этом заявил покидающий скоро свой пост глава МИД Венгрии Петер Сийярто

    • ВМС КСИР установили большое количество мин в Ормузском проливе на этой неделе, сообщает Axios со ссылкой на официального представителя США

    • Франция предложила Греции отправить свои истребители Mirage 2000 на Украину в обмен на скидки на истребители Rafale, сообщает издание Le Parisien

    • Танкер M/T Majestic X, на борт которого ранее высадились американские военные и установили контроль над танкером, перевозил сырую нефть для Китая, — сообщает The New York Times

    • «Россия была частью "двадцатки" всегда». Об этом напомнил Дмитриев, комментируя возможное приглашение Путина на саммит G20 в Майами
      «Россия была частью "двадцатки" всегда». Об этом напомнил Дмитриев, комментируя возможное приглашение Путина на саммит G20 в Майами

    • Проведение совместных ядерных учений Франции и Польши не пугает Россию, нападение на РФ стало бы для них «ядерным самоубийством». Об этом рассказал ТАСС Андрей Картаполов

    • Конституция РФ сыграла ключевую роль в стабилизации обстановки в стране и сохранении ее территориальной целостности после распада СССР. Об этом заявил Вячеслав Володин в статье о развитии российского парламентаризма в «Российской газете»

    • «Не торопите меня». Так Трамп ответил на вопрос о том, сколько времени может потребоваться на урегулирование конфликта с Ираном: «Возможно, за двухнедельный перерыв они несколько пополнили запасы [вооружений]. Но даже если это так, мы это уничтожим примерно за день»

    • Москва готовит официальные приглашения участникам саммита Россия — АСЕАН в Казани, который будет проходить с 17 по 19 июня. Об этом заявил «Известиям» Дмитрий Песков

    • Американский лидер исключил вероятность применения ядерного оружия против Ирана
      Американский лидер исключил вероятность применения ядерного оружия против Ирана

    • Дмитрий Песков прокомментировал связь санкций ЕС против Киргизии с «наказанием за верность России». «Это не верность России, это в первую очередь верность своим собственным интересам... И в этом случае уже это оправданный риск», — сказал господин Песков в разговоре с «Первым каналом». По его словам, экономическое сотрудничество России и Киргизии выгодно обеим сторонам

    • Дональд Трамп выразил сомнение насчет визита Владимира Путина на саммит G20 в США, пишет The Washington Post. «Если бы он приехал, это, вероятно, было бы очень полезно», — сказал американский президент. Он отметил, что «придерживается мнения, что нужно разговаривать со всеми»

    • Дмитрий Песков назвал законопроект Финляндии о ввозе ядерного оружия «концентрированной конфронтацией». «Это конфронтация, так и надо понимать. Причем конфронтация в таком, в концентрированном выражении», — сказал представитель Кремля в разговоре с Первым каналом

    • США поразили 75% целей на территории Ирана, заявил Дональд Трамп. По его словам, американские ВС «остановились немного раньше», поскольку Тегеран захотел «немного мира». «Они хотят заключить сделку. Мы разговаривали с ними, но они даже не знают, кто руководит страной. Они в смятении», — утверждает президент США

    • Глава США Дональд Трамп намерен пригласить президента России Владимира Путина на саммит G20 в декабре, сообщает The Washington Post
      Глава США Дональд Трамп намерен пригласить президента России Владимира Путина на саммит G20 в декабре, сообщает The Washington Post

    • Сильный пожар произошел на химическом заводе в промышленной зоне Джхагадия GIDC, город Барруч, штат Гуджарат, Индия. По меньшей мере 16 рабочих получили ранения, некоторые из них — тяжелые, когда в течение нескольких минут над промышленной зоной распространился густой дым и раздались взрывы. Спасатели в течение нескольких часов боролись с пламенем

    • Крупнейший в истории дефолт по частному кредитованию. Инвестфонд Thoma Bravo передаёт контроль над компанией Medallia кредиторам в рамках реструктуризации, что приводит к полному обнулению акционерного капитала — порядка $5,1 млрд. Blackstone имеет значительную позицию в долговых инструментах Medallia — около $400 млн

    • Индонезия хочет ввести сбор с судов, следующих транзитом через Малаккский пролив, один из самых оживленных и стратегически важных морских коридоров мира

    • После остановки поставок топлива из Казахстана по нефтепроводу «Дружба» 90% всех автомобилей в Берлине и аэропорт Бранденбург могут остаться без топлива

    • ЕС ввел санкции против директора Эрмитажа Михаила Пиотровского
      ЕС ввел санкции против директора Эрмитажа Михаила Пиотровского
    • 12 истребителей F/A-18C Hornet Корпуса морской пехоты США в сопровождении 6 самолётов-заправщиков KC-46A Pegasus сегодня направляются на Ближний Восток, поскольку США продолжают наращивать военный потенциал в регионе
      12 истребителей F/A-18C Hornet Корпуса морской пехоты США в сопровождении 6 самолётов-заправщиков KC-46A Pegasus сегодня направляются на Ближний Восток, поскольку США продолжают наращивать военный потенциал в регионе

    • Главный переговорщик со стороны Ирана, спикер парламента Ирана Мохаммад Багер Галибаф, подал в отставку — такое сообщение выпустило израильское издание N12. Официальные лица Ирана выступили с расплывчатыми опровержениями, которые оставляют поле для трактовок. По другим сообщениям, возможно, Галибаф просто вышел из состава переговорной команды под давлением КСИР

    • «У меня есть все время мира, а у Ирана — нет». Трамп заявил, что у него нет необходимости как можно скорее завершить войну с Ираном

    • Нацбанк Беларуси утвердил перечень криптовалют и операций для криптобанков, — SB. В перечень вошли около 26 токенов, включая биткоин, Ethereum, Toncoin, Solana и стейблкоины. Также разрешены 11 видов операций: вклады, займы, залог криптовалюты, стейкинг, переводы, обмен, хранение и выпуск токенов. Этот перечень будет расширяться, — заявил первый заместитель председателя правления Национального банка Александр Егоров

    • Верховный лидер Ирана во время атак США и Израиля получил сильные ожоги лица, затрудняющие речь. Ему может потребоваться пластическая операция, — The New York Times. Издание пишет, что после атаки на резиденцию 28 февраля Хаменеи перенёс несколько операций на ноге. Ему также может понадобиться протез

    • Чак Шумер, лидер демократического меньшинства в Сенате США, в своём сообщении раскритиковал военную политику Дональда Трампа и заявил: «Мы должны немедленно положить конец этой войне». В другом заявлении он отметил, что Дональд Трамп уже несколько недель даёт пустые обещания о завершении конфликта

    Вы уверены, что хотите выйти из аккаунта?