Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества ALPHABET: НОВОСТИ

ALPHABET: НОВОСТИ

АКЦИЙ США - последние новости на сегодня - MONDIARA

Google заявляет, что её новые разработки в области искусственного интеллекта способны определять эмоции, и это вызывает опасения у специалистов

18

    Google заявляет, что её новые разработки в области искусственного интеллекта способны определять эмоции, и это вызывает опасения у специалистов. Компания Google сообщает, что её новое семейство моделей искусственного интеллекта обладает уникальной способностью «распознавать» эмоции. В четверг было анонсировано семейство моделей PaliGemma 2, которое может анализировать изображения. Это позволяет искусственному интеллекту создавать подписи и отвечать на вопросы о людях, которых он «видит» на фотографиях. «PaliGemma 2 генерирует подробные, контекстно-зависимые подписи к изображениям», — говорится в сообщении Google, опубликованном в блоге для TechCrunch. «Искусственный интеллект выходит за рамки простого определения объекта и описывает действия, эмоции и общее содержание сцены». Однако распознавание эмоций не является стандартной функцией PaliGemma 2, и для её активации требуется настройка. Тем не менее, эксперты, с которыми общался TechCrunch, выразили обеспокоенность по поводу появления общедоступного детектора эмоций. «Меня это очень беспокоит», — сказала Сандра Вахтер, профессор этики данных и искусственного интеллекта в Оксфордском институте Интернета, в интервью TechCrunch. «Я считаю, что предположение о том, что мы можем «читать» эмоции людей, вызывает опасения. Это похоже на обращение к магическому шару». В течение многих лет стартапы и технологические гиганты пытаются создать искусственный интеллект, который может определять эмоции в различных областях, от обучения продажам до предотвращения несчастных случаев. Некоторые утверждают, что уже достигли этого, но наука пока не имеет прочной эмпирической основы для таких заявлений. Большинство детекторов эмоций основаны на ранних работах Пола Экмана, психолога, который предположил, что у людей есть шесть основных эмоций: гнев, удивление, отвращение, радость, страх и грусть. Однако последующие исследования поставили под сомнение гипотезу Экмана, показав, что существуют значительные различия в том, как люди из разных слоёв общества выражают свои чувства. «Определение эмоций в общем случае невозможно, поскольку люди испытывают их сложным образом», — сказал Майк Кук, научный сотрудник Королевского колледжа Лондона, специализирующийся на искусственном интеллекте, в интервью TechCrunch. «Конечно, мы думаем, что можем определить, что чувствуют другие люди, наблюдая за ними, и многие люди на протяжении многих лет пытались сделать то же самое, например, шпионские агентства или маркетинговые компании. Я уверен, что в некоторых случаях можно обнаружить некоторые общие признаки, но это не то, что мы когда-либо сможем полностью «решить». Неудивительно, что системы обнаружения эмоций, как правило, ненадёжны и предвзяты из-за предположений их разработчиков. В исследовании MIT 2020 года исследователи показали, что модели анализа лиц могут вырабатывать непреднамеренные предпочтения для определённых выражений, таких как улыбка. Более поздние работы показывают, что модели анализа эмоций приписывают больше негативных эмоций лицам чернокожих людей, чем лицам белых людей. Google заявляет, что провела «обширное тестирование» для оценки демографических предубеждений в PaliGemma 2 и обнаружила «низкий уровень токсичности и ненормативной лексики» по сравнению с отраслевыми стандартами. Однако компания не предоставила полный список стандартов, которые она использовала, и не указала, какие типы тестов были проведены. Единственный стандарт, который раскрыла Google, — это FairFace, набор из десятков тысяч изображений людей. Компания утверждает, что PaliGemma 2 показала хорошие результаты на FairFace. Однако некоторые исследователи раскритиковали этот стандарт как показатель предвзятости, отметив, что FairFace представляет лишь несколько расовых групп. «Интерпретация эмоций — это довольно субъективный вопрос, который выходит за рамки использования визуальных средств и тесно связан с личным и культурным контекстом», — говорит Хайди Кхлааф, главный научный сотрудник по искусственному интеллекту в AI Now Institute, некоммерческой организации, изучающей социальные последствия искусственного интеллекта. «Оставляя искусственный интеллект в стороне, исследования показали, что мы не можем определять эмоции только по чертам лица». Системы обнаружения эмоций вызвали гнев регулирующих органов в некоторых странах, которые пытаются ограничить использование этой технологии в ситуациях с высоким риском. Закон об искусственном интеллекте, основной законодательный акт Европейского союза в области искусственного интеллекта, запрещает школам и работодателям использовать детекторы эмоций (но не правоохранительным органам). Наибольшие опасения вызывают открытые модели, такие как PaliGemma 2, которые доступны на некоторых хостингах, включая платформу для разработки искусственного интеллекта Hugging Face. Существует риск их неправильного использования, что может привести к негативным последствиям. Кхлааф отметил, что если эмоциональная идентификация, основанная на псевдонаучных предположениях, будет реализована, это может иметь серьёзные последствия. Например, такая возможность может быть использована для дальнейшей дискриминации маргинализированных групп, таких как представители правоохранительных органов, кадровых служб, пограничного управления и т. д. Представитель Google, отвечая на вопрос об опасностях публичного выпуска PaliGemma 2, заявил, что компания поддерживает свои тесты на «репрезентативный вред», поскольку они касаются визуальных ответов на вопросы и субтитров. Они также добавили, что провели надёжные оценки моделей PaliGemma 2 с точки зрения этики и безопасности, включая безопасность детей и безопасность контента. Однако Вахтер выразил сомнения в том, что этого достаточно. «Ответственные инновации подразумевают, что вы думаете о последствиях с самого начала работы в лаборатории и продолжаете это делать на протяжении всего жизненного цикла продукта», — сказала она. «Я могу представить множество потенциальных проблем, которые могут привести к антиутопическому будущему, где ваши эмоции будут определять, получите ли вы работу, кредит или поступите ли в университет». Источник: www.techcrunch.com

    Пост взят с международного финтех-медиа ресурса

    Другие новости сообщества / АКЦИЙ США - последние новости на сегодня - MONDIARA

    EXPRESS NEWS

    • Для ЕС стало «неприятным сюрпризом» введение США новых таможенных пошлин, заявила Кая Каллас. Брюссель будет требовать у Вашингтона разъяснений

    • США введут существенные пошлины на товары ЕС за штрафы, выписанные американским технологическим гигантам, заявил Трамп. Он также отметил, что США добьются отмены штрафов
      США введут существенные пошлины на товары ЕС за штрафы, выписанные американским технологическим гигантам, заявил Трамп. Он также отметил, что США добьются отмены штрафов

    • Сергей Лавров встретился с главой китайского МИД Ван И на полях СМИД ШОС, сообщает российское дипведомство

    • Канцелярия Нетаньяху объявила, что он отправится 27 июля с визитом в Вашингтон, на 28 июля у него запланирована встреча с Трампом в Белом доме
      Канцелярия Нетаньяху объявила, что он отправится 27 июля с визитом в Вашингтон, на 28 июля у него запланирована встреча с Трампом в Белом доме

    • Президент Бангладеш подал в отставку из-за болезни. «Я болен, поэтому всё кончено», — приводит его слова новостной бангладешский портал bdnews24

    • Путин поздравил президента Узбекистана с днем рождения, отметив его вклад в упрочение российско-узбекистанского партнерства, сообщает Кремль

    • Трамп заявил, что ущерб, нанесенный торговым судам, будет возмещаться из иранских средств, замороженных в США

    • Иран не готов к договоренности с США, и Вашингтону нужно продолжать боевые действия, считает Трамп
      Иран не готов к договоренности с США, и Вашингтону нужно продолжать боевые действия, считает Трамп

    • Председатель КНР Си Цзиньпин посетит США с визитом 24 сентября, объявил в четверг американский президент Дональд Трамп

    • Президент Бангладеш Шахабуддин Чуппу намерен в пятницу подать в отставку. Об этом со ссылкой на источники сообщил Reuters

    • Сергей Лавров прибыл в Киргизию. 24 июля он примет участие в совещании глав МИД стран ШОС
      Сергей Лавров прибыл в Киргизию. 24 июля он примет участие в совещании глав МИД стран ШОС

    • Рубио заявил, что у него был «хороший, честный разговор» с Лавровым. Также он добавил, что США готовы сыграть конструктивную роль

    • Рубио сообщил, что обсудил с Лавровым отношения между США и РФ
      Рубио сообщил, что обсудил с Лавровым отношения между США и РФ

    • Трамп считает, что Иран очень скоро будет готов к заключению сделки с США. «Каждый раз, когда они согласовывают сделку, они хотят изменить ее. Они не готовы, но очень скоро они будут готовы», — заявил американский лидер

    • Авиаперевозки пассажиров между Россией и Китаем в этом году выросли почти на 50%. Как сообщили РИА Новости в Минтрансе России, в январе-мае они превысили 900 000 человек

    • Встреча с Рубио согласована и состоится 23 июля в первой половине дня. Лавров сообщил, что он поинтересуется у Рубио о словах Трампа относительно возможности скорого урегулирования конфликта на Украине
      Встреча с Рубио согласована и состоится 23 июля в первой половине дня. Лавров сообщил, что он поинтересуется у Рубио о словах Трампа относительно возможности скорого урегулирования конфликта на Украине

    • Тегеран обращался к Вашингтону по поводу переговоров для урегулирования вооруженного конфликта, но США не считают, что Иран настроен серьезно. Об этом заявил американский госсекретарь Марко Рубио

    • Защита и обвинение по делу Мадуро предложили начать суд по существу в июне 2027 года. Об этом говорится в электронной базе суда Нью-Йорка
      Защита и обвинение по делу Мадуро предложили начать суд по существу в июне 2027 года. Об этом говорится в электронной базе суда Нью-Йорка

    • Изоляции РФ на мировой арене нет и даже не предвидится. В «двадцатке» и АТЭС спрос на встречи с Лавровым всегда огромный. Об этом заявил в интервью ТАСС посол по особым поручениям российского МИД Марат Бердыев

    • США транслируют сигнал, что хотят видеть Путина на саммите «двадцатки» в Майами. Об этом заявил в интервью ТАСС посол по особым поручениям МИД РФ. По мнению Марата Бердыева, «это не политический реверанс, а рациональная логика»

    • Затраты США на военную операцию против Ирана составляют к настоящему моменту порядка $37,5 млрд. Об этом заявил американский военный министр Пит Хегсет

    • Трамп утверждает, что Иран стремится к проведению новой встречи с США: «Они отчаянно хотят встретиться. Но пока они не будут готовы значимым образом, у нас даже нет заинтересованности в этом»

    • «Если что-то подобное произойдет, мы об этом позаботимся». США примут меры, если хуситы введут морскую блокаду Саудовской Аравии, заявил Трамп
      «Если что-то подобное произойдет, мы об этом позаботимся». США примут меры, если хуситы введут морскую блокаду Саудовской Аравии, заявил Трамп

    • США могут ввести новые пошлины на импорт из Канады из-за лесных пожаров, сообщил Трамп. Он добавил, что в американском штате Мичиган ранее из-за загрязнения воздуха была нарушена работа некоторых компаний

    • Путин продлил безвизовый въезд для граждан Китая до конца 2027 года
      Путин продлил безвизовый въезд для граждан Китая до конца 2027 года
    • Энди Бернэм вступил в должность премьера Великобритании, получив от Карла III мандат на формирование правительства, сообщает Букингемский дворец
      Энди Бернэм вступил в должность премьера Великобритании, получив от Карла III мандат на формирование правительства, сообщает Букингемский дворец
    • Король Карл III принял отставку Стармера с поста премьера Британии, сообщила королевская пресс-служба
      Король Карл III принял отставку Стармера с поста премьера Британии, сообщила королевская пресс-служба

    • Германия не делала практических шагов для возобновления диалога с Россией, заявил Песков. Он отметил, что Россия остается открытой к диалогу с Европой и никогда не была инициатором сворачивания отношений

    • Россия готова содействовать мирному урегулированию разногласий как между США и Ираном, так и между иранцами и арабами. Об этом замглавы МИД РФ Александр Алимов заявил «Известиям»
      Россия готова содействовать мирному урегулированию разногласий как между США и Ираном, так и между иранцами и арабами. Об этом замглавы МИД РФ Александр Алимов заявил «Известиям»

    • Трамп заявил о поддержке планов Бернэма по наращиванию добычи нефти в Северном море. Нефть "превратит Соединенное Королевство из нищей страны в одно из самых богатых в мире государств", отметил американский президент

    • Дональд Трамп заявил, что его совершенно не волнует приостановка властями Ирана выполнения обязательств по меморандуму о взаимопонимании с США

    • Артистов и спортсменов России ни у кого отменить не получится, заявил в интервью ТАСС американский продюсер Стивен Мао. Он убежден, что «русская культура, русское искусство и русский спорт принадлежат миру»

    • Трамп пригрозил Канаде увеличением таможенных пошлин из-за лесных пожаров, дым от которых окутал несколько крупных городов США
      Трамп пригрозил Канаде увеличением таможенных пошлин из-за лесных пожаров, дым от которых окутал несколько крупных городов США

    • Венесуэла получила доступ к собственным средствам в МВФ в размере $346 млн, которые будут направлены на ликвидацию последствий землетрясения. Об этом сообщила уполномоченный президент боливарианской республики Делси Родригес

    • Глава FIFA и Белый дом обсудят риски проведения финала чемпионата мира по футболу. Об этом сообщил корреспондент Sky News Роб Харрис. Риски связаны с дымом от лесных пожаров в районе Нью-Йорка и Нью-Джерси

    • Apple меньше суток пробыла самой дорогостоящей компанией в мире. Ее обошла Nvidia, свидетельствуют данные торгов

    • Трамп пригрозил Канаде увеличением таможенных пошлин из-за лесных пожаров, дым от которых окутал несколько крупных городов США

    • Энди Бернэм объявлен новым лидером Лейбористской партии и 20 июля займет пост премьер-министра Великобритании
      Энди Бернэм объявлен новым лидером Лейбористской партии и 20 июля займет пост премьер-министра Великобритании

    • Россия никогда не вмешивалась во внутренние дела других стран и рассчитывает, что никто не будет вмешиваться в ее, заявил Песков

    • Аналитики продолжают повышать прогнозы по STOXX 600 на конец этого года. Самые большие быки — UBS и Deutsche
      Аналитики продолжают повышать прогнозы по STOXX 600 на конец этого года. Самые большие быки — UBS и Deutsche

    Вы уверены, что хотите выйти из аккаунта?