Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества ALPHABET: НОВОСТИ

ALPHABET: НОВОСТИ

АКЦИЙ США - последние новости на сегодня - MONDIARA

Новости по акциям компании GOOGLE

2
Новости по акциям компании GOOGLE

Новость: нейтральная. Google вышла из «ужасного тупика», отключив функцию искусственного интеллекта после негативной реакции правых. Февраль должен был стать знаменательным месяцем для амбициозной стратегии Google в области искусственного интеллекта. Компания переименовала своего чат-бота в Gemini и выпустила два крупных обновления продукта, чтобы лучше конкурировать с конкурентами со всех сторон в гонке вооружений в области искусственного интеллекта с высокими ставками. В разгар всего этого Google также начал разрешать пользователям Gemini создавать реалистичные изображения людей. Поначалу не многие заметили эту особенность. Другие компании, такие как OpenAI, уже предлагают инструменты, которые позволяют пользователям быстро создавать изображения людей, которые затем можно использовать для маркетинга, искусства и мозгового штурма творческих идей. Однако, как и другие продукты искусственного интеллекта, эти генераторы изображений рискуют увековечить предвзятость на основе данных, которые им предоставили в процессе разработки. Попросите медсестру, и некоторые службы ИИ с большей вероятностью покажут женщину; спросите руководителя, и вы часто будете видеть мужчину. Через несколько недель после запуска Google этой функции пользователи Gemini заметили другую проблему. Начиная с 20 февраля и в течение всей недели пользователи X наводнили платформу социальных сетей примерами того, как Близнецы воздерживаются от показа белых людей — даже в историческом контексте, где они, вероятно, доминировали в изображениях, например, когда пользователи запрашивали изображения белых людей. Отцы-основатели или немецкий солдат из 1943 года. Вскоре общественные деятели и новостные агентства с большой правой аудиторией заявили, используя сомнительные доказательства, что их тесты Gemini показали, что у Google есть скрытые планы против белых людей. Илон Маск, владелец X, вступил в борьбу, опубликовав десятки постов о необоснованном заговоре, в том числе несколько, в которых отдельные лидеры Google были названы предполагаемыми архитекторами этой политики. В четверг Google приостановил создание изображений людей Gemini. На следующий день старший вице-президент Google Прабхакар Рагхаван опубликовал сообщение в блоге, пытаясь пролить свет на решение компании, но не объяснил подробно, почему эта функция не работает. ыпуск Google продукта, плохо приспособленного для обработки запросов на исторические изображения, демонстрирует уникальную проблему, с которой сталкиваются технологические компании, пытаясь не допустить усиления предвзятости и дезинформации в своих системах искусственного интеллекта, особенно с учетом конкурентного давления, требующего быстрого вывода продуктов искусственного интеллекта на рынок. Вместо того, чтобы отложить выпуск дефектного генератора изображений, Google попыталась решить проблему с помощью пластыря. Когда Google запустил этот инструмент, он включал в себя техническое исправление, позволяющее уменьшить предвзятость в его результатах, по словам двух людей, знакомых с этим вопросом, которые попросили не называть их имени при обсуждении частной информации. Но Google сделал это, не предусмотрев полностью всех случаев, когда инструмент может дать сбой, говорят люди, и не прояснив свой подход. Чрезмерная корректировка Google хорошо известной предвзятости ИИ в отношении цветных людей сделала его уязвимым для очередной огненной бури по поводу разнообразия. На протяжении многих лет технический гигант сталкивался с критикой за ошибочное возвращение изображений чернокожих людей, когда пользователи искали «гориллы» в его приложении «Фото», а также за длительную публичную битву за то, правильно ли он действовал, вытесняя лидеров своей этической команды ИИ. Действуя так быстро, чтобы приостановить работу этого инструмента, не разобравшись должным образом, почему системы отреагировали именно так, сотрудники Google и другие представители Кремниевой долины теперь опасаются, что этот шаг компании будет иметь сдерживающий эффект. Они говорят, что это может отбить у талантов желание работать над вопросами ИИ и предвзятости — важнейшей проблемой для этой области. «Индустрия высоких технологий в целом, во главе с Google, снова оказалась в ужасной ситуации, которую сами же и создали», — сказала Лаура Эдельсон, доцент Северо-Восточного университета, изучавшая системы искусственного интеллекта и потоки информации в разных странах. крупные интернет-сети. «Индустрии отчаянно необходимо изображать ИИ как волшебство, а не как стохастических попугаев», — сказала она, имея в виду популярную метафору, описывающую, как системы ИИ имитируют человеческий язык посредством статистического сопоставления шаблонов, без подлинного понимания или понимания. «Но попугаи — это то, что у них есть». «Gemini создан как инструмент творчества и продуктивности, и он не всегда может быть точным и надежным», — заявил представитель Google. «Мы продолжаем быстро устранять случаи, когда продукт не реагирует должным образом». В электронном письме сотрудникам поздно вечером во вторник генеральный директор Google Сундар Пичаи сообщил, что сотрудники «работали круглосуточно» над решением проблем, на которые пользователи указали в ответах Gemini, добавив, что компания зарегистрировала «существенное улучшение по широкому спектру вопросов». подсказок». «Я знаю, что некоторые из его ответов оскорбили наших пользователей и показали предвзятость — чтобы было ясно, это совершенно неприемлемо, и мы поняли это неправильно», — написал Пичаи в записке, о которой впервые сообщил Semafor. «Ни один искусственный интеллект не идеален, особенно на этом новом этапе развития отрасли, но мы знаем, что планка для нас высока, и мы будем держать ее столько, сколько потребуется. И мы рассмотрим, что произошло, и обязательно исправим это в масштабе». Подробнее: Генеративный ИИ меняет стереотипы и предвзятость от плохого к худшему Сотрудники Google, работающие над этическим искусственным интеллектом, в течение последнего года боролись с низким моральным духом и чувством бессилия, поскольку компания ускорила темпы внедрения продуктов искусственного интеллекта, чтобы не отставать от таких конкурентов, как OpenAI. Хотя включение цветных людей в изображения Близнецов демонстрирует внимание к разнообразию, это говорит о том, что компания не смогла полностью продумать различные контексты, в которых пользователи могут стремиться создавать изображения, сказала Маргарет Митчелл, бывший соруководитель отдела этического искусственного интеллекта Google. исследовательская группа и главный ученый по этике в AI-стартапе Hugging Face. Иное рассмотрение разнообразия может быть уместным, когда пользователи ищут изображения того, каким, по их мнению, должен быть мир, а не того, каким мир был на самом деле в конкретный момент истории. «Тот факт, что Google уделяет внимание разнообразию оттенков кожи, является семимильным шагом вперед по сравнению с тем, где Google был всего четыре года назад. Так что это что-то вроде двух шагов вперед, одного шага назад», — сказал Митчелл. «Их следует отдать должное за то, что они действительно уделили внимание этим вещам. Просто им нужно было пойти немного дальше, чтобы сделать все правильно». Проблема с изображением Google Компания Google, которая стала пионером некоторых методов, лежащих в основе сегодняшнего бума искусственного интеллекта, уже давно испытывает огромное давление, связанное с правильной генерацией изображений. Google была настолько обеспокоена тем, как люди будут использовать Imagen, ее модель генерации изображений с помощью искусственного интеллекта, что отказывалась публиковать эту функцию в течение длительного периода после того, как впервые подробно описала ее возможности в исследовательской работе в мае 2022 года. На протяжении многих лет команды компании обсуждали, как гарантировать, что ее инструмент искусственного интеллекта будет отвечать за создание фотореалистичных изображений людей, рассказали два человека, знакомых с этим вопросом, которые попросили не называть их имени, передавая внутренние обсуждения. По словам одного человека, в какой-то момент, если бы сотрудники, экспериментировавшие внутри компании с Google Imagen, попросили программу сгенерировать изображение человека (или даже такое, которое неявно включало бы людей, например футбольный стадион), она бы ответила черным ящиком, по словам одного человека. По словам другого человека, Google включил возможность генерировать изображения людей в Gemini только после проведения нескольких проверок. По словам одного человека, Google не проводил тестирование всех способов, с помощью которых эта функция может дать неожиданные результаты, но она была сочтена достаточно хорошей для первой версии инструмента генерации изображений Gemini, которую она сделала широко доступной для общественности. Хотя команды Google действовали осторожно при создании этого инструмента, внутри компании существовало широкое ощущение, что компания оказалась неготовой к такого рода последствиям, говорят они. По словам нынешнего сотрудника, пока пользователи X распространяли изображения антиисторических изображений людей Близнецов, внутренние форумы сотрудников Google были полны сообщений о недостатках модели. На Memegen, внутреннем форуме, где сотрудники делятся мемами, высмеивающими компанию, в одном из популярных постов было опубликовано изображение телеведущего Андерсона Купера, закрывающего лицо руками. «Это лицо ладони», — сказал сотрудник. «Есть ощущение, что это явно не готово к прайм-тайму… что компания на самом деле пытается догнать». Google, OpenAI и другие встраивают защитные ограждения в свои продукты искусственного интеллекта и часто проводят состязательное тестирование, призванное выяснить, как инструменты будут реагировать на потенциальных злоумышленников, чтобы ограничить потенциально проблемные результаты, такие как агрессивный или оскорбительный контент. Они также используют ряд методов для противодействия предвзятости, обнаруженной в их данных, например, заставляя людей оценивать ответы, которые дает чат-бот. Другой метод, который некоторые компании используют для программного обеспечения, генерирующего изображения, заключается в расширении конкретных формулировок подсказок, которые пользователи вводят в модель ИИ, чтобы противодействовать разрушительным стереотипам — иногда даже не сообщая об этом пользователям. Два человека, знакомые с этим вопросом, рассказали, что генерация изображений Google работает именно таким образом, хотя пользователи об этом не проинформированы. Этот подход иногда называют быстрым проектированием или быстрой трансформацией. В недавнем официальном документе Meta по созданию ответственного генеративного ИИ это объясняется как «прямая модификация ввода текста перед его отправкой в ​​модель, которая помогает управлять поведением модели путем добавления дополнительной информации, контекста или ограничений». Возьмем, к примеру, запрос изображения медсестры. Согласно официальному документу Meta(является террористической организацией и запрещена на территории РФ) , быстрое проектирование «может обеспечить модель дополнительными словами или контекстом, например, обновлением и случайным чередованием подсказок, в которых используются разные квалификаторы, такие как «медсестра, мужчина» и «медсестра, женщина». Именно это делает ИИ Google, когда его просят создать изображения людей, по словам знакомых людей — он может добавить различные полы или расы в исходное приглашение, даже если пользователи этого не заметят, искажая то, что было бы стереотипным результатом. производятся инструментом. «Это быстрое техническое решение», — сказал Фабиан Офферт, доцент Калифорнийского университета в Санта-Барбаре, изучающий цифровые гуманитарные науки и визуальный искусственный интеллект. «Это наименее затратный в вычислительном отношении способ добиться некоторой части того, чего они хотят». Читать далее: Как искусственный интеллект усиливает крайние расовые и гендерные стереотипы OpenAI использует аналогичный подход в своем программном обеспечении для создания изображений. Например, когда пользователи просят ChatGPT создать изображение с помощью программного обеспечения для создания изображений Dall-E 3, письменное приглашение, которое вводит пользователь, автоматически обрабатывается программным обеспечением OpenAI. Пользователи ChatGPT могут увидеть более подробную подсказку, которую он фактически использует, если они получают доступ к чат-боту через веб-сайт OpenAI. Но Google не позволяет пользователям Gemini легко увидеть, что происходит за кулисами. Решение Google сохранить в тайне процесс создания изображений было ошибкой, сказал Офферт. Тем не менее, как он отметил, такие усилия — будь то скрытые или раскрытые пользователям — не решат фундаментальных проблем, возникающих из данных, на которых обычно обучаются передовые системы искусственного интеллекта. «Поскольку они обучены на извлеченных из Интернета данных, которые невероятно предвзяты и по своей сути предвзяты, это мусор в политическом смысле, поэтому им приходится манипулировать ими в той или иной форме, чтобы производить менее мусорные материалы», — сказал Офферт. Более того, цель систем генерации изображений ИИ не в том, чтобы создавать исторически точные изображения, говорит Эмили Бендер, профессор компьютерной лингвистики в Вашингтонском университете. «Если изображение синтетическое, оно не является точным историческим представлением», — сказала она. Генеративные системы искусственного интеллекта также «незасекречены», то есть они не разрабатывались для какой-либо конкретной цели, добавил Бендер. Невозможно предугадать все способы, которыми люди могут использовать эту технологию, а тем более проверить системы на безопасность и эффективность для каждого варианта использования. «Воинственные рыдания» Но в медиа-среде консерваторы критиковали Google за то, что она зашла слишком далеко в попытках диверсифицировать результаты своего искусственного интеллекта. «Пробужденный искусственный интеллект Google делает викингов черными, а Папу Римским — женщиной», — гласила первая полоса New York Post 22 февраля. Бен Шапиро, крайне правый политический обозреватель, написал, что Google был пойман на «проснувшейся повестке дня». И особенно на Х(социальная сеть заблокирована в РФ) , посыпался купорос. Венчурные капиталисты, такие как Джо Лонсдейл, писали, что Google «по большей части управляется расистскими идеологами и активистами». Маск, миллиардер, владелец X(социальная сеть заблокирована в РФ) , вел большую часть разговоров в социальной сети. Согласно обзору Bloomberg, Маск публиковал или отвечал на сообщения о заговоре о том, что Google ведет тайную вендетту против белых, по крайней мере, 155 раз с 20 февраля. В более чем дюжине постов Маск также выделил отдельных лидеров Google, в том числе руководителя продукта Gemini Джека Кравчика и советника по этике Google AI Джен Дженнаи, необоснованно утверждая, что они стояли за предполагаемой предвзятостью компании AI в отношении белых людей. Маск и другие консервативные деятели назвали выступления и посты сотрудников Google многолетней давности сомнительным доказательством того, что лидеры были архитекторами политики «пробуждения» ИИ. Маск не ответил на просьбу о комментариях. В те дни, когда он приводил примеры из Близнецов, Маск также использовал эту полемику для продвижения своего собственного инструмента генеративного искусственного интеллекта Grok, который он продвигал как противоядие от «вируса пробуждающегося разума» — ультраправого обозначения целей корпоративного разнообразия, — поражающего других. технологические компании. 23 февраля Маск заявил, что один из топ-менеджеров Google заверил его, что компания «принимает немедленные меры, чтобы исправить расовую и гендерную предвзятость в Gemini». Мередит Уиттакер, президент Signal Foundation и бывший менеджер Google, сказала, что иронично слышать так много громких голосов, критикующих Google за неспособность обеспечить справедливое представительство через свои продукты. «Мы пережили десятилетия, когда, когда вы набирали «красивые женщины», в результатах поиска появлялись страницы с изображениями белых женщин, это была ничем не примечательная норма», — сказал Уиттакер. «Мы не слышали таких же воинственных рыданий от многих интернет-комментаторов по поводу такого типа неравенства». Сотрудники Google теперь обеспокоены тем, что наплыв социальных сетей еще больше усложнит работу внутренним командам, которым поручено уменьшить реальный вред от их продуктов искусственного интеллекта, включая вопросы о том, может ли технология скрыть системные предубеждения. Один из сотрудников сказал, что возмущение по поводу того, что инструмент ИИ непреднамеренно отодвинул на второй план группу, которая и без того чрезмерно представлена ​​в большинстве наборов обучающих данных, может привести к тому, что некоторые в Google будут выступать за меньшее количество ограждений или защиты для результатов ИИ, что, если зайти слишком далеко, может нанести вред для общество. На данный момент Google остается в режиме контроля ущерба. 26 февраля Демис Хассабис, глава исследовательского подразделения Google DeepMind, заявил, что компания надеется вернуть функцию Gemini в онлайн «в ближайшие пару недель». Но на выходных консервативные личности продолжили атаковать Google, на этот раз сосредоточив внимание на текстовых ответах Gemini на запросы пользователей. «Капитуляция Google только подкормит эту онлайн-толпу, а не успокоит ее», — сказал Эмерсон Брукинг, старший научный сотрудник Атлантического совета, изучавший динамику сетевых преследований в Интернете. «Чем раньше Google это узнает, тем лучше». Источник: www.finance.yahoo.com

Пост взят с международного финтех-медиа ресурса

Другие новости сообщества / АКЦИЙ США - последние новости на сегодня - MONDIARA

EXPRESS NEWS

  • Премьер Британии Бернэм переписывался с лжесотрудницей Белого дома, сообщает Politico со ссылкой на источники. Самозванец выдавал себя за главу аппарата Белого дома Уайлз. Остается неясным, когда Бернэм обменивался сообщениями с самозванцем и что конкретно обсуждалось в переписке

  • Трамп угрожает Оману, поскольку ищет виновных в трудностях с заключением соглашения с Ираном по ядерному вопросу. Такую версию изложила The Wall Street Journal, ссылаясь на источники

  • Москва и Пхеньян совместно борются за создание нового миропорядка, основанного на многополярности, равноправии и учете национальных интересов стран. Об этом говорится в телеграмме Лаврова главе МИД КНДР

  • Иран не выражает готовности принять условия США относительно прекращения конфликта, заявил Трамп

  • «Мы разбомбим их к чертям». США ударят по Оману, если страна будет мешать урегулированию в регионе, заявил Трамп в интервью телеканалу Fox News

  • Россия вызвала посла Японии после протеста Токио из-за поездки Путина, но в посольстве сказали, что он не сможет посетить МИД 14 или 17 августа, заявил Лавров. Посол Японии должен прийти в МИД, с ним поговорят о протесте из-за визита Путина на Итуруп и о подходе к его работе в России, заявил Лавров, отвечая на вопрос ТАСС
    Россия вызвала посла Японии после протеста Токио из-за поездки Путина, но в посольстве сказали, что он не сможет посетить МИД 14 или 17 августа, заявил Лавров. Посол Японии должен прийти в МИД, с ним поговорят о протесте из-за визита Путина на Итуруп и о подходе к его работе в России, заявил Лавров, отвечая на вопрос ТАСС

  • Трамп в интервью телеканалу Fox News заявил, что США поддерживают связь с КСИР по неофициальным каналам. Ранее о неофициальных каналах связи между Белым домом и руководством КСИР со ссылкой на источники сообщал американский портал Axios

  • Каллас заявила, что предстоящей осенью планирует представить странам ЕС «самый масштабный» пакет санкций против России
    Каллас заявила, что предстоящей осенью планирует представить странам ЕС «самый масштабный» пакет санкций против России

  • Трамп назвал Мекканское соглашение свидетельством объединения стран Ближнего Востока. «Очень рад видеть, что Саудовская Аравия, Турция и Пакистан недавно, наконец-то, подписали Мекканское соглашение о совместной обороне», — написал он в Truth Social.

  • Мигранты на границе в Сеуте приходят массово, чтобы лично «поблагодарить» Урсулу фон дер Ляйен за миграционную политику, заявил Дмитриев

  • Европейские бизнесмены и компании проявляют интерес к ВЭФ, сообщил в интервью ТАСС Кобяков

  • Восемь человек погибли в Японии в результате мощных ливней, сообщила японская служба пожарной охраны
    Восемь человек погибли в Японии в результате мощных ливней, сообщила японская служба пожарной охраны

  • Трамп предложил Демократической партии снова выдвинуть Камалу Харрис кандидатом в президенты США

  • Трамп заявил, что скоро объявит Ормузский пролив американским: «Когда мы окончательно нанесем поражение Ирану, а он терпит серьезное поражение, довольно скоро, я объявлю Ормузский пролив территорией США»

  • Путин поздравил руководство Пакистана с Днем независимости и высказался за наращивание плодотворного сотрудничества двух стран
    Путин поздравил руководство Пакистана с Днем независимости и высказался за наращивание плодотворного сотрудничества двух стран

  • Путин готов в очередной раз принять Уиткоффа и Кушнера, «другое дело, с чем они приедут», подчеркнул Лавров в интервью «Вестям»

  • США скоро применят «невиданные меры» для экономической изоляции Ирана, заявил Скотт Бессент. Министр экономики США не привел деталей грядущих мер, однако указал, что они будут работать вкупе с морской блокадой Ирана
    США скоро применят «невиданные меры» для экономической изоляции Ирана, заявил Скотт Бессент. Министр экономики США не привел деталей грядущих мер, однако указал, что они будут работать вкупе с морской блокадой Ирана

  • Трамп ввел пошлины в размере 100% на поставки в США некоторых видов беспилотников и их компонентов. Об этом сообщил Белый дом

  • Джаред Кушнер намерен на следующей неделе посетить Израиль для проведения переговоров о ситуации в секторе Газа. Об этом сообщил портал Axios со ссылкой на источники

  • Рябков: визит Уиткоффа и Кушнера может быть оперативно организован, когда станут понятны их планы
    Рябков: визит Уиткоффа и Кушнера может быть оперативно организован, когда станут понятны их планы

  • Турция надеется на присоединение Египта к Мекканскому соглашению, заявил Фидан

  • Незаконное решение Брюсселя объявлять суда под любым флагом «теневым флотом» — очень опасная стезя ЕС, подчеркнул Лавров в интервью «Вестям».

  • Ален Симонян назначен секретарем Совета безопасности Армении, следует из указа
    Ален Симонян назначен секретарем Совета безопасности Армении, следует из указа

  • Пресс-секретарь Белого дома Кэролайн Ливитт покинет свой пост в конце текущего месяца, сообщил Трамп. Она оставляет свой пост, чтобы больше времени проводить со своими детьми и семьей

  • Владимир Путин присвоил звание заслуженной артистки РФ актрисе Валерии Ланской
    Владимир Путин присвоил звание заслуженной артистки РФ актрисе Валерии Ланской

  • Премьер Британии проведет чрезвычайное заседание из-за жары и засухи, сообщил телеканал Sky News

  • США признательны Владимиру Путину за помилование Гилмана по гуманитарным соображениям, заявил Уиткофф
    США признательны Владимиру Путину за помилование Гилмана по гуманитарным соображениям, заявил Уиткофф

  • «Я не верю Ирану»: Трамп заявил о недоверии к иранским представителям, при этом сказав, что «с Ираном все продвигается совершенно хорошо»

  • Рубио поблагодарил Россию за освобождение Гилмана
    Рубио поблагодарил Россию за освобождение Гилмана

  • Вопрос о лишении права голоса Армении в ОДКБ может быть рассмотрен на саммите организации 11 ноября. Об этом заявил в интервью ТАСС замглавы МИД РФ Михаил Галузин

  • Трамп вернулся к выжидательному подходу в отношении Ирана, пишет The Wall Street Journal со ссылкой на неназванных должностных лиц администрации США

  • Трамп заявил, что намерен добиваться от Ирана компенсации, в том числе за гибель американских военнослужащих. Он отметил, что такое намерение возникло после того, как представители Ирана потребовали компенсировать ущерб, нанесенный за последние пять месяцев военного конфликта

  • Никаких официальных переговоров с ФРГ по Украине в Баку не было, заявил ТАСС замглавы МИД РФ Галузин
    Никаких официальных переговоров с ФРГ по Украине в Баку не было, заявил ТАСС замглавы МИД РФ Галузин

  • В Шанхае предупредили о подтоплении некоторых районов города на 15-30 см из-за вызванного тайфуном ливня

  • ЕС столкнулся с энергокризисом, который сам же и спровоцировал, отказавшись от газа из РФ, заявил Дмитриев. По его словам, Германия заполнила газохранилища лишь на 47,6% (при обычном показателе 75%), а Нидерланды — всего на 38,5% (при 77%)

  • Экс-председатель Верховного суда Венгрии Андраш Бака принял предложение занять пост президента страны, заявил Мадьяр

  • Уиткофф и Кушнер могут посетить Москву на следующей неделе, сообщает источник ТАСС
    Уиткофф и Кушнер могут посетить Москву на следующей неделе, сообщает источник ТАСС

  • Абелардо де ла Эсприэлья вступил в должность президента Колумбии, церемония инаугурации транслировалась в эфире телеканала Caracol

  • Пашинян заявил, что Армения понимает, что одновременное членство в ЕАЭС и ЕС невозможно
    Пашинян заявил, что Армения понимает, что одновременное членство в ЕАЭС и ЕС невозможно

  • «Нам всегда нужно больше». Трамп допустил, что ВС США необходимо пополнить запасы вооружений

Вы уверены, что хотите выйти из аккаунта?