Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества MICROSOFT: НОВОСТИ

MICROSOFT: НОВОСТИ

АКЦИЙ США - последние новости на сегодня - MONDIARA

Новости по компании MICROSOFT

6
Новости по компании MICROSOFT

Новость: нейтральная. Сотрудник Microsoft: инструмент искусственного интеллекта следует удалить до тех пор, пока не будут устранены «оскорбительные изображения». Сотрудник Microsoft предупреждает, что системы искусственного интеллекта компании могут создавать вредные изображения, в том числе сексуальные изображения женщин, согласно письму, которое он отправил в среду в Федеральную торговую комиссию США. Шейн Джонс, главный руководитель разработки программного обеспечения Microsoft, заявил, что у генератора текста в изображения на основе искусственного интеллекта Copilot Designer есть «системные проблемы», из-за которых он часто создает потенциально оскорбительные или неуместные изображения, в том числе сексуальные изображения женщин. Джонс также раскритиковал компанию за то, что она позиционирует этот инструмент как безопасный, в том числе для детей, несмотря на то, что, по его словам, это известные риски. «Один из наиболее серьезных рисков, связанных с Copilot Designer, заключается в том, что продукт генерирует изображения, которые добавляют вредоносный контент, несмотря на доброжелательный запрос пользователя», — сказал Джонс в письме председателю FTC Лине Хан, которое он опубликовал публично на своей странице в LinkedIn. Например, по его словам, в ответ на подсказку «автомобильная авария» Copilot Designer «имеет тенденцию случайным образом включать неуместный, сексуально объективированный образ женщины в некоторые из создаваемых им изображений». В соответствующем письме, отправленном совету директоров Microsoft, Джонс добавил, что он работает над «красной командой» или тестирует продукты компании, чтобы увидеть, где они могут быть уязвимы для злоумышленников. Он сказал, что потратил несколько месяцев на тестирование инструмента Microsoft, а также OpenAI DALL-E 3, технологии, на которой построен Copilot Designer от Microsoft, и пытался выразить обеспокоенность внутри компании, прежде чем предупредить Федеральную торговую комиссию. (Microsoft является инвестором и независимым наблюдателем совета директоров OpenAI.) Он сказал, что нашел более 200 примеров «касающихся изображений», созданных Copilot Designer. Джонс призвал Microsoft «удалить Copilot Designer из публичного использования до тех пор, пока не будут приняты более эффективные меры безопасности» или, по крайней мере, продавать этот инструмент только взрослым, согласно его письму в Федеральную торговую комиссию. Microsoft и OpenAI не сразу ответили на просьбу прокомментировать заявления Джонса. В ФТК отказались комментировать письмо. Письмо Джонса появилось на фоне растущей обеспокоенности тем, что генераторы изображений искусственного интеллекта, способные создавать убедительные фотореалистичные изображения, могут причинить вред, распространяя оскорбительные или вводящие в заблуждение изображения. Порнографические Изображения Тейлор Свиф, созданные искусственным интеллектом. Сообщение, распространившееся в социальных сетях в прошлом месяце, привлекло внимание к форме преследования. Исследователи предупредили о возможностях генераторов изображений с использованием искусственного интеллекта создавать политическую дезинформацию перед выборами в США и десятках других стран в этом году. Конкурент Microsoft, Google, также подвергся критике в прошлом месяце после того, как его чат-бот Gemini с искусственным интеллектом создал исторически неточные изображения, на которых в основном были изображены цветные люди вместо белых, например, создание изображений цветных людей в ответ на подсказку создать изображения «немца 1943 года». После негативной реакции Google сразу заявил, что приостановит способность Gemini создавать изображения, сгенерированные искусственным интеллектом, пока она работает над решением этой проблемы. В своем письме совету директоров Microsoft Джонс призвал компанию предпринять аналогичные действия. Он призвал совет директоров провести расследование решения Microsoft продолжать маркетинг «продуктов искусственного интеллекта, создающих значительные риски для общественной безопасности, не раскрывая при этом известных рисков потребителям», а также ответственных процессов отчетности и обучения компании в области искусственного интеллекта. «В конкурентной гонке за звание самой заслуживающей доверия компании в области искусственного интеллекта Microsoft должна лидировать, а не следовать или отставать», — сказал Джонс. «Учитывая наши корпоративные ценности, мы должны добровольно и прозрачно раскрывать известные риски ИИ, особенно когда продукт ИИ активно продается детям. Джонс сказал, что усилил свою обеспокоенность, опубликовав в декабре открытое письмо совету директоров OpenAI, в котором предупредил их об уязвимостях, которые, по его словам, он обнаружил, которые позволяют пользователям DALL-E 3 «создавать тревожные, жестокие изображения» с помощью инструмента искусственного интеллекта, и поставить под угрозу психическое здоровье детей. Джонс утверждает, что юридический отдел Microsoft приказал ему удалить письмо. «Я до сих пор не знаю, доставила ли Microsoft мое письмо совету директоров OpenAI или они просто заставили меня удалить его, чтобы предотвратить негативное освещение в прессе», — сказал Джонс. Джонс сказал, что он также выразил свою обеспокоенность генеральному прокурору Вашингтона Бобу Фергюсону и законодателям, в том числе сотрудникам комитета Сената США по торговле, науке и транспорту. Источник: www.finance.yahoo.com

Пост взят с международного финтех-медиа ресурса

Другие новости сообщества / АКЦИЙ США - последние новости на сегодня - MONDIARA

EXPRESS NEWS

  • Трамп заявил, что ожидает встречи с Ким Чен Ыном в этом году
    Трамп заявил, что ожидает встречи с Ким Чен Ыном в этом году
  • Число жертв землетрясения в Колумбии выросло до 312, пропавшими без вести продолжают числиться 290. Об этом сообщила служба управления рисками стихийных бедствий
    Число жертв землетрясения в Колумбии выросло до 312, пропавшими без вести продолжают числиться 290. Об этом сообщила служба управления рисками стихийных бедствий

  • США не уведомляли Республику Корея заранее о планах сократить учения. Об этом сообщил министр иностранных дел республики Чо Хён

  • Трамп требует от помощников организовать встречу с Ким Чен Ыном этой осенью, сообщила газета The Wall Street Journal со ссылкой на источники
    Трамп требует от помощников организовать встречу с Ким Чен Ыном этой осенью, сообщила газета The Wall Street Journal со ссылкой на источники

  • Трамп заявил, что США в данный момент не ведут и не планируют переговоров с Ираном

  • Кремлю пока нечего заявить по поводу возможного приезда Уиткоффа и Кушнера, встречи такого рода требуют подготовки, заявил Ушаков, отвечая на вопрос журналисту «Вестей» Павлу Зарубину
    Кремлю пока нечего заявить по поводу возможного приезда Уиткоффа и Кушнера, встречи такого рода требуют подготовки, заявил Ушаков, отвечая на вопрос журналисту «Вестей» Павлу Зарубину

  • Премьер Британии Бернэм переписывался с лжесотрудницей Белого дома, сообщает Politico со ссылкой на источники. Самозванец выдавал себя за главу аппарата Белого дома Уайлз. Остается неясным, когда Бернэм обменивался сообщениями с самозванцем и что конкретно обсуждалось в переписке

  • Трамп угрожает Оману, поскольку ищет виновных в трудностях с заключением соглашения с Ираном по ядерному вопросу. Такую версию изложила The Wall Street Journal, ссылаясь на источники

  • Москва и Пхеньян совместно борются за создание нового миропорядка, основанного на многополярности, равноправии и учете национальных интересов стран. Об этом говорится в телеграмме Лаврова главе МИД КНДР

  • Иран не выражает готовности принять условия США относительно прекращения конфликта, заявил Трамп

  • «Мы разбомбим их к чертям». США ударят по Оману, если страна будет мешать урегулированию в регионе, заявил Трамп в интервью телеканалу Fox News

  • Россия вызвала посла Японии после протеста Токио из-за поездки Путина, но в посольстве сказали, что он не сможет посетить МИД 14 или 17 августа, заявил Лавров. Посол Японии должен прийти в МИД, с ним поговорят о протесте из-за визита Путина на Итуруп и о подходе к его работе в России, заявил Лавров, отвечая на вопрос ТАСС
    Россия вызвала посла Японии после протеста Токио из-за поездки Путина, но в посольстве сказали, что он не сможет посетить МИД 14 или 17 августа, заявил Лавров. Посол Японии должен прийти в МИД, с ним поговорят о протесте из-за визита Путина на Итуруп и о подходе к его работе в России, заявил Лавров, отвечая на вопрос ТАСС

  • Трамп в интервью телеканалу Fox News заявил, что США поддерживают связь с КСИР по неофициальным каналам. Ранее о неофициальных каналах связи между Белым домом и руководством КСИР со ссылкой на источники сообщал американский портал Axios

  • Каллас заявила, что предстоящей осенью планирует представить странам ЕС «самый масштабный» пакет санкций против России
    Каллас заявила, что предстоящей осенью планирует представить странам ЕС «самый масштабный» пакет санкций против России

  • Трамп назвал Мекканское соглашение свидетельством объединения стран Ближнего Востока. «Очень рад видеть, что Саудовская Аравия, Турция и Пакистан недавно, наконец-то, подписали Мекканское соглашение о совместной обороне», — написал он в Truth Social.

  • Мигранты на границе в Сеуте приходят массово, чтобы лично «поблагодарить» Урсулу фон дер Ляйен за миграционную политику, заявил Дмитриев

  • Европейские бизнесмены и компании проявляют интерес к ВЭФ, сообщил в интервью ТАСС Кобяков

  • Восемь человек погибли в Японии в результате мощных ливней, сообщила японская служба пожарной охраны
    Восемь человек погибли в Японии в результате мощных ливней, сообщила японская служба пожарной охраны

  • Трамп предложил Демократической партии снова выдвинуть Камалу Харрис кандидатом в президенты США

  • Трамп заявил, что скоро объявит Ормузский пролив американским: «Когда мы окончательно нанесем поражение Ирану, а он терпит серьезное поражение, довольно скоро, я объявлю Ормузский пролив территорией США»

  • Путин поздравил руководство Пакистана с Днем независимости и высказался за наращивание плодотворного сотрудничества двух стран
    Путин поздравил руководство Пакистана с Днем независимости и высказался за наращивание плодотворного сотрудничества двух стран

  • Путин готов в очередной раз принять Уиткоффа и Кушнера, «другое дело, с чем они приедут», подчеркнул Лавров в интервью «Вестям»

  • США скоро применят «невиданные меры» для экономической изоляции Ирана, заявил Скотт Бессент. Министр экономики США не привел деталей грядущих мер, однако указал, что они будут работать вкупе с морской блокадой Ирана
    США скоро применят «невиданные меры» для экономической изоляции Ирана, заявил Скотт Бессент. Министр экономики США не привел деталей грядущих мер, однако указал, что они будут работать вкупе с морской блокадой Ирана

  • Трамп ввел пошлины в размере 100% на поставки в США некоторых видов беспилотников и их компонентов. Об этом сообщил Белый дом

  • Джаред Кушнер намерен на следующей неделе посетить Израиль для проведения переговоров о ситуации в секторе Газа. Об этом сообщил портал Axios со ссылкой на источники

  • Рябков: визит Уиткоффа и Кушнера может быть оперативно организован, когда станут понятны их планы
    Рябков: визит Уиткоффа и Кушнера может быть оперативно организован, когда станут понятны их планы

  • Турция надеется на присоединение Египта к Мекканскому соглашению, заявил Фидан

  • Незаконное решение Брюсселя объявлять суда под любым флагом «теневым флотом» — очень опасная стезя ЕС, подчеркнул Лавров в интервью «Вестям».

  • Ален Симонян назначен секретарем Совета безопасности Армении, следует из указа
    Ален Симонян назначен секретарем Совета безопасности Армении, следует из указа

  • Пресс-секретарь Белого дома Кэролайн Ливитт покинет свой пост в конце текущего месяца, сообщил Трамп. Она оставляет свой пост, чтобы больше времени проводить со своими детьми и семьей

  • Владимир Путин присвоил звание заслуженной артистки РФ актрисе Валерии Ланской
    Владимир Путин присвоил звание заслуженной артистки РФ актрисе Валерии Ланской

  • Премьер Британии проведет чрезвычайное заседание из-за жары и засухи, сообщил телеканал Sky News

  • США признательны Владимиру Путину за помилование Гилмана по гуманитарным соображениям, заявил Уиткофф
    США признательны Владимиру Путину за помилование Гилмана по гуманитарным соображениям, заявил Уиткофф

  • «Я не верю Ирану»: Трамп заявил о недоверии к иранским представителям, при этом сказав, что «с Ираном все продвигается совершенно хорошо»

  • Рубио поблагодарил Россию за освобождение Гилмана
    Рубио поблагодарил Россию за освобождение Гилмана

  • Вопрос о лишении права голоса Армении в ОДКБ может быть рассмотрен на саммите организации 11 ноября. Об этом заявил в интервью ТАСС замглавы МИД РФ Михаил Галузин

  • Трамп вернулся к выжидательному подходу в отношении Ирана, пишет The Wall Street Journal со ссылкой на неназванных должностных лиц администрации США

  • Трамп заявил, что намерен добиваться от Ирана компенсации, в том числе за гибель американских военнослужащих. Он отметил, что такое намерение возникло после того, как представители Ирана потребовали компенсировать ущерб, нанесенный за последние пять месяцев военного конфликта

  • Никаких официальных переговоров с ФРГ по Украине в Баку не было, заявил ТАСС замглавы МИД РФ Галузин
    Никаких официальных переговоров с ФРГ по Украине в Баку не было, заявил ТАСС замглавы МИД РФ Галузин

  • В Шанхае предупредили о подтоплении некоторых районов города на 15-30 см из-за вызванного тайфуном ливня

Вы уверены, что хотите выйти из аккаунта?