Как с вами связаться

Введите сообщение

Как с вами связаться

Введите сообщение

Аватар сообщества MICROSOFT [новости]

MICROSOFT [новости]

НОВОСТИ АКЦИЙ США

Новости по компании MICROSOFT

5
Новости по компании MICROSOFT

Новость: нейтральная. Сотрудник Microsoft: инструмент искусственного интеллекта следует удалить до тех пор, пока не будут устранены «оскорбительные изображения». Сотрудник Microsoft предупреждает, что системы искусственного интеллекта компании могут создавать вредные изображения, в том числе сексуальные изображения женщин, согласно письму, которое он отправил в среду в Федеральную торговую комиссию США. Шейн Джонс, главный руководитель разработки программного обеспечения Microsoft, заявил, что у генератора текста в изображения на основе искусственного интеллекта Copilot Designer есть «системные проблемы», из-за которых он часто создает потенциально оскорбительные или неуместные изображения, в том числе сексуальные изображения женщин. Джонс также раскритиковал компанию за то, что она позиционирует этот инструмент как безопасный, в том числе для детей, несмотря на то, что, по его словам, это известные риски. «Один из наиболее серьезных рисков, связанных с Copilot Designer, заключается в том, что продукт генерирует изображения, которые добавляют вредоносный контент, несмотря на доброжелательный запрос пользователя», — сказал Джонс в письме председателю FTC Лине Хан, которое он опубликовал публично на своей странице в LinkedIn. Например, по его словам, в ответ на подсказку «автомобильная авария» Copilot Designer «имеет тенденцию случайным образом включать неуместный, сексуально объективированный образ женщины в некоторые из создаваемых им изображений». В соответствующем письме, отправленном совету директоров Microsoft, Джонс добавил, что он работает над «красной командой» или тестирует продукты компании, чтобы увидеть, где они могут быть уязвимы для злоумышленников. Он сказал, что потратил несколько месяцев на тестирование инструмента Microsoft, а также OpenAI DALL-E 3, технологии, на которой построен Copilot Designer от Microsoft, и пытался выразить обеспокоенность внутри компании, прежде чем предупредить Федеральную торговую комиссию. (Microsoft является инвестором и независимым наблюдателем совета директоров OpenAI.) Он сказал, что нашел более 200 примеров «касающихся изображений», созданных Copilot Designer. Джонс призвал Microsoft «удалить Copilot Designer из публичного использования до тех пор, пока не будут приняты более эффективные меры безопасности» или, по крайней мере, продавать этот инструмент только взрослым, согласно его письму в Федеральную торговую комиссию. Microsoft и OpenAI не сразу ответили на просьбу прокомментировать заявления Джонса. В ФТК отказались комментировать письмо. Письмо Джонса появилось на фоне растущей обеспокоенности тем, что генераторы изображений искусственного интеллекта, способные создавать убедительные фотореалистичные изображения, могут причинить вред, распространяя оскорбительные или вводящие в заблуждение изображения. Порнографические Изображения Тейлор Свиф, созданные искусственным интеллектом. Сообщение, распространившееся в социальных сетях в прошлом месяце, привлекло внимание к форме преследования. Исследователи предупредили о возможностях генераторов изображений с использованием искусственного интеллекта создавать политическую дезинформацию перед выборами в США и десятках других стран в этом году. Конкурент Microsoft, Google, также подвергся критике в прошлом месяце после того, как его чат-бот Gemini с искусственным интеллектом создал исторически неточные изображения, на которых в основном были изображены цветные люди вместо белых, например, создание изображений цветных людей в ответ на подсказку создать изображения «немца 1943 года». После негативной реакции Google сразу заявил, что приостановит способность Gemini создавать изображения, сгенерированные искусственным интеллектом, пока она работает над решением этой проблемы. В своем письме совету директоров Microsoft Джонс призвал компанию предпринять аналогичные действия. Он призвал совет директоров провести расследование решения Microsoft продолжать маркетинг «продуктов искусственного интеллекта, создающих значительные риски для общественной безопасности, не раскрывая при этом известных рисков потребителям», а также ответственных процессов отчетности и обучения компании в области искусственного интеллекта. «В конкурентной гонке за звание самой заслуживающей доверия компании в области искусственного интеллекта Microsoft должна лидировать, а не следовать или отставать», — сказал Джонс. «Учитывая наши корпоративные ценности, мы должны добровольно и прозрачно раскрывать известные риски ИИ, особенно когда продукт ИИ активно продается детям. Джонс сказал, что усилил свою обеспокоенность, опубликовав в декабре открытое письмо совету директоров OpenAI, в котором предупредил их об уязвимостях, которые, по его словам, он обнаружил, которые позволяют пользователям DALL-E 3 «создавать тревожные, жестокие изображения» с помощью инструмента искусственного интеллекта, и поставить под угрозу психическое здоровье детей. Джонс утверждает, что юридический отдел Microsoft приказал ему удалить письмо. «Я до сих пор не знаю, доставила ли Microsoft мое письмо совету директоров OpenAI или они просто заставили меня удалить его, чтобы предотвратить негативное освещение в прессе», — сказал Джонс. Джонс сказал, что он также выразил свою обеспокоенность генеральному прокурору Вашингтона Бобу Фергюсону и законодателям, в том числе сотрудникам комитета Сената США по торговле, науке и транспорту. Источник: www.finance.yahoo.com

Пост взят с международного финтех-медиа ресурса

Другие новости сообщества / НОВОСТИ АКЦИЙ США

EXPRESS NEWS

  • Минтранс РФ не поддерживает идею о снижении нештрафуемого порога превышения скорости на автодорогах, сообщили в министерстве. Ведомство не видит целесообразности таких изменений, и соответствующие предложения в Минтранс официально не поступали

  • Решение ОАЭ о выходе из ОПЕК и ОПЕК+ — это суверенное решение страны, но в целом механизм работает эффективно, заявил Новак
    Решение ОАЭ о выходе из ОПЕК и ОПЕК+ — это суверенное решение страны, но в целом механизм работает эффективно, заявил Новак

  • Речи о том, чтобы использовать Азербайджан в качестве площадки для переговоров по украинскому урегулированию, пока нет. Так Песков прокомментировал заявление Зеленского о готовности Киева использовать страну в качестве площадки для переговоров

  • Для объявления Россией перемирия ко Дню Победы не нужна реакция Киева, это решение Путина, и оно будет реализовываться, заявил Песков

  • Путин не приглашал Трампа на парад 9 Мая в Москве, заявил Песков на вопрос ТАСС
    Путин не приглашал Трампа на парад 9 Мая в Москве, заявил Песков на вопрос ТАСС

  • Путин и Трамп в ходе телефонного разговора условились продолжать посредничество в урегулировании конфликтов, но конкретики по датам новых переговоров и визитов пока нет, заявил Песков

  • Большинство депутатов Госдумы, независимо от фракционной принадлежности, выступают против предложения по изменению нештрафуемого порога скорости, заявил Володин

  • Мадьяр потребовал расширить права венгров на Украине до переговоров о вступлении в ЕС, сообщает Bloomberg со ссылкой на источники. По их данным, Мадьяр во время встречи с главой Евросовета Коштой выдвинул требования, которые частично совпадают с позицией Орбана

  • Путин определит, в какие числа будет действовать перемирие ко Дню Победы, пока решение не принято, заявил Песков
    Путин определит, в какие числа будет действовать перемирие ко Дню Победы, пока решение не принято, заявил Песков

  • Встреча ключевых стран ОПЕК+ состоится в воскресенье, как и было запланировано, РФ неизвестно, будут ли участвовать в ней ОАЭ, сообщил журналистам вице-премьер РФ Александр Новак

  • Фицо заявил, что рассчитывает встретиться с Путиным на торжествах в День Победы
    Фицо заявил, что рассчитывает встретиться с Путиным на торжествах в День Победы
  • У России нет никаких агрессивных замыслов в отношении Европы, заявил Медведев
    У России нет никаких агрессивных замыслов в отношении Европы, заявил Медведев

  • Россия не планирует выходить из ОПЕК+, поскольку соглашение позволяет нивелировать риски нефтяных рынков в кризисные периоды, заявил Новак

  • Лавров проводит переговоры с главой МИД Казахстана в Астане

  • 30 апреля 1945 года бойцы Красной Армии водрузили Знамя Победы над зданием Рейхстага. Этот великий момент запечатлел военный фотокорреспондент ТАСС Евгений Халдей
    30 апреля 1945 года бойцы Красной Армии водрузили Знамя Победы над зданием Рейхстага. Этот великий момент запечатлел военный фотокорреспондент ТАСС Евгений Халдей

  • Неправильные решения Стармера в энергетической сфере привели к пустым полкам в магазинах, заявил Дмитриев. Он подчеркнул, что Британию накрывает «цунами» энергетического кризиса

  • «Черная метка для барахтающегося Мерца»: Дмитриев прокомментировал заявления Трампа о возможном сокращении контингента ВС США на территории ФРГ

  • США рассматривают возможность сокращения воинского контингента в ФРГ. Это решение будет принято в ближайшем будущем, заявил Трамп

  • Трамп заявил о высокой вероятности высадки астронавтов на Луне до 2029 года, когда завершится его второй президентский срок. Об этом он сказал во время встречи с экипажем лунной миссии «Артемида-2» в Овальном кабинете Белого дома

  • Трамп в очередной раз призвал руководство Ирана молить о пощаде. «Теперь они должны просить пощады. Вот и всё, что им нужно сделать. Просто сказать: "Мы сдаемся"», — сказал он, назвав их экономику «мертвой»

  • Роскомнадзор предупредил о фейковой рассылке писем от лица ведомства. Злоумышленники информируют организации о якобы проведенном «автоматическом анализе» сайтов и грозят административной ответственностью за нарушения закона о персональных данных, сообщили ТАСС в пресс-службе регулятора
    Роскомнадзор предупредил о фейковой рассылке писем от лица ведомства. Злоумышленники информируют организации о якобы проведенном «автоматическом анализе» сайтов и грозят административной ответственностью за нарушения закона о персональных данных, сообщили ТАСС в пресс-службе регулятора

  • Королям Британии и Швеции необходимо вспомнить, что они «царствуют, но не правят», прежде чем говорить о политике, заявил Медведев: «Европейским королям стало настолько скучно, что они выбросили правила и ввязались в политику. Как иначе расценить разглагольствования Карла III и Карла XVI Густава о защите Украины и 5-й статье договора НАТО?»

  • Мэр Нью-Йорка Зохран Мамдани заявил, что крупнейший город США находится в крайне тяжелом финансовом положении и просит государство о деньгах

  • Военно-морская блокада США в отношении иранских портов скоро встретится с «практическими и беспрецедентными военными действиями», сообщил высокопоставленный иранский источник в сфере безопасности Press TV
    Военно-морская блокада США в отношении иранских портов скоро встретится с «практическими и беспрецедентными военными действиями», сообщил высокопоставленный иранский источник в сфере безопасности Press TV

  • «Ни один канцлер до меня не вынужден был терпеть это. Если вы посмотрите на то, что распространяется обо мне, как меня атакуют и унижают, но я не жалуюсь». Канцлер Германии Фридрих Мерц в интервью Spiegel

  • Пентагон просит Конгресс официально переименовать Министерство обороны в «Министерство войны», оценивая, что прямые расходы на изменение составят около 52 миллионов долларов. Это предложение следует за указом, изданным Трампом в сентябре прошлого года, напоминает The Hill

  • Сенат США проголосовал за блокирование резолюции, которая помешала бы Дональду Трампу начать военные действия против Кубы без одобрения Конгресса. Мера была отклонена с результатом 51 голос против 47

  • Трамп приказал помощникам подготовиться к продолжительной блокаде Ирана, направленной на дальнейшее ограничение его экспорта нефти и экономической деятельности, чтобы оказать давление на Тегеран. Об этом сообщает The Wall Street Journal, утверждая, что на недавних встречах Трамп решил продолжить давление на экономику Ирана и его экспорт нефти, предотвращая судоходство в его порты и из них, вместо того чтобы возобновить бомбардировки или отступить от конфликта

  • Разногласия между США и странами Европы по Украине сохраняются. Решение для украинского кризиса удастся найти «сравнительно скоро», заявил Трамп
    Разногласия между США и странами Европы по Украине сохраняются. Решение для украинского кризиса удастся найти «сравнительно скоро», заявил Трамп
  • Трамп назвал очень хорошим свой разговор с Путиным, выразив уверенность в том, что конфликт на Украине будет урегулирован
    Трамп назвал очень хорошим свой разговор с Путиным, выразив уверенность в том, что конфликт на Украине будет урегулирован
  • Лавров прибыл с официальным визитом в Казахстан, передает корреспондент ТАСС
    Лавров прибыл с официальным визитом в Казахстан, передает корреспондент ТАСС

  • Во время слушаний в комитете Палаты представителей США по вооруженным силам финансовый директор Пентагона Джулс Херст заявил, что Вашингтон потратил на военную операцию против Ирана «Эпическая ярость» около $25 млрд. По его словам, большая часть трат приходится на боеприпасы, другая часть идет на эксплуатацию, техническое обслуживание и замену оборудования

  • Дональд Трамп отверг мирные предложения Ирана для заключения сделки. Он заявил Axios, что США будут продолжать блокаду иранских портов, пока Тегеран не согласится на американские условия по отказу от ядерного оружия. Иран предлагал снять блокаду и завершить войну, а переговоры по ядерному оружию отложить на более поздний срок

  • Развитие ИИ может грозить человечеству уничтожением, как это было в фильме «Терминатор», считает Илон Маск. Миллиардер заявил об этом во время заседания по его делу против OpenAI, передает издание Fortune

  • Война на Ближнем Востоке привела к увеличению объемов грузов в Панамском канале. Об этом пишет Reuters со ссылкой на администрацию канала. По ее данным, с октября по водному пути, соединяющему Атлантический и Тихий океаны, прошло примерно на 300 судов больше, чем за тот же период прошлого года. Ожидается, что количество судов будет расти, пока ситуация на Ближнем Востоке не разрешится

  • Ясность по датам визита Путина в Китай есть, Кремль своевременно о них сообщит, заявил Песков
    Ясность по датам визита Путина в Китай есть, Кремль своевременно о них сообщит, заявил Песков

  • ЕС в июле — августе будет очень тяжело в условиях мощнейшего экономического, энергетического и политического шока. При этом Россия продолжит с ним взаимодействие, заявил Кирилл Дмитриев

  • Риска для здоровья местных жителей в Туапсе на данный момент нет, сообщила Юнашеву Анна Попова: «Мы держим ситуацию под контролем очень плотно, усиливаем там свои лабораторные мощности, будем контролировать ситуацию. Сегодня риска для здоровья нет»

  • МИД Британии заявил о лишении аккредитации российского дипломата в ответ на высылку сотрудника британского посольства в Москве
    МИД Британии заявил о лишении аккредитации российского дипломата в ответ на высылку сотрудника британского посольства в Москве
  • Разговор Путина с президентом ОАЭ пока не запланирован, сообщил Песков
    Разговор Путина с президентом ОАЭ пока не запланирован, сообщил Песков

Вы уверены, что хотите выйти из аккаунта?