Microsoft запрещает полицейским управлениям США использовать корпоративный инструмент искусственного интеллекта для распознавания лиц
Microsoft запрещает полицейским управлениям США использовать корпоративный инструмент искусственного интеллекта для распознавания лиц. Microsoft подтвердила свой запрет полицейским управлениям США использовать генеративный искусственный интеллект для распознавания лиц с помощью Azure OpenAI Service , полностью управляемой, ориентированной на предприятия оболочки компании вокруг технологии OpenAI. Формулировка, добавленная в среду в условия обслуживания службы Azure OpenAI, более явно запрещает использование интеграции со службой Azure OpenAI «полицией или для» полицейских департаментов для распознавания лиц в США, включая интеграцию с текущим (и, возможно, будущим) изображением OpenAI. -анализ моделей. Отдельный новый пункт охватывает «любые правоохранительные органы во всем мире» и прямо запрещает использование «технологии распознавания лиц в реальном времени» на мобильных камерах, таких как нательные камеры и видеорегистраторы, для попытки идентифицировать человека в «неконтролируемых, неконтролируемых ситуациях». -дикая» среда. Изменения в политике произошли через неделю после того, как Axon, производитель технологий и вооружений для военных и правоохранительных органов, анонсировал новый продукт , который использует генеративную текстовую модель OpenAI GPT-4 для обобщения звука с нательных камер. Критики поспешили указать на потенциальные ловушки, такие как галлюцинации (даже лучшие генеративные модели искусственного интеллекта сегодня выдумывают факты) и расовые предубеждения, возникающие в результате обучения (что особенно тревожит, учитывая, что цветных людей гораздо чаще останавливает полиция). чем их белые сверстники). Неясно, использовала ли Axon GPT-4 через службу Azure OpenAI, и если да, то была ли обновленная политика ответом на запуск продукта Axon. OpenAI ранее ограничивала использование своих моделей для распознавания лиц через свои API. Мы обратились к Axon, Microsoft и OpenAI и обновим этот пост, если получим ответ. Новые условия оставляют Microsoft простор для маневра. Полный запрет на использование службы Azure OpenAI касается только полиции США , а не международной полиции. И это не распространяется на распознавание лиц, выполняемое с помощью стационарных камер в контролируемых средах, таких как бэк-офис (хотя условия запрещают любое использование распознавания лиц полицией США). Это соответствует недавнему подходу Microsoft и ее близкого партнера OpenAI к контрактам правоохранительных и оборонных ведомств, связанных с ИИ. В январе агентство Bloomberg сообщило , что OpenAI работает с Пентагоном над рядом проектов, включая возможности кибербезопасности, что является отходом от ранее введенного стартапом запрета на предоставление своего ИИ военным. В другом месте Microsoft предложила использовать инструмент генерации изображений OpenAI, DALL-E, чтобы помочь Министерству обороны (DoD) создавать программное обеспечение для проведения военных операций, согласно The Intercept. Служба Azure OpenAI стала доступна в продукте Microsoft Azure для государственных учреждений в феврале, добавив дополнительные функции обеспечения соответствия и управления, предназначенные для государственных учреждений, включая правоохранительные органы. ВСообщение блогаКэндис Линг, старший вице-президент правительственного подразделения Microsoft Federal, пообещала, что служба Azure OpenAI будет «представлена на дополнительную авторизацию» Министерству обороны для рабочих нагрузок, поддерживающих миссии Министерства обороны. Автор: Kyle Wiggers. Источник: www.techcrunch.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ