Новости по компании MICROSOFT

2024-06-05T12:31:45+03:00

Новость: нейтральная. OpenAI, нынешние и бывшие сотрудники Google DeepMind предупреждают о рисках ИИ. Группа нынешних и бывших сотрудников компаний, занимающихся искусственным интеллектом (ИИ), включая поддерживаемую Microsoft OpenAI и Google DeepMind от Alphabet, во вторник выразила обеспокоенность по поводу рисков, связанных с новой технологией. В открытом письме группы из 11 нынешних и бывших сотрудников OpenAI, а также одного нынешнего и еще одного бывшего сотрудника Google DeepMind, говорится, что финансовые мотивы компаний, занимающихся искусственным интеллектом, препятствуют эффективному надзору. «Мы не считаем, что специально разработанные структуры корпоративного управления достаточны, чтобы изменить это», - говорится в письме. Он также предупреждает о рисках, связанных с нерегулируемым ИИ, начиная от распространения дезинформации и заканчивая потерей независимых систем ИИ и углублением существующего неравенства, что может привести к «вымиранию человечества». Исследователи обнаружили примеры генераторов изображений от таких компаний, как OpenAI и Microsoft, которые создают фотографии с дезинформацией, связанной с голосованием, несмотря на политику против такого контента. В письме говорится, что компании, занимающиеся искусственным интеллектом, имеют «слабые обязательства» делиться с правительствами информацией о возможностях и ограничениях своих систем, добавляя, что нельзя рассчитывать на то, что эти компании поделятся этой информацией добровольно. Открытое письмо является последним, в котором поднимаются вопросы безопасности, связанные с технологией генеративного искусственного интеллекта, которая может быстро и дешево создавать текст, изображения и звук, похожий на человеческий. Группа призвала компании, занимающиеся искусственным интеллектом, облегчить нынешним и бывшим сотрудникам процесс сообщения о проблемах, связанных с рисками, а не обеспечивать соблюдение соглашений о конфиденциальности, которые запрещают критику. Кроме того, фирма, возглавляемая Сэмом Альтманом, заявила в четверг, что сорвала пять тайных операций по оказанию влияния, целью которых было использование ее моделей искусственного интеллекта для «обманной деятельности» в Интернете. Источник: www.reuters.com

Войти

Войдите, чтобы оставлять комментарии

Другие новости сообщества / НОВОСТИ АКЦИЙ