Новости по компании MICROSOFT
Новость: нейтральная. Нью-Йорк защищает чат-бота с искусственным интеллектом, который советовал предпринимателям нарушать законы. Мэр Нью-Йорка Эрик Адамс защищает нового городского чат-бота с искусственным интеллектом, который был пойман в последние дни на том, что он давал владельцам бизнеса неверные ответы или советы, которые, если им следовать, повлекут за собой нарушение закона. Чат-бот MyCity, запущенный в качестве пилотного проекта в октябре, рекламировался как первое общегородское использование такой технологии искусственного интеллекта, что позволит владельцам бизнеса получать «действительную и достоверную информацию» в ответ на запросы, вводимые на онлайн-портал. Это не всегда подтверждается: журналисты расследовательского издания The Markup впервые сообщили на прошлой неделе, что чат-бот ошибается. В нем ошибочно сообщалось, что работодатели могут получать часть чаевых от своих работников и что не существует правил, обязывающих начальство уведомлять сотрудников об изменениях в графике работы. «В некоторых областях это неправильно, и мы должны это исправить», — заявил журналистам во вторник Адамс, демократ, подчеркнув, что это была пилотная программа. «Каждый раз, когда вы используете технологию, вам необходимо внедрить ее в реальную среду, чтобы сгладить недостатки». Адамс был ярым сторонником внедрения в городе непроверенных технологий с оптимизмом, который не всегда оправдывался. В прошлом году он разместил на станции метро Таймс-сквер 400-фунтового робота яйцевидной формы, который, как он надеялся, поможет полиции сдерживать преступность; Примерно пять месяцев спустя его сняли с эксплуатации, и пассажиры отметили, что он никогда ничего не делал и не мог пользоваться лестницей. Чат-бот оставался онлайн в четверг и по-прежнему иногда давал неправильные ответы. В нем говорится, что владельцы магазинов могут свободно перейти на безналичный расчет, очевидно, не обращая внимания на закон городского совета 2020 года, запрещающий магазинам отказываться принимать наличные. Он по-прежнему считает, что минимальная заработная плата в городе составляет 15 долларов в час, хотя с 2024 года она была повышена до 16 долларов. Чат-бот, который использует службу искусственного интеллекта Microsoft Azure, похоже, сбит с толку проблемами, общими для так называемых платформ генеративных технологий искусственного интеллекта, таких как ChatGPT, которые, как известно, иногда выдумывают или утверждают ложь с уверенностью, подобной HAL. Microsoft отказалась сообщить, что может быть причиной проблем, но сообщила в своем заявлении, что работает с городом над их устранением. В городском управлении технологий и инноваций говорится, что «уже на следующей неделе мы рассчитываем значительно сократить количество неточных ответов». Ни Microsoft, ни мэрия не ответили на вопросы о том, что является причиной ошибок и как их можно исправить. Городские власти обновили заявления об отказе от ответственности на веб-сайте чат-бота MyCity, отметив, что «его ответы иногда могут быть неточными или неполными», и попросив предприятия «не использовать его ответы в качестве юридических или профессиональных советов». Эндрю Риги, который защищает интересы тысяч владельцев ресторанов в качестве директора NYC Hospitality Alliance, сказал, что слышал от владельцев бизнеса, озадаченных ответами чат-бота. «Я хвалю город за попытку использовать ИИ для помощи бизнесу, но это должно сработать», — сказал он, предупредив, что следование некоторым указаниям чат-бота может повлечь за собой серьезные юридические последствия. «Если, когда я задаю вопрос, а затем мне приходится возвращаться к своим адвокатам, чтобы узнать, правильный ответ или нет, это противоречит цели». Автор: Jonathan Allen. Источник: www.reuters.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ