Новости по компании MICROSOFT
Новость: нейтральная. Вице-президент Microsoft по здравоохранению берет на себя ответственность за искусственный интеллект. За последний год Microsoft объявила о ряде инициатив в области искусственного интеллекта в здравоохранении, включая запуск генеративных моделей искусственного интеллекта , направленных на снижение административной нагрузки на врачей, и партнерство с гигантом программного обеспечения для медицинских записей Epic для более быстрого тестирования и развертывания. модели на практике. Теперь технологический гигант удваивает усилия по ответственному внедрению ИИ на фоне острых вопросов о потенциальной вероятности ошибок и предвзятости моделей. На прошлой неделе Microsoft вместе с 16 системами здравоохранения и двумя компаниями, занимающимися технологиями здравоохранения, запустила сеть управления искусственным интеллектом в сфере здравоохранения под названием The Trustworthy & Responsible AI Network, или TRAIN. Дэвид Рью, главный медицинский директор Microsoft и вице-президент по здравоохранению, поделился целями TRAIN в интервью Healthcare Dive на конференции HIMSS. Рью также обсудил роль федерального правительства в надзоре за ИИ в сфере здравоохранения и дал рекомендации больницам, заинтересованным в бережном и этическом подходе к внедрению этой технологии. Примечание редактора: это интервью было слегка отредактировано для краткости и ясности. Зачем нужен TRAIN и почему именно сейчас? ДЭВИД РЬЮ: Мы осознали во всей отрасли, что, несмотря на огромный потенциал ИИ, мы также должны придерживаться принципов ответственного ИИ. CHAI, Коалиция за ИИ в сфере здравоохранения, предоставила хороший план того, как рассматривать ответственный ИИ: определение ключевых принципов и оценка полезности, определение наличия или отсутствия предвзятости и алгоритмов, поиск отклонений в управлении и так далее. Мы пытаемся взять эти ключевые принципы и реализовать их. Это означает, что вам нужно использовать инструменты, чтобы воплотить эти принципы в жизнь, например применять алгоритмы в локальных средах, в которых данные никогда не покидают ваше пространство, чтобы проверить, работают ли они. Мы хотим сделать это и после развертывания. Мы хотим провести инвентаризацию всех алгоритмов, чтобы убедиться, что мы знаем, каких результатов следует ожидать, а также любые непредвиденные последствия. Мы хотим иметь возможность создавать простые и полуавтоматические модели управления, чтобы даже потенциально ИТ-отдел, состоящий из одного человека, мог воспользоваться преимуществами ответственного ИИ. В состав CHAI входят представители федерального правительства. Чтобы внедрить ИИ, нам необходимо работать с организациями, которые будут его внедрять. Это передовые организации, в которые входят малые, средние и крупные больничные учреждения. Помимо поставщиков, в TRAIN будет много других участников, особенно технологических партнеров, которые помогут нам создать барьеры для решения многих проблем, на которые обращают внимание люди. Люди спрашивали меня: «В чем разница между CHAI и TRAIN?» CHAI на самом деле больше о том, что, определяя, за что отвечает ИИ. Какие стандарты необходимо применять? А потом TRAIN больше о том, как. Как реализовать ответственный ИИ? Как вы применяете эти технологии? Это все ключевые проблемы реализации, которые нам предстоит решить. И это не будет выясняться ни одной компанией или даже правительством. Это будут выяснять организации, которые его реализуют. Похоже, что правительство может сыграть свою роль в наблюдении за внедрением этих технологий. Вы не согласны? Это связано с отношениями между CHAI и TRAIN. Работа, которую CHAI выполняет в рамках государственно-частной модели, в которой вы получаете вклад от многих заинтересованных сторон, чтобы определить, что нам следует делать, чтобы стороны могли продвигать ответственный ИИ. Это очень важно. У вас должен быть этот фундамент. Но как только вы получите этот проект, кто-то должен будет придумать, как построить дом. Сейчас мы находимся на этапе, когда нам нужны инструменты для создания процессов, которые позволят нам ответственно применять ИИ. И правительство участвует в процессе CHAI. Проявили ли вы интерес к присоединению к TRAIN со стороны других систем здравоохранения? Да, и я также хочу, чтобы люди знали: Microsoft — первый технологический партнер в консорциуме. Мы ожидаем, что будет большое количество партнеров, которые помогут построить эти ограждения и обеспечить их реализацию в системах. И это одна из прекрасных возможностей для нас — дать возможность всей экосистеме решить проблему, с которой не может справиться ни одна компания или организация. А как насчет других разработчиков искусственного интеллекта, таких как Google, — открыт ли для них TRAIN? Следует иметь в виду, что многие из этих технологий построены на [облаке Microsoft] Azure. Так что нет, мы не ограничиваем это. Но именно поэтому мы начинаем с поставщиков, а именно поставщики будут реализовывать это, поэтому важно, чтобы они могли использовать эти инструменты. К концу года HHS опубликует план по регулированию использования ИИ в здравоохранении. Считает ли Microsoft, что необходимы дополнительные действия федерального правительства? Когда я упомянул, что ни одна компания или организация не может взять на себя эти обязанности самостоятельно, в том числе и федеральное правительство. Мы знаем, что для применения ответственного ИИ необходимо провести тестирование алгоритмов на очень больших и разнообразных наборах данных. Это будет очень сложно, если у вас есть организация, у которой нет таких данных. Поэтому, скорее всего, они вернут его разработчикам, чтобы они сделали это. И разработчики тоже не имеют к этому доступа. Поэтому важно, чтобы мы построили эти модели государственно-частного партнерства, которые позволят нам достичь некоторых целей. При разработке стандартов — чем занимается CHAI — важно учитывать вклад многих заинтересованных сторон. В него должны входить пациенты. В него должны входить поставщики, регулирующие органы, промышленность. Но как только вы действительно определили, что следует сделать, вам нужно перейти к следующему этапу того, как вы это делаете. И здесь на помощь приходит TRAIN. Но у CHAI есть обратная связь с правительством — мы все работаем согласованно. Какую стратегию вы бы хотели, чтобы Вашингтон придерживался, когда дело доходит до регулирования ИИ? Я думаю, что подход, который они сейчас применяют в отношении государственно-частного партнерства, является правильным подходом. Это попытка с участием многих заинтересованных сторон определить, в чем заключаются проблемы, и найти жизнеспособные подходы. Необходимо изменить парадигму. Раньше речь шла о том, что разработчики тестируют ИИ и получают одобрение [Управления по контролю за продуктами и лекарствами], а затем вы как бы забываете об этом и двигаетесь дальше. Но у ИИ есть жизненный цикл. Оно может измениться со временем. Поэтому важно периодически отслеживать результаты, связанные с ИИ. Теперь, как разработчики, регулирующие органы и исполнители, каждый из нас несет общую ответственность. Мы должны признать, что для того, чтобы ИИ создавался ответственно, нельзя полагаться на какую-то одну организацию. Чтобы решить эту проблему, вам понадобится, чтобы все трое работали в тесном сотрудничестве. Мы осознаем, что в других сложных областях здравоохранения, таких как повышение качества и безопасность пациентов, необходимо проводить нечто большее, чем просто однократную оценку. Это постоянная оценка. Так что посмотрим в дальнейшем, как это будет развиваться. Что вы посоветуете больнице, заинтересованной в поддержке ИИ? Именно по этой причине у нас есть коалиция, потому что, в конечном счете, ни одна маленькая больница не имеет ресурсов, чтобы сделать все, о чем мы только что говорили. Это придется делать в сотрудничестве с другими больницами или другими группами поставщиков и технологиями, чтобы сделать его более эффективным. Даже крупные академические медицинские центры не могут сделать это в необходимом масштабе, потому что в мире слишком много ИИ. Итак, мы обнаружили, что технология является важнейшим компонентом этого процесса, поскольку для нас это единственный способ автоматизировать или полуавтоматизировать эти процессы, чтобы сделать ИИ более эффективным — как с точки зрения экономии времени, так и с точки зрения затрат. Это важно, потому что небольшие больницы и учреждения с ограниченными ресурсами не имеют возможности инвестировать в ресурсы для решения этой проблемы. Им нужны технологии, которые, будем надеяться, помогут им. Автор: Rebecca Pifer. Источник: www.finance.yahoo.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ