Новости по компании QUALCOMM INCORPORATED
Новость: нейтральная. Как периферийные устройства могут помочь смягчить глобальные экологические издержки генеративного искусственного интеллекта. Экономическая ценность генеративного искусственного интеллекта (ИИ) для мира огромна. По оценкам McKinsey , генеративный искусственный интеллект может приносить ежегодный прирост от 2,6 до 4,4 триллионов долларов. Но энергетические затраты ИИ и его воздействие на окружающую среду также могут быть значительными, если наш технологический подход не будет развиваться для эффективного решения этих проблем. Текущие прогнозы различаются, но есть поразительный анализ использования энергии генеративным ИИ и его воздействия на окружающую среду. В рецензируемом отчете Joule прогнозируется , что потребление энергии ИИ вырастет до более чем 85 тераватт-часов в год, что больше, чем во многих небольших странах (приведенный пример — Ирландия). Популярные исследования, такие как исследования Gartner, рисуют мрачную картину воздействия на окружающую среду и затрат на адаптацию нашей вычислительной инфраструктуры к генеративному искусственному интеллекту. В отчете Gartner прогнозируется, что к 2030 году ИИ сможет потреблять до 3,5% мировой электроэнергии. Кроме того, обработка данных в центре обработки данных требует охлаждения, а для охлаждения потребляется вода. В своем последнем экологическом отчете Microsoft сообщила, что глобальное потребление воды выросло на 34% с 2021 по 2022 год, и этот рост сторонние исследователи связывают с искусственным интеллектом. Крайне важно найти способы сделать обработку ИИ более энергоэффективной и устойчивой. Но большинство отчетов почти полностью сосредоточены на энергии, используемой ИИ в облаке и центрах обработки данных. Повышение эффективности за счет запуска моделей искусственного интеллекта на устройствах: Генеративный ИИ не обязательно должен работать исключительно в облаке. В настоящее время для обучения модели генеративного ИИ потребительского уровня требуется огромный кластер аппаратного обеспечения ИИ и мощность для его запуска. Исследователь из Вашингтонского университета подсчитал, что на обучение такой модели, как ChatGPT-3, может потребоваться до 10 гигаватт-часов , что примерно эквивалентно годовому потреблению энергии 1000 домохозяйств в США. Но как только модель ИИ обучена, ее можно уменьшить и оптимизировать для работы на значительно менее энергоемком оборудовании, таком как смартфон или ноутбук с батарейным питанием. Например, исследование аналитической компании Creative Strategies пришло к выводу, что Snapdragon 8 Gen 3 , флагманский процессор для смартфонов, в 30 раз более эффективен, чем центр обработки данных, в задачах генерации изображений. Что касается ноутбуков, в том же отчете говорится, что вычислительная платформа Snapdragon X Elite почти в 28 раз эффективнее, чем выполнение задач искусственного интеллекта в центре обработки данных. Запуск ИИ на локальных частных устройствах также экономит расходы на отправку запросов и данных по сети (и через внутренние системы маршрутизации данных у облачного провайдера) и отправку ответов обратно. Наконец, ограниченная вычислительная мощность локальных устройств по сравнению с огромными ресурсами, доступными для выполнения запросов в облачных центрах обработки данных, навязывает определенную дисциплину ИИ компаниям-разработчикам программного обеспечения для ИИ, разработчикам приложений и пользователям. Не для всех генеративных запросов ИИ требуются ресурсы облачного ChatGPT-4 или его эквивалента. Перераспределив часть задач ИИ на периферию, мы можем использовать преимущества обработки ИИ на устройстве, которая обеспечивает эффективные вычисления с минимальным энергопотреблением. Сбалансированная стратегия, включающая продуманное распределение рабочих нагрузок ИИ в облаке и на периферии, может повысить эффективность производительности и минимизировать потребление энергии. Поскольку поставщики технологий начнут распространять возможности генеративного искусственного интеллекта на персональные устройства и начнут собирать данные об экономике различных типов запросов и о том, где выполняются эти запросы, мы ожидаем, что они начнут предоставлять эти расчеты пользователям, позволяя людям рассчитывать индивидуальные затраты. основанные на решениях о том, сколько вычислительной мощности ИИ они потребляют. Перенос эффективных периферийных технологий искусственного интеллекта в облако: Технология, позволяющая создавать периферийные устройства, такие как смартфоны и планшеты, стала одновременно мощной и энергоэффективной. Пользователи ожидают, что эти устройства будут быстрыми, отзывчивыми и способными работать целый день на одном заряде аккумулятора. Фактически, современные смартфоны превзошли по мощности суперкомпьютер IBM Deep Blue, который прославился победой над шахматным гроссмейстером Гарри Каспаровым в 1997 году. Еще более впечатляет то, что эти мощные мобильные устройства потребляют значительно меньше энергии, чем светодиодная лампочка. Эта замечательная энергоэффективность является результатом десятилетий инноваций в этой области. Наборы команд бережливых вычислений были разработаны для обработки данных с использованием меньшего количества операций, а системы на кристалле объединяют несколько компонентов в один чип для снижения энергопотребления. Подобные нововведения позволилиQualcomm Technologies, Inc. выпустит рекордно энергоэффективные продукты облачной обработки искусственного интеллекта. Это демонстрирует значительный потенциал периферийных технологий в решении энергетических проблем, связанных с обработкой моделей ИИ в облаке. ИИ может смягчить собственные проблемы с эффективностью: Инструменты искусственного интеллекта хорошо подходят для оптимизации сложных систем и могут использоваться дляснизить энергопотребление и воздействие на окружающую среду. Существует вероятность того, что инструменты ИИ помогут компенсировать некоторые последствия антропогенного изменения климата.Исследование Бостонской консалтинговой группыговорит, что «ИИ может ускорить действия по борьбе с изменением климата, выведя климатическое моделирование на новый уровень, обеспечивая новые подходы к климатическому образованию и поддерживая прорывы в науке о климате, экономике климата и фундаментальных исследованиях». На данный момент мир все еще собирает данные об экологических издержках и преимуществах наших новых инструментов искусственного интеллекта. Недавняя конференция COP 28 – ООН по изменению климата в определенной степени выявила эти пробелы в данных. Мы воодушевлены тем, что достигается прогресс и что ИИ может помочь; как выразился Брэд Смит из Microsoft: «Невозможно исправить то, что нельзя измерить, и эти новые инструменты искусственного интеллекта и обработки данных позволят странам измерять выбросы гораздо лучше, чем они это делают сегодня». В то же время крайне важно, чтобы мы лучше справлялись с потреблением энергии ИИ и делали все возможное, чтобы сократить это потребление - когда это возможно - запуская модели ИИ на устройствах с меньшим энергопотреблением или используя модели, которые просто требуют меньше энергии. Источник: www.accesswire.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ