Новости по компании NVIDIA CORPORATION
Новость: нейтральная. Новый тест искусственного интеллекта проверяет скорость ответов на запросы пользователей. Группа по сравнительному анализу искусственного интеллекта MLCommons в среду опубликовала новый набор тестов и результатов, оценивающих скорость, с которой современное оборудование может запускать приложения искусственного интеллекта и реагировать на запросы пользователей. Два новых теста, добавленные MLCommons, измеряют скорость, с которой чипы и системы искусственного интеллекта могут генерировать ответы от мощных моделей искусственного интеллекта, наполненных данными. Результаты примерно демонстрируют, насколько быстро приложение искусственного интеллекта, такое как ChatGPT, может доставить ответ на запрос пользователя. В один из новых тестов добавлена возможность измерения скорости сценария вопросов и ответов для больших языковых моделей. Названный Llama 2, он включает в себя 70 миллиардов параметров и был разработан Meta Platforms. Представители MLCommons также добавили в набор инструментов для сравнительного анализа второй генератор преобразования текста в изображение под названием MLPerf, основанный на модели Stable Diffusion XL компании Stability AI. Серверы на базе чипов Nvidia H100, созданные такими компаниями, как Alphabet, Google, Supermicro и сама Nvidia, легко выиграли оба новых теста по чистой производительности. Несколько производителей серверов представили проекты на основе менее мощного чипа L40S компании. Производитель серверов Krai представил проект для теста создания изображений с использованием ИИ-чипа Qualcomm, который потребляет значительно меньше энергии, чем передовые процессоры Nvidia. Intel также представила проект, основанный на своих чипах-ускорителях Gaudi2. Компания охарактеризовала результаты как «надежные». Высокая производительность — не единственный показатель, который имеет решающее значение при развертывании приложений ИИ. Усовершенствованные чипы искусственного интеллекта потребляют огромное количество энергии, и одной из наиболее серьезных задач для компаний, занимающихся искусственным интеллектом, является внедрение чипов, обеспечивающих оптимальную производительность при минимальном количестве энергии. MLCommons имеет отдельную категорию тестов для измерения энергопотребления. Автор: Max A. Cherney. Источник: www.reuters.com
Пост взят с международного финтех-медиа ресурса
ДЛЯ ЛЮДЕЙ