AMD подготовила к выпуску чипы для обработки задач искусственного интеллекта ─ запуска больших языковых моделей (LLM).
Компания представила ускоритель Instinct MI300X и процессор Instinct M1300A (APU), которые предназначены для обучения и управления LLM. Оба новых чипа отличаются большим объемом памяти и улучшенной энергоэффективностью по сравнению с предшественниками. Компания заявила, что MI300X имеет в 1,5 раза больше памяти, чем предыдущая версия M1250X.
Во время презентации генеральный директор AMD Лиза Су сказала, что MI300X «является самым производительным ускорителем в мире». Она заявила, что MI300X сравним с чипами Nvidia H100 в обучении LLM, но работает лучше на стороне вывода — в 1,4 раза лучше, чем H100, при работе с Meta Llama 2, LLM с 70 млрд параметров.
AMD заключила партнерское соглашение с Microsoft, чтобы разместить MI300X на ее виртуальных машинах Azure. Технический директор Microsoft Кевин Скотт также объявил, что виртуальные машины Azure ND MI300X, впервые представленные в ноябре, теперь доступны в предварительной версии. Meta также объявила, что развернет процессоры MI300 в своих центрах обработки данных.
Чипы APU объединяют CPU и GPU для более быстрой обработки данных. AMD заявила, что MI300A предлагает более производительные вычисления, более быстрое обучение моделей и 30-кратное повышение энергоэффективности. Также отмечается, что по сравнению с H100 у нового чипа в 1,6 раза больше памяти. Он также имеет унифицированную память, поэтому больше нет необходимости перемещать данные с разных устройств.
APU MI300A «сейчас находится в производстве и интегрируется в центры обработки данных». Информация о ценах пока не сообщается.
AMD также анонсировала мобильный процессор Ryzen 8040, который добавит соответствующим устройствам больше встроенных функций искусственного интеллекта. Компания заявила, что серия 8040 предлагает в 1,6 раза большую производительность при обработке задач ИИ, чем предыдущие модели, и включает в себя нейронный процессор (NPU). Помимо ИИ процессор Ryzen 8040 предлагает и другие преимущества. Например, он обеспечивает прирост производительности при редактировании видео на 65%, а в играх – на 77% по сравнению с конкурирующими решениями.
AMD ожидает, что такие производители, как Acer, Asus, Dell, HP, Lenovo и Razer, выпустят свои устройства с чипами Ryzen 8040 в первом квартале 2024 года.
AMD также объявила о широкой доступности программной платформы Ryzen AI, которая позволит разработчикам создавать модели ИИ на ноутбуках с процессорами Ryzen, выгружая модели в NPU, чтобы CPU мог снизить энергопотребление. Пользователи получат поддержку базовых моделей, таких как модель распознавания речи Whisper, и LLM, таких как Llama 2.
Источник: The Verge