AMD представила новые чипы для задач ИИ: Instinct MI300X и Instinct M1300A для ЦОД и Ryzen 8040 для ноутбуков

AMD подготовила к выпуску чипы для обработки задач искусственного интеллекта ─ запуска больших языковых моделей (LLM).

Компания представила ускоритель Instinct MI300X и процессор Instinct M1300A (APU), которые предназначены для обучения и управления LLM. Оба новых чипа отличаются большим объемом памяти и улучшенной энергоэффективностью по сравнению с предшественниками. Компания заявила, что MI300X имеет в 1,5 раза больше памяти, чем предыдущая версия M1250X.

Во время презентации генеральный директор AMD Лиза Су сказала, что MI300X «является самым производительным ускорителем в мире». Она заявила, что MI300X сравним с чипами Nvidia H100 в обучении LLM, но работает лучше на стороне вывода — в 1,4 раза лучше, чем H100, при работе с Meta Llama 2, LLM с 70 млрд параметров.

AMD заключила партнерское соглашение с Microsoft, чтобы разместить MI300X на ее виртуальных машинах Azure. Технический директор Microsoft Кевин Скотт также объявил, что виртуальные машины Azure ND MI300X, впервые представленные в ноябре, теперь доступны в предварительной версии. Meta также объявила, что развернет процессоры MI300 в своих центрах обработки данных.

Чипы APU объединяют CPU и GPU для более быстрой обработки данных. AMD заявила, что MI300A предлагает более производительные вычисления, более быстрое обучение моделей и 30-кратное повышение энергоэффективности. Также отмечается, что по сравнению с H100 у нового чипа в 1,6 раза больше памяти. Он также имеет унифицированную память, поэтому больше нет необходимости перемещать данные с разных устройств.

APU MI300A «сейчас находится в производстве и интегрируется в центры обработки данных». Информация о ценах пока не сообщается.

AMD также анонсировала мобильный процессор Ryzen 8040, который добавит соответствующим устройствам больше встроенных функций искусственного интеллекта. Компания заявила, что серия 8040 предлагает в 1,6 раза большую производительность при обработке задач ИИ, чем предыдущие модели, и включает в себя нейронный процессор (NPU). Помимо ИИ процессор Ryzen 8040 предлагает и другие преимущества. Например, он обеспечивает прирост производительности при редактировании видео на 65%, а в играх – на 77% по сравнению с конкурирующими решениями.

AMD ожидает, что такие производители, как Acer, Asus, Dell, HP, Lenovo и Razer, выпустят свои устройства с чипами Ryzen 8040 в первом квартале 2024 года.

AMD также объявила о широкой доступности программной платформы Ryzen AI, которая позволит разработчикам создавать модели ИИ на ноутбуках с процессорами Ryzen, выгружая модели в NPU, чтобы CPU мог снизить энергопотребление. Пользователи получат поддержку базовых моделей, таких как модель распознавания речи Whisper, и LLM, таких как Llama 2.

Источник: The Verge