Во время проведения выставки Computex 2023 глава Nvidia Дженсон Хуан заявил о начале массового производства суперчипов Grace Hopper. Они являются основой новой платформы суперкомпьютеров DGX GH200, которая предназначена для создания высокопроизводительных систем и крупномасштабных приложений генеративного ИИ.
Чип Grace — это собственный 72-ядерный Arm CPU Nvidia. В то же время суперчип Grace Hopper сочетает в одной упаковке процессор Grace, GPU Hopper, 96 ГБ памяти HBM3 и 512 ГБ памяти LPDDR5X. Такой суперчип содержит 200 млрд транзисторов. Данная конфигурация обеспечивает пропускную способность между CPU и GPU на уровне 1 ТБ/с, что дает огромное преимущество для определенных рабочих нагрузок, связанных с памятью.
Nvidia DGX — это стандартная система и эталонная архитектура для высоких рабочих нагрузок ИИ и высокопроизводительных вычислений. Нынешняя система DGX A100 ограничена восемью GPU A100, работающими в тандеме. Новая система DGX H200 разработана для тех задач, где нужна более высокая производительность и максимальная пропускная способность. Это могут быть задачи по обучению генеративных систем ИИ, работа больших языковых моделей, аналитика данных.
Система DGX H200 включает уже 256 суперчипов Grace Hopper и 144 ТБ общей памяти (в DGX A100 доступно лишь 320 ГБ общей памяти). Вычислительные блоки объединены с помощью технологии NVLink Switch, которая обеспечивает до 10 раз большую пропускную способность GPU-to-GPU и 7-кратный прирост пропускной способности CPU-to-GPU по сравнению с предыдущим поколением. Система совокупно включает 150 миль (241,4 км) оптоволоконных соединений и весит около 18,1 тонны, при этом представляя собой единый GPU. Nvidia заявляет, что 256 суперчипов Grace Hopper обеспечивают DGX GH200 «производительность ИИ» до одного эксафлопса.
Новые решения Nvidia будут доступны клиентам компании, таким как Google, Meta и Microsoft, до конца 2023 года.
Источник: tomshardware