Під час проведення виставки Computex 2023 голова Nvidia Дженсон Хуан заявив про початок масового виробництва суперчипів Grace Hopper. Вони є основою нової платформи суперкомп’ютерів DGX GH200, яка призначена для створення високопродуктивних систем та великомасштабних програм генеративного ШІ.
Чип Grace – це власний 72-ядерний Arm CPU Nvidia. Водночас суперчип Grace Hopper поєднує в одному пакуванні процесор Grace, GPU Hopper, 96 ГБ пам’яті HBM3 і 512 ГБ пам’яті LPDDR5X. Такий суперчип містить 200 млрд транзисторів. Ця конфігурація забезпечує пропускну здатність між CPU і GPU на рівні 1 ТБ/с, що дає величезну перевагу для певних робочих навантажень, пов’язаних із пам’яттю.
Nvidia DGX – це стандартна система та еталонна архітектура для високих робочих навантажень ШІ та високопродуктивних обчислень. Нинішня система DGX A100 обмежена вісьмома GPU A100, що працюють у тандемі. Нова система DGX H200 розроблена для тих завдань, де потрібна вища продуктивність та максимальна пропускна спроможність. Це можуть бути завдання навчання генеративних систем ШІ, робота великих мовних моделей, аналітика даних.
Система DGX H200 включає вже 256 суперчипів Grace Hopper і 144 ТБ загальної пам’яті (DGX A100 доступно лише 320 ГБ загальної пам’яті). Обчислювальні блоки об’єднані за допомогою технології NVLink Switch, яка забезпечує до 10 разів більшу пропускну здатність GPU-to-GPU та 7-кратний приріст пропускної спроможності CPU-to-GPU у порівнянні з попереднім поколінням. Система сукупно включає 150 миль (241,4 км) оптоволоконних з’єднань і важить близько 18,1 тонни, при цьому є єдиним GPU. Nvidia заявляє, що 256 суперчипів Grace Hopper забезпечують DGX GH200 «продуктивність ШІ» до одного ексафлопсу.
Нові рішення Nvidia будуть доступні клієнтам компанії, таким як Google, Meta та Microsoft, до кінця 2023 року.
Джерело: tomshardware