Microsoft анонсувала два чипи, призначені для прискорення внутрішніх робочих навантажень штучного інтелекту через сервіс хмарних обчислень Azure: Microsoft Azure Maia 100 AI Accelerator і Microsoft Azure Cobalt 100 CPU.
Maia створено спеціально для роботи з великими мовними моделями, як-от GPT 3.5 Turbo і GPT-4, які лежать в основі сервісів Azure OpenAI і Microsoft Copilot (колишній Bing Chat). Maia має 105 мільярдів транзисторів, які виготовляються за 5-нанометровим техпроцесом TSMC. Тим часом Cobalt — це 128-ядерний процесор на архітектурі ARM, призначений для виконання звичайних обчислювальних завдань, таких як забезпечення роботи Microsoft Teams. Microsoft не планує продавати жоден з них, віддаючи перевагу лише внутрішньому використанню (для хмарних обчислень).
На тлі дефіциту чипів, який призвів до зростання цін на популярні графічні процесори Nvidia для штучного інтелекту, кілька компаній розробляють або розглядають можливість розробки власних чипів для прискорювачів ШІ, зокрема Amazon, OpenAI, IBM та AMD, повідомляє ArsTechnica. Microsoft також відчула потребу у створенні власного кремнію, щоб вивести власні сервіси на перший план.
Подібно до того, як будівництво будинку дає вам змогу контролювати кожен вибір дизайну і кожну деталь, Microsoft розглядає створення власних мікросхем як спосіб гарантувати, що кожен елемент буде адаптований до робочих навантажень хмарних сервісів Microsoft і штучного інтелекту. Чипи будуть розміщені на спеціальних серверних платах, у спеціально виготовлених стійках, які легко вписуються в чинні центри обробки даних Microsoft. Апаратне забезпечення буде працювати пліч-о-пліч з програмним забезпеченням, розробленим спільно, щоб розкрити нові можливості та перспективи.
— з офіційного блогу компанії.
Жодна технологічна компанія не є островом, і Microsoft не є винятком. Компанія планує продовжуватиме використовувати й сторонні чипи для різних завдань. Microsoft також додасть новітній графічний процесор Nvidia H200 Tensor Core до свого парку в наступному році для підтримки великих моделей виведення без збільшення затримок. А також додасть до Azure AMD MI300X.
Microsoft ще не опублікувала результати бенчмарків, але компанія, здається, задоволена співвідношенням продуктивності на ват, особливо щодо Cobalt. «Архітектура та реалізація розроблені з урахуванням енергоефективності», — заявив корпоративний віцепрезидент Microsoft з розробки апаратних продуктів Вес Маккалоу. «Ми максимально ефективно використовуємо транзистори на кремнії. Якщо помножити цей приріст ефективності в серверах у всіх наших центрах обробки даних, то вийде доволі велика цифра».