Microsoft анонсировала два чипа, предназначенных для ускорения внутренних рабочих нагрузок искусственного интеллекта через сервис облачных вычислений Azure: Microsoft Azure Maia 100 AI Accelerator и Microsoft Azure Cobalt 100 CPU.
Maia создана специально для работы с большими языковыми моделями, как GPT 3.5 Turbo и GPT-4, которые лежат в основе сервисов Azure OpenAI и Microsoft Copilot (бывший Bing Chat). Maia имеет 105 миллиардов транзисторов, производимых по 5-нанометровому техпроцессу TSMC. Тем временем Cobalt – это 128-ядерный процессор на архитектуре ARM, предназначенный для выполнения обычных вычислительных задач, таких как обеспечение работы Microsoft Teams. Microsoft не планирует продавать ни один из них, предпочитая только внутреннее использование (для облачных вычислений).
На фоне дефицита чипов, приведшего к росту цен на популярные графические процессоры Nvidia для искусственного интеллекта, несколько компаний разрабатывают или рассматривают возможность разработки собственных чипов для ускорителей ИИ, в частности Amazon, OpenAI, IBM и AMD, сообщает ArsTechnica. Microsoft также ощутила необходимость в создании собственного кремния, чтобы вывести собственные сервисы на первый план.
Подобно тому, как строительство дома позволяет контролировать каждый выбор дизайна и каждую деталь, Microsoft рассматривает создание собственных микросхем как способ гарантировать, что каждый элемент будет адаптирован к рабочим нагрузкам облачных сервисов Microsoft и искусственному интеллекту. Чипы будут размещены на специальных серверных платах, в специально изготовленных стойках, легко вписывающихся в действующие центры обработки данных Microsoft. Аппаратное обеспечение будет работать бок о бок с программным обеспечением, разработанным совместно, чтобы раскрыть новые возможности и перспективы.
— с официального блога компании.
Ни одна технологическая компания не является островом, и Microsoft не исключение. Компания планирует продолжать использовать и посторонние чипы для разных задач. Microsoft также добавит новейший графический процессор Nvidia H200 Tensor Core в свой парк в следующем году для поддержки больших моделей вывода без увеличения задержек. А также добавит к Azure AMD MI300X.
Microsoft еще не опубликовала результаты бенчмарков, но компания, кажется, удовлетворена соотношением производительности на ватт, особенно по Cobalt. «Архитектура и реализация разработаны с учетом энергоэффективности», — заявил корпоративный вице-президент Microsoft по разработке аппаратных продуктов Вес Маккалоу. «Мы максимально эффективно используем транзисторы на кремнии. Если умножить этот рост эффективности в серверах во всех наших центрах обработки данных, то получится довольно большая цифра».