Microsoft, схоже, працює над власною великою мовною моделлю, яка потенційно стане головним конкурентом для ШІ Google, Anthropic і OpenAI — попри те, що корпорація сама інвестувала $10 млрд в розробника ChatGPT і отримала пріоритетне право на користування його продуктами.
За повідомленням The Information, розробку MAI-1 очолює Мустафа Сулейман — екскерівник Google AI, який був гендиректором Inflection, перш ніж Microsoft придбала інтелектуальну власність стартапу за $650 млн у березні та забрала більшу кількість персоналу.
Попри те, що MAI-1 може базуватися на методах, які розроблялися в Inflection, Microsoft позиціює продукт як абсолютну нову велику мовну модель, кажуть два неназвані співробітники. Модель нібито містити 500 млрд параметрів — значно більше, ніж попередні моделі Microsoft з відкритим кодом (наприклад, Phi-3), що наближає MAI-1 до GPT-4 OpenAI, яка, за чутками, може похизуватися аж 1 трлн параметрів і значно перевищує конкурентні моделі Meta та Mistral із 70 млрд параметрів.
Розробка MAI-1 передбачає подвійний підхід до ШІ в Microsoft: із зосередженням на невеликих локальних LLM, а також на сучасніших великих моделях, що працюють у хмарі (Apple розглядає подібний підхід). MAI-1 — також свідчення того, що Microsoft зрештою готова досліджувати ШІ незалежно від OpenAI, яка підтримує своєю технологією генеративні функції компанії, включаючи асистента Copilot, вбудованого в Windows.
Повідомляється, що точне призначення MAI-1 ще не визначено, але залежатиме від продуктивності. Для навчання моделі Microsoft виділила великий кластер серверів із графічними процесорами Nvidia та збирала навчальні дані з різних джерел, включаючи тексти, згенеровані GPT-4, і публічні дані з Інтернету.
Ймовірно, на оголошення про MAI-1 слід очікувати вже цього місяця на конференції для розробників Microsoft Build.