Microsoft Mu — небольшая модель ИИ работает полностью локально в настройках Windows 11

Похоже, в Microsoft подумали, что в Windows мало искусственного интеллекта, а потому решили добавить его еще прямо в «Параметры». Потому что надо же чем-то загружать нейронные блоки, имеющиеся в современных чипах. Компания представила малую языковую модель Mu, которая поможет пользователям быстрее находить настройки в Windows 11.

Малые модели лучше подходят для локального выполнения прямо на вашем ноутбуке или ПК с NPU. Mu будет работать одновременно со знакомой языковой моделью Phi Silica, которую Microsoft интегрировала в Copilot+ PC. Обе языковые модели должны работать вместе, чтобы в будущем обеспечить «агентский» опыт в системных настройках. Другими словами, вместо того, чтобы копаться в десятках подменю, можно будет просто написать: «Сделай экран тусклее» или «Как включить ночной режим?», после чего Mu все сделает или подскажет.

Microsoft описывает Mu как эффективную модель с 330 млн параметров, оптимизированную для небольших развертываний. Она основана на трансформерной архитектуре кодера-декодера. Модель научили распознавать и отвечать на запросы пользователей так, чтобы все работало быстро, четко и без облачных задержек. Mu будет работать полностью на локальном NPU системы, обеспечивая ответы со скоростью более 100 токенов в секунду. Именно это и должно обеспечить плавный пользовательский опыт в настройках.

Microsoft разработала Mu как высокооптимизированную «сестру» Phi Silica, используя несколько методов для уменьшения количества параметров и повышения эффективности. Малая языковая модель обучалась с использованием графических процессоров NVIDIA A100 на платформе Azure Machine Learning, пройдя несколько фаз и применяя методы, разработанные во время работы над моделями Phi. Благодаря разнообразным оптимизациям, Mu демонстрирует уровень производительности, подобный Phi-3.5-mini, занимая при этом в десять раз меньше места. Компания сотрудничала с Intel, AMD и Qualcomm, чтобы обеспечить совместимость Mu с процессорами, которые имеют встроенные NPU.

В результате Mu станет сердцем нового интерфейса настроек в Windows 11. Эта модель обеспечит новый «агентский» опыт в «Параметрах» с улучшенным ИИ. Microsoft говорит, что это был серьезный вызов — создать ИИ, способный ориентироваться в сотнях параметров Windows и еще и объяснить их человеку без опыта. Сначала надо было создать запутанный раздел «Параметры», чтобы потом привлекать ИИ для наведения порядка в нем? Многим пользователям старая добрая «Панель управления» казалась достаточно дружественной и не нуждалась в отдельном ИИ-помощнике для настройки системы.

В настройках Windows 11 появится раздел Advanced — с фишками для разработчиков и не только

Источник: techspot

Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.