Днями AMD та Stability AI заявили, що їм вдалося портувати модель ШІ Stable Diffusion 3.0 Medium до генератора зображень Amuse, котрий запускається локально на NPU-модулі чипа AMD.

Нова модель використовує оптимізований для штучного інтелекту формат чисел із рухомою комою BF16, який забезпечує ширший діапазон результатів, ніж FP16, але із меншою точністю. При цьому якість згенерованих зображень, при використанні нового формату може бути навіть кращою. Для успішного запуску знадобиться комп’ютер з AMD Ryzen CPU та 24 ГБ оперативної пам’яті.

Stable Diffusion 3 Medium вже доступна на сайті Amuse у складі програмного пакета Amuse 3.1. Якщо раніше для її роботи був потрібен графічний прискорювач, що значно обмежувало сферу використання, то тепер у за стосунку є вибір на чому саме генерувати контент: на GPU або ж на NPU.

Через те що нейроблок поступово стає ледь не обов’язковою частиною актуальних процесорів AMD (і особливо їх мобільних версій), локальне створення ШІ-арту може стати досить поширеним. Для прикладу, Марк Гечмен з PCWorld запустив модель на ноутбуці MSI Prestige A16 AI+ з процесором AMD Ryzen AI 9 365, у якого NPU може видавати продуктивність до 50 TOPS. За його словами, генерація цільового зображення зайняла 90 секунд — що все ще повільніше за хмарні сервіси. Але плюсом локального використання Amuse 3.1 є необмежена кількість генерацій.

Також автор зазначив, що якщо придивитись до згенерованого зображення, то можна побачити явні ознаки цифрового створення. «Усе ніби створювалось не вручну» — пояснив він. Окрім цього, поки що згенерувати можна лише квадратні зображення. Але ж і свій життєвий шлях на процесорах AMD платформа тільки почала. Цікаво, на що вона буде здатна через декілька років.