Новини Софт 24.02.2023 о 18:41 comment views icon

Нейромережа у смартфоні. Qualcomm оптимізувала Stable Diffusion для швидкої роботи на Snapdragon 8 Gen 2

author avatar
https://itc.ua/wp-content/uploads/2022/09/Katya-96x96.jpg *** https://itc.ua/wp-content/uploads/2022/09/Katya-96x96.jpg *** https://itc.ua/wp-content/uploads/2022/09/Katya-96x96.jpg

Катерина Даньшина

Авторка новин

Розділ Технології виходить за підтримки Favbet Tech

Впровадження великих мовних моделей, таких як Stable Diffusion, у смартфони — це наступний крок у поширенні генеративних інструментів на ширшу аудиторію. 

Зазвичай для запуску таких генеративних нейромереж потрібно багато обчислювальної потужності, і більшість програм, що пропонують такі послуги на мобільних пристроях, виконують обробку в хмарі. Однак Qualcomm довела, що її версія Stable Diffusion може з легкістю зробити це на смартфоні. 

Qualcomm показала Stable Diffusion версії 1.5, що згенерувала зображення розміром 512 x 512 пікселів за 15 секунд. Для порівняння: генерація зображень на пристойному ноутбуці займе кілька хвилин, тому такий результат з телефону вражає.

Не повідомляється, який саме смартфон використали для демонстрації — але він оснащений флагманським чипсетом Snapdragon 8 Gen 2 (який був випущений у листопаді минулого року і має процесор Hexagon, орієнтований на ШI). Інженери компанії також виконали різні оптимізації ПЗ, щоб забезпечити оптимальну роботу програми.

Насправді інші експериментатори вже пробували запустити Stable Diffusion на Android. Розробник Айвон Хуанг розповідав у блозі про запуск генеративної нейромережі на Sony Xperia 5 II з процесором Qualcomm Snapdragon 865 та 8 ГБ оперативної пам’яті. Хоча, як зазначив Хуанг, створення зображення 512 x 512 з цим налаштуванням зайняло годину.

Курс Quality Assurance (QA) від Mate academy.
Курс QA — ідеальний для новачка. Від основ тестування до складних стратегій — опануйте всі технології, щоб жодна помилка не змогла вас оминути. Ми впевнені в якості нашого курсу, тому гарантуємо вам працевлаштування після його завершення.
Зареєструватись на курс

Apple ще в грудні випустила оптимізації, необхідні для локального запуску Stable Diffusion на її власній платформі машинного навчання Core ML. Журналісти The Verge спробували запустили Stable Diffusion 1.5 на iPhone 13 через програму Draw Things з прискоренням Core ML. З цим налаштуванням створення зображення розміром 512 x 512 зайняло близько хвилини.Нейромережа у смартфоні. Qualcomm оптимізувала Stable Diffusion для швидкої роботи на Snapdragon 8 Gen 2

Тож в обох випадках Qualcomm виграє у швидкості, але має певні  обмеження — новітнє обладнання та пакет оптимізації, який не є загальнодоступним.  

Робота великих ШІ-моделей на мобільних пристроях дає безліч переваг, порівняно з використанням хмарних обчислень: це зручність (не потрібне мобільне з’єднання), вартість (розробники не стягуватимуть плату з користувачів, коли настає термін оплати за сервер) та конфіденційність (ви не надсилаєте дані на чужий комп’ютер).

Курс Quality Assurance (QA) від Mate academy.
Курс QA — ідеальний для новачка. Від основ тестування до складних стратегій — опануйте всі технології, щоб жодна помилка не змогла вас оминути. Ми впевнені в якості нашого курсу, тому гарантуємо вам працевлаштування після його завершення.
Зареєструватись на курс

Джерело: The Verge

Розділ Технології виходить за підтримки Favbet Tech

Favbet Tech – це ІТ-компанія зі 100% українською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологій та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців. IT-компанія входить у групу компаній FAVBET.


Loading comments...

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: