Невідомі розмістили торент LLaMA — нової мовної моделі на основі штучного інтелекту від Meta — у соцмережі 4chan.
У січні Meta випустила свою мовну модель ШІ LLaMA — не як загальнодоступний чатбот ChatGPT від OpenAI або Bing від Microsoft, а як пакет з відкритим вихідним кодом, доступ до якого можуть отримати члени ШІ-спільноти. За тиждень після того, як компанія почала приймати запити, торент для завантаження мовної моделі з’явився на сайті 4chan, а згодом поширився в інших спільнотах.
Дехто почав критикувати Meta за поспішність і надто вільне поширення технології.
«Приготуйтеся до великої кількості персоналізованого спаму та спроб фішингу. Відкрити вихідний код цих моделей було жахливою ідеєю», — написав дослідник кібербезпеки Джеффрі Ладіш.
Інші налаштовані більш оптимістично — мовляв, відкритий доступ необхідний для розробки заходів безпеки для систем ШІ, а аналогічні складні мовні моделі вже були оприлюднені, не завдавши значної шкоди.
«Давно кажуть, що наближається хвиля використання ШІ зі зловмисними намірами. Проте жодних задокументованих випадків і досі не було», — пишуть у блозі дослідники кібербезпеки Саяш Капур та Арвінд Нараянан.
(Капур і Нараянан не беруть до уваги випадки шахрайства студентів із використанням ChatGPT для навчання або публікації журналістських матеріалів, написаних ШІ з помилками — бо вони «не призначені для заподіяння шкоди»).
Дослідник Метью Ді Ферранте порівняв програму, що з’явилася у мережі з офіційною моделлю LLaMA, підтвердивши, що вони ідентичні. Meta на запит журналістів поки не відповіла, а Джоел Піно, директор Meta AI, сказав у заяві лише це:
«Хоча модель LLaMA доступна не всім… деякі намагалися обійти процес затвердження».
Якщо пересічний інтернет-користувач завантажить програму, то навряд чи він отримає з неї яку-небудь користь — це «сира» система штучного інтелекту, для запуску якої потрібна пристойна кількість технічних знань. LLaMA також не була «налаштована» для спілкування, як ChatGPT або Bing.
«Більшість людей взагалі не володіють апаратним забезпеченням, необхідним для запуску LLaMA», — каже Стелла Бідерман, директорка некомерційної дослідницької лабораторії штучного інтелекту EleutherAI.
LLaMA — це система, представлена у чотирьох моделях, які вимірюються мільярдами параметрів (є LLaMA-7B, 13B, 30B та 65B). В Meta кажуть, що 13-мільярдна версія, яку можна запустити на одному графічному процесорі A100, перевершує модель GPT-3 OpenAI зі 175 мільярдами параметрів у багатьох тестах.
Витік LLaMA також цікавий тим, що нарешті може розв’язати дискусію про «відкриті» та «закриті» ШІ-системи. Прихильники перших стверджують, що лише широкомасштабне тестування можна виявити вразливості та розробити запобіжні заходи, а «закриті» технології лише зосередять владу над технологіями в руках «байдужих корпорацій». Решта наголошують на тому, що ШІ стає все складнішим і публічне тестування може бути небезпечним.
«Сирий» стан LLaMA, дійсно, особливо привабливий для вивчення, оскільки спеціалісти зможуть точно налаштувати системи Meta відповідно до своїх цілей. Незалежний ШІ-дослідник Шон Пресер уявляє, що майбутні версії LLaMA можна буде розмістити на комп’ютері та навчати на електронних листах; згодом ШІ зможе відповідати на запитання про ваш робочий графік, ідеї, списки справ тощо.
Джерело: The Verge