На OpenAI поскаржилися в FTC — це зробила організація, яка за підтримки Маска намагається сповільнити розробку ШІ через ризики для людства

До Федеральної торгової комісії США (FTC) надійшла чергова скарга на OpenAI – стартап, що розробляє великі мовні моделі та запустив популярний ШІ-чатбот.

Некомерційна дослідницька група Center for AI and Digital Policy (CAIDP) у четвер оприлюднила скаргу, в якій звинувачує OpenAI у порушенні розділу 5 Закону про FTC, який забороняє недобросовісну та оманливу ділову практику. GPT-4 у документі називають «упередженою, оманливою і такою, що становить ризик для конфіденційності та громадської безпеки». Група каже, що велика мовна модель не відповідає стандартам комісії щодо «прозорості, зрозумілості, чесності та підзвітності» штучного інтелекту. 

Від Федеральної торгової комісії вимагають встановити спосіб незалежної оцінки для продуктів GPT перед їхнім майбутнім розгортанням, створити публічну систему звітності про інциденти для GPT-4 та розробити стандарти для генеративних продуктів ШІ. 

Президент CAIDP Марк Ротенберг також підписав відкритий лист, оприлюднений у середу, який закликав призупинити щонайменше на шість місяців «навчання систем ШІ, потужніших за GPT-4». Серед підписантів – генеральний директор Tesla (який також є співзасновником OpenAI) Ілон Маск та співзасновник Apple Стів Возняк. 

• Мовні моделі OpenAI тренуються на величезних масивах тексту, більшу частину якого взято з інтернету. На основі отриманих шаблонів система може прогнозувати, яке слово слідуватиме наступним у реченні. За описом — це відносно простий механізм, однак у кінцевому результаті з’являються гнучкі системи, які можуть генерувати, узагальнювати та перефразовувати текст, а також виконувати інші текстові завдання, такі як переклад або генерування коду.
• Опис першої версії мовної моделі OpenAI GPT з’явився у дослідницькій статті 2018 року, про другу версію оголосили у 2019-му, а про GPT-3 — у 2020 році. Розмовний чатбот ChatGPT, запущений восени, працював на базі GPT-3.5. У березні 2023 року стартап випустив GPT-4, яка розуміє не лише текст, а й зображення.
• Пошуковик Bing вже давно таємно працював на базі GPT-4. Також Microsoft, яка інвестувала мільярди доларів в OpenAI, додала чатбот у власний браузер Edge і запустить ШІ-функції ChatGPT в програмах Office, Teams, Word і Outlook.

Джерело: CNBC