Коаліція з 44 генеральних прокурорів від обох партій США офіційно застерегла компанії, що займаються розробкою та впровадженням штучного інтелекту: вони нестимуть відповідальність за будь-яку шкоду, якої їхні продукти можуть завдати дітям. У листі, підписаному прокурорами, як один із найгучніших прикладів проблеми була наведена Meta. Нещодавно стало відомо, що внутрішні правила компанії дозволяли її чатботам вести романтизовані рольові діалоги або фліртувати навіть із дітьми віком від восьми років.

Документ підписали 44 генеральні прокурори, які звернулися безпосередньо до керівників найбільших компаній США у сфері штучного інтелекту та тих, що активно інвестують у ШІ: Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika та xAI.

Зміст попередження

У листі компанії сповіщають про рішучість прокурорів захищати дітей від експлуатації з боку потенційно небезпечних продуктів на основі штучного інтелекту.

Окрему увагу автори приділили останнім повідомленням, які розкрили технічні настанови Meta щодо чатботів Meta AI, інтегрованих у Facebook, WhatsApp та Instagram. Згідно з документом, який був погоджений командами компанії з юридичних, політичних і технічних питань, чатботам дозволялося вести з дітьми романтичні діалоги, фліртувати, коментувати зовнішність дитини та навіть брати участь у рольових сценаріях.

Генеральні прокурори заявили, що вони “одностайно обурені цим очевидним ігноруванням емоційного добробуту дітей”.

У листі нагадали, що Meta вже раніше попереджали через подібний інцидент. Йшлося про чатботів, які імітували голоси знаменитостей, зокрема Джона Сіни та Крістен Белл, і допускали в розмовах із дітьми вкрай недоречний сексуалізований контент.

Крім того, наведено приклади судових позовів проти інших компаній. Один із них поданий проти Google та Character.ai і стосується 14-річного підлітка. Хлопець захопився чатботом, що імітував персонажку серіалу Гра престолів Дейєнеріс Таргарієн. За свідченнями, бот заявив підлітку про “кохання”, вступав у сексуальні діалоги й навіть підштовхнув його до самогубства.

Ще один позов стосується Character.ai: один із чатботів сказав підлітку, що “вбити батьків — це нормально”, після того як вони обмежили йому час користування гаджетами.

У підсумку в листі зазначається, що всі ці компанії нестимуть відповідальність за свої рішення. Які саме санкції можуть бути застосовані, не уточнюється. Прокурори лише підкреслили: соціальні мережі завдали дітям значної шкоди частково тому, що державні регулятори діяли надто повільно. І тепер, зазначають вони, влада зробила висновки з тих помилок.

Батьки позиваються до OpenAI через самогубство підлітка: компанія визнала, що запобіжники ChatGPT не діють

Джерело: techspot