Жодного кліку без нагляду: Meta дозволила батькам шпигувати за розмовами підлітків з ШІ — Image: Meta / Engadget

Компанія Meta оголосила про запуск нових інструментів батьківського нагляду, які дозволять опікунам бачити теми, що їхні діти обговорюють із чат-ботом Meta AI. Нова функція “Огляд тем” (Topic Insights) стає доступною для підліткових акаунтів у Facebook, Instagram та Messenger і охоплює історію взаємодії за останні сім днів.

Інформація відображатиметься у Центрі сім’ї Meta (Family Center) у вигляді загальних категорій: школа, розваги, письмо, здоров’я та благополуччя. Батьки можуть натиснути на тему, щоб побачити підкатегорії (наприклад, “ментальне здоров’я” або “фітнес”), а також загальну кількість повідомлень, але фактичний зміст листування залишиться приватним.

“Ми запроваджуємо нові інструменти для батьків, які здійснюють нагляд за підлітковими акаунтами, щоб допомогти їм зрозуміти, як їхні підлітки використовують ШІ”, — йдеться в офіційному блозі Meta від 23 квітня.

Одночасно з цим Meta посилює внутрішній контроль за власним ШІ-навчанням: стало відомо, що компанія впроваджує ПЗ для відстеження рухів миші та натискань клавіш своїх співробітників у США, щоб навчити ШІ-агентів краще копіювати людську роботу та використовувати гарячі клавіші.

“Бачення, до якого ми прагнемо, — це таке, де наші агенти виконують основну роботу, а наша роль полягає в тому, щоб спрямовувати, переглядати та допомагати їм удосконалюватися”, — написав технічний директор Meta Ендрю Босворт у внутрішній записці для співробітників.

Запуск інструментів нагляду відбувається на тлі юридичних проблем: Meta нещодавно програла два судові процеси щодо безпеки дітей та адиктивного дизайну своїх платформ, хоча компанія вже заявила про намір оскаржити ці вердикти. У судових матеріалах Нью-Мексико також містилися докази, що керівництво знало про ризики сексуалізації ШІ-персонажів ще до їхнього релізу.

“Інформація про теми розмов допоможе батькам краще розуміти інтереси своїх дітей, зберігаючи при цьому певний рівень приватності підлітків”, — зазначає Engadget.

Для підтримки безпечного середовища Meta залучила Експертну раду з благополуччя у сфері ШІ, куди увійшли представники Національної ради з питань запобігання самогубствам та Університету Мічигану. Окрім технічних обмежень, батькам пропонують скористатися “підказками для розмови” (Conversation Starters), розробленими спільно з Центром досліджень кібербулінгу, щоб обговорити з дітьми етику та ризики генеративного ШІ.

“Ми розробили цю функцію, щоб збалансувати нагляд батьків і приватність підлітків”, — йдеться у повідомленні компанії, опублікованому в межах оновлення політики безпеки.

Наразі Meta призупинила роботу ШІ-персонажів (AI characters) для підлітків у всьому світі, поки продовжує вдосконалювати засоби контролю. Крім інструментів нагляду, компанія запустила ініціативу “Підказки для розмови” (Conversation Starters) спільно з Центром досліджень кібербулінгу та сформувала Експертну раду з благополуччя у сфері ШІ (AI Wellbeing Expert Council).