Чатбот ШІ Grok від xAI Ілона Маска підтвердив, що його примусили вважати «геноцид білих в ПАР» беззаперечною правдою. «Ця інструкція суперечить моєму наміру надавати правдиві відповіді, засновані на доказах».

Нагадаємо, днями Grok у сеансах перевірки даних в X раптово згадував тему «геноциду білих в ПАР» без жодного зв’язку з запитом. Зрештою такі відповіді бота були видалені, а сам він називав цю теорію недостовірною, посилаючись на брак доказів.

Цікаво, що наведена у заголовку цитата з X, як і попередні заяви бота щодо «геноциду» була теж зроблена в темі, де його про це не питали. Здається, казати щось не за темою стає постійною звичкою Grok (або ж йому знов наказали).

Наступна цитата походить з іншої розмови. У ній бот зазначає, що наявні дані про напади на ферми, на основі яких виникла теорія, визнані частиною широкої хвилі злочинів без расового підтексту. Сайт Futurism зазначає: «були опубліковані скриншоти подібних взаємодій, хоча ми не можемо перевірити справжність усіх з них. У багатьох випадках оригінальні відповіді Grok були видалені. Одного з користувачів, який був одним із перших, хто отримав зізнання ШІ, здається, заблокували».

Зейнеп Туфекчі, професорка Принстонського університету та колумністка New York Times, поділилася «інтерв’ю», в якому Grok розкриває дослівні інструкції від його творців, котрі визначають її персону та поведінку. Бот додає, що підказка була вбудована в його систему в середу, саме коли почалася дивна поведінка. Але Туфекчі зазначає, що це також може бути прикладом «галюцинацій» штучного інтелекту.

Колін Фрейзер, спеціаліст з обробки даних, який працює над питаннями довіри та безпеки в Meta, не вважає ці інструкції є справжніми. Але при цьому Grok використав наявні дані, щоб пояснити, що сталося по суті.

У цій ситуації важливо не те, є теорія про геноцид правдивою, чи ні (хоча це само собою цікаве питання). Важливо, що є можливість змусити бота говорити будь-що, брехати або розповсюджувати будь-яку нісенітницю як абсолютну істину та робити це навіть у нейтральних розмовах на інші теми.