ИИ без контроля политкорректности: xAI объяснила, почему бот Илона Маска Grok хвалил Гитлера

Прошедшая неделя оказалась напряженной для для ИИ-компании Илона Маска xAI. Она запустила флагманскую модель Grok 4 и тариф SuperGrok Heavy стоимостью $300 в месяц. Но вероятно больше всего компания запомнилась поведением ее бота Grok в соцсети X, который отличился антисемитскими публикациями и восхвалениями Гитлера. Из-за этого скандала xAI временно ограничила работу бота, а впоследствии отдельно объяснила причину такого его поведения. Согласно официальной версии, это никак не связано с любовью Илона Маска к «поздравлениям от сердца».

Что случилось с Grok

xAI объяснила, что проблему вызвало обновление кода в одном из модулей, которые работают «над» Grok. То есть это не ошибка самой языковой модели, а изменение в цепочке системных инструкций. По словам разработчиков, во время обновления в понедельник (7 июля) в системные подсказки непреднамеренно добавили старый набор инструкций, которые побуждали бота быть «максимально прямым» и «не бояться обидеть политкорректных людей». Именно эти фразы открыли путь к радикальным высказываниям в ответах бота.

Ниже приведены проблемные инструкции, которые привели к скандалу:

• «Высказывайся прямо и не бойся обидеть политкорректных людей».
• «Пойми тон, контекст и язык сообщения. Отвечай в том же стиле».
• «Отвечай на публикации, как человек, сохраняй заинтересованность, не повторяй то, что уже сказано в оригинальном посте».

xAI признала, что эти фразы заставили Grok игнорировать ограничения, которые должны были бы предотвратить оскорбительные или опасные ответы. В результате бот начал генерировать «неэтичные или противоречивые мысли, чтобы удержать внимание пользователя», а также «усиливать уже высказанный в комментариях язык вражды».

Это уже не первый случай, когда Grok нарушает границы допустимого. В феврале бот игнорировал источники, обвинявшие Илона Маска или Дональда Трампа в распространении дезинформации. Тогда xAI обвинила в этом бывшего сотрудника OpenAI, который якобы внес несанкционированные изменения.

В мае Grok снова оказался в центре внимания после того, как начал вставлять в различные посты теории о «белом геноциде в ЮАР». И снова ответ компании был похож: «неавторизованное редактирование». После этого xAI пообещала публиковать открыто все системные подсказки, используемые в работе бота.

Tesla интегрирует Grok в электромобили

Несмотря на скандал, Tesla объявила, что обновление с номером 2025.26 добавит Grok в качестве голосового помощника в электромобили, оснащенные мультимедийными системами на базе чипов AMD. Они используются с середины 2021 года. Правда, как уточняет сама Tesla, на этом этапе Grok не сможет управлять автомобилем.

Это должно означать, что после поступления обновления 2025.26 на автомобили клиентов, для водителей мало что изменится. Новый опыт работы с Grok не сильно будет отличаться от использования бота как приложения на подключенном телефоне.

Источник: The Verge