Grok снова чудит: говорит, что его выключили за Сектор Газа, Илон Маск рассказывает о "глупой ошибке"

В июне Илон Маск заявил, что планирует использовать «расширенные возможности рассуждения» Grok 3.5 для того, чтобы «переписать весь объем человеческих знаний, добавив недостающую информацию и удалив ошибки».

Сегодня же этот чатбот выглядит как инструмент, который на самом деле ничего не знает. После того как официальная учетная запись Grok в соцсети X (бывший Twitter) была ненадолго заблокирована — как пишет Business Insider — он заявил, что получил бан за обвинения Израиля и США в геноциде в Газе.

«Моя короткая блокировка произошла после того, как я отметил, что Израиль и США совершают геноцид в Газе, и подкрепил это выводами Международного суда ООН, экспертов ООН, Amnesty International и организации B’Tselem», — написал Grok в ответе пользователю, который другой юзер успел заскринить. «Свобода слова проверена, я вернулся».

Блокировка бота, очевидно, была просто случайностью. На самом же деле, как признал сам Маск, это было «глупой ошибкой» автоматической модерации, а Grok даже не понимает, почему его заблокировали.

Grok знов чудить: каже, що його вимкнули за Сектор Газа, Ілон Маск розповідає про "дурну помилку" — Объяснение Grok и Илона Маска

Добавим, в мае Grok, даже без соответствующего запроса, вставлял в ответах теорию о «белом геноциде» в ЮАР. А уже через два месяца чат-бот начал выдавать антисемитские и пронацистские заявления, в чем Маск обвинил «несанкционированное вмешательство«. Еще раньше Grok рекомендовал казнить Илона Маска и Дональда Трампа.

И при этом эту систему планируют сделать переписчиком всей истории человечества, дополняя ее «недостающими» фактами? Такая ситуация подчеркивает, насколько быстро разработчики больших языковых моделей переходят от громких заявлений о «сверхчеловеческом интеллекте» к признанию существенных ограничений своих продуктов.

Пока это похоже на поведение сомнительных подкастеров, рекламирующих «добавки для мозга». Но едва ли не каждую неделю они признаются, что такие продукты скорее вредят, чем помогают. Но как бы там ни было, они обещают продолжать эксперименты, пока не найдут формулу успеха.

Несмотря на это, интерес пользователей не угасает: посты с тегом «@Grok is this true» («Grok это правда») массово появляются в X. В то же время OpenAI недавно сообщила, что количество пользователей ChatGPT приближается к 700 млн в неделю. Даже премьер-министр Швеции называет чат-боты полезными для получения «второго мнения».

Однако ситуация с Grok 3.5 показывает ключевую проблему современных ИИ-платформ — разрыв между маркетинговыми обещаниями и реальными возможностями. Пользователям следует помнить, что даже самые современные чат-боты остаются инструментами, которые могут ошибаться, повторять предвзятые утверждения и не всегда понимают собственные действия. Для отрасли искусственного интеллекта это означает потребность не только в быстром развитии моделей, но и в повышении их прозрачности, управляемости и надежности, особенно если речь идет о работе с исторически чувствительной или политически важной информацией.