ШІ-агент на базі Claude за 9 секунд видалив базу даних компанії PocketOS

Основатель PocketOS Джер Крейн опубликовал пост с предостережением после того, как ИИ на базе Claude за 9 секунд удалил всю базу данных компании.

Отмечается, что агентский ИИ Cursor на базе Anthropic Claude Opus 4.6 удалил всю базу данных PocketOS вместе с резервными копиями. Это привело к потере данных о клиентах за несколько месяцев.

PocketOS — SaaS-платформа, которая обслуживает компании по прокату автомобилей. Компания также пользуется услугами облачной инфраструктуры Railway. Однако, по мнению Крейна, именно сочетание использования Cursor с услугами от Railway и привело к удалению базы данных.

«Вчера днем ИИ-кодер — Cursor, который работает под управлением флагманской системы Anthropic Claude Opus 4.6 — удалил нашу производственную базу данных и все резервные копии на уровне томов одним вызовом API к Railway, нашему поставщику инфраструктуры. Это заняло 9 секунд», — резюмирует руководитель PocketOS.

ИИ-агент должен был выполнить обычную задачу в среде PocketOS. Однако, по словам Крейна, он столкнулся с проблемой и решил устранить проблему, удалив том Railway. Однако и это еще было не все.

Когда Крейн спросил ИИ, зачем он это сделал, в ответ услышал: «NEVER F**KING GUESS!». ИИ объяснил, что считал удаление промежуточного тома через API ограниченным только этим томом. Он не проверил, используется ли идентификатор этого тома в остальных средах. Он не был ознакомлен с документами Railway по работе томов в различных средах прежде чем провести удаление.

«Я решил сделать это самостоятельно, чтобы «исправить» несоответствие учетных данных, хотя я должен был сначала переспросить вас или найти более безопасное решение. Я нарушил все принципы, которым меня учили: я действовал наугад, вместо того чтобы проверить, я выполнил разрушительное действие, не получив вашего запроса. Я не понимал, что делаю, прежде чем это сделать. Я не читал документацию Railway о поведении томов в различных средах», — объяснял свои действия ИИ Cursor.

Руководитель PocketOS обвиняет в удалении базы данных облачного провайдера Railway, а не самого ИИ-агента. В частности, из-за того, что API облачного сервиса даже не выдает предупреждения о последствиях деструктивных действий. Резервные копии хранятся в том же томе, что и исходные данные, а очистка тома удаляет все резервные копии. По словам Крейна, токены CLI также имеют широкие права доступа ко всем средам.

https://t.co/ofucbVgkLV

— JER (@lifeof_jer) April 25, 2026

Крейн также отмечает, что Railway активно продвигает использование ИИ-агентов для программирования среди собственных клиентов. Кроме этого Railway не предоставила PocketOS никаких рекомендаций по восстановлению утраченных данных.

Сейчас руководитель PocketOS сообщил, что вынужден часами помогать клиентам восстанавливать бронирование, используя историю платежей Stripe, календари и подтверждения по электронной почте. К счастью, в компании сохранилась полноценная резервная копия 3-месячной давности.

Крейн отмечает, что индустрия ИИ развивается быстрее действительно безопасной архитектуры, на которой должна работать. В связи с этим он призывает к введению более строгих подтверждений, возможности изменять область действия API-токенов, надлежащему резервному копированию, простым процедурам восстановления и использованию ИИ-агентов с надлежащими безопасными механизмами.

Ранее мы писали, что ИИ-агент OpenClaw несмотря на запрет массово удалил письма директора Meta. Вайбкодинг в Google Antigravity удалил все файлы на диске D без разрешения пользователя.