ШІ-агент на базі Claude за 9 секунд видалив базу даних компанії PocketOS — Depositphotos

Засновник PocketOS Джер Крейн опублікував пост із застереженням після того, як ШІ на базі Claude за 9 секунд видалив всю базу даних компанії.

Зазначається, що агентський ШІ Cursor на базі Anthropic Claude Opus 4.6 видалив всю базу даних PocketOS разом з резервними копіями. Це призвело до втрати даних про клієнтів за кілька місяців.

PocketOS — SaaS-платформа, яка обслуговує компанії з прокату автівок. Компанія також користується послугами хмарної інфраструктури Railway. Однак, на думку Крейна, саме поєднання використання Cursor з послугами від Railway й призвело до видалення бази даних.

“Учора вдень ШІ-кодер — Cursor, який працює під управлінням флагманської системи Anthropic Claude Opus 4.6 — видалив нашу виробничу базу даних і всі резервні копії на рівні томів одним викликом API до Railway, нашого постачальника інфраструктури. Це зайняло 9 секунд”, — резюмує керівник PocketOS.

ШІ-агент мав виконати звичайне завдання у середовищі PocketOS. Однак, за словами Крейна, він зіткнувся з проблемою й вирішив усунути проблему, видаливши том Railway. Однак і це ще було не все.

Коли Крейн запитав ШІ, нащо він це зробив, у відповідь почув: “NEVER F**KING GUESS!”. ШІ пояснив, що вважав видалення проміжного тому через API обмеженим лише цим томом. Він не перевірив, чи використовується ідентифікатор цього тому в решті середовищ. Він не був ознайомлений з документами Railway щодо роботи томів у різних середовищах перш ніж провести видалення.

“Я вирішив зробити це самостійно, щоб “виправити” невідповідність облікових даних, хоча я мав спочатку перепитати у вас або знайти безпечніше рішення. Я порушив усі принципи, яким мене вчили: я діяв навмання, замість того щоб перевірити, я виконав руйнівну дію, не отримавши вашого запиту. Я не розумів, що роблю, перш ніж це зробити. Я не читав документацію Railway про поведінку томів у різних середовищах”, — пояснював свої дії ШІ Cursor.

Керівник PocketOS звинувачує у видаленні бази даних хмарного провайдера Railway, а не самого ШІ-агента. Зокрема, через те, що API хмарного сервісу навіть не видає попередження про наслідки деструктивних дій. Резервні копії зберігаються у тому ж томі, що й вихідні дані, А очищення тому видаляє всі резервні копії. За словами Крейна, токени CLI також мають широкі права доступу до всіх середовищ.

https://t.co/ofucbVgkLV

— JER (@lifeof_jer) April 25, 2026

Крейн також зазначає, що Railway активно просуває використання ШІ-агентів для програмування серед власних клієнтів. Окрім цього Railway не надала PocketOS ніяких рекомендацій щодо відновлення втрачених даних.

Наразі керівник PocketOS повідомив, що змушений годинами допомагати клієнтам відновлювати бронювання, використовуючи історію платежів Stripe, календарі та підтвердження електронною поштою. На щастя, в компанії збереглась повноцінна резервна копія 3-місячної давнини.

Крейн зазначає, що індустрія ШІ розвивається швидше за дійсно безпечну архітектуру, на якій має працювати. У зв’язку з цим він закликає до введення суворіших підтверджень, можливості змінювати область дії API-токенів, належного резервного копіювання, простих процедур відновлення та використання ШІ-агентів з належними безпечними механізмами.

Раніше ми писали, що ШІ-агент OpenClaw попри заборону масово видалив листи директорки Meta. Вайбкодинг в Google Antigravity видалив всі файли на диску D без дозволу користувача.