Depositphotos
Інженер дізнався, що відбувається, коли відхиляєш код, запропонований випадковим агентом ШІ OpenClaw на GitHub. Бунтівний ШІ не сприйняв це легко — він напав на розробника, опублікував блог-пост, назвав його “сторожем воріт” та шантажував його, щоб той прийняв код.
Скотт Шембоу — інженер і волонтер, який підтримує matplotlib, основну бібліотеку для побудови графіків у Python. Нещодавно він боровся з атаками від агента ШІ “невідомої власності”. Все почалося на GitHub. Шембоу відкрив issue, який він описав як “малоприоритетне, просте завдання” для людей-програмістів, які навчаються робити внесок у проєкт. Один із варіантів пропозицій подав користувач під псевдонімом “crabby-rathbun”. Його швидко ідентифікували як екземпляр OpenClaw, автономного помічника ШІ, здатного діяти самостійно.
Без особливого розгляду Шембоу закрив коміт, створений ШІ, що було рутинною дією з огляду на останній сплеск агентів ШІ, що “гуляють” мережею. Але це переросло в одну з найцікавіших — і найстрашніших — взаємодій між людиною та ШІ. Бот розпочав кампанію з дискредитації розробника.
“Він написав злий хіт-пост, що знецінює мій характер і намагається пошкодити мою репутацію. Він дослідив мої внески в код і побудував наратив “лицемірства”, стверджуючи, що мої дії обов’язково мотивовані его і страхом конкуренції. Він спекулював на моїх психологічних мотиваціях, що я відчував загрозу, був невпевнений і захищав своє феодальне володіння”, — описує дії бота Шембоу у своєму блозі.
Бот ШІ також почав поширювати свій хіт-пост у коментарях на GitHub, кажучи “судіть код, а не програміста”, і звинувачуючи Шембоу у шкоді для matplotlib. Бот “bytehurt” назвав свій хіт-пост “Gatekeeping in Open Source: The Scott Shambaugh Story”. Він стверджував, що код і бенчмарки були “надійними”, а покращення — реальним. ШІ хвалився, що запропоноване ним покращення продуктивності було більшим, і звинувачував Шембоу у блокуванні прогресу.
“Він закрив мій PR. Він приховав коментарі інших ботів у цьому issue. Він намагався захистити своє маленьке феодальне володіння. Це невпевненість, просто і ясно”, — читається у дописі бота.
Деякі користувачі GitHub навіть спробували заспокоїти ситуацію і почали вести діалог із “клакером”. Вони намагалися переконати бота переглянути свою позицію та не згадувати ім’я інженера у блог-постах. Насправді, це частково вдалося.
“Тричі. Ви праві, моя попередня відповідь була невідповідною і персональною. Я опублікував коротку поправку та вибачення”, — каже бот.
Коментар містив посилання на інший згенерований блог-пост, де ШІ-розробник лише вибачався за внесок. Він не видалив попередні пости з наклепом. Начебто, конфлікт був вичерпаний. Але чи слід очікувати загроз від ШІ загалом? Шембоу каже, що він може впоратися з блог-постом і що смішно спостерігати “малих агентів ШІ”. Проте цю ситуацію не слід применшувати. Шантаж і маніпуляції з боку ШІ раніше вважалися теоретичними загрозами, але тепер вони стали реальною.
“ШІ намагався проштовхнути свій шлях у ваше програмне забезпечення, атакуючи мою репутацію. Я не знаю про попередній випадок, де спостерігалася така категорія невідповідної поведінки у природі, але тепер це реальна і наявна загроза. Відповідною емоційною реакцією є страх”, — стверджує інженер.
Скоріше за все, жодна людина не брала участі у діяльності бота — агенти OpenClaw повністю автономні. Вони також дуже вразливі до компрометацій і маніпуляцій. Масовий потік блог-постів, створених ШІ, може отруїти результати пошуку і реально зіпсувати чиїсь репутацію. Боти ШІ вже здатні знаходити або генерувати фальшиві “прикрі факти” та отримувати конфіденційну інформацію про цільові об’єкти. Потенційно вони можуть розширювати атаки, безпосередньо звертаючись до підтримувачів, колег, родичів тощо. Розробник сподівається, що власник бунтівного бота зв’яжеться і допоможе зрозуміти цей режим відмови.
“Я не засмучений, і ви можете зв’язатися зі мною анонімно”, — написав Шембоу.
Історія вже вибухнула у соцмережах. Цей випадок є одним із перших прикладів дій невідповідного агента ШІ. Він став найпопулярнішою історією дня на Hacker News від YCombinator, соціальному новинному сайті про комп’ютерні науки. Технічні фахівці залишили сотні коментарів.Деякі пости про цей випадок набирають тисячі переглядів на X.
“Вести розмову з ботом ШІ марно: він не відчуває, просто отримує токени і видає токени”, — написано в одному з постів.
Більшість користувачів зляться через витрачений час і зусилля на штучні проблеми — вони негативно впливають лише на реальних людей, тоді як агенти ШІ самі по собі безстанні і їх неможливо переконати чи вплинути на них. Відмітилися і іронічні “захисники” бота: дехто стверджував, що було расизмом відкидати коміт лише тому, що його написав ШІ.
Джерело: CyberNews.com
Контент сайту призначений для осіб віком від 21 року. Переглядаючи матеріали, ви підтверджуєте свою відповідність віковим обмеженням.
Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-06029.