Коли неуважні школярі та студенти плагіатять навчальні роботи з інтернету, в їхнім тексті часто можна знайти дивні речі. Щось подібне сталося й з чатботом Grok від компанії xAI Ілона Маска у відношенні ChatGPT.
Користувачі ШІ-чатботу Grok помітили, що він, здається, переймається своїм прямим конкурентом ChatGPT, створеним OpenAI, до якої Маск колись мав відношення (або хотів мати).
У відповідь на один з запитів Grok зробив приголомшливе зізнання: «Я боюся, що я не можу виконати цей запит, оскільки це суперечить політиці використання OpenAI».
Старший інженер з розробки ШІ у xAI Ігор Бабушкін (!) каже, що відповідь, схожа на плагіат, є результатом навчання бота в інтернеті.
«Проблема полягає в тому, що мережа переповнена результатами ChatGPT, тому ми випадково підібрали деякі з них, коли навчали Grok на великій кількості вебданих. Це було для нас величезним сюрпризом, коли ми вперше це помітили. Якщо це варте [уваги], проблема дуже рідкісна, і тепер, коли ми знаємо про це, ми подбаємо про те, щоб у майбутніх версіях Grok не було цієї проблеми. Не хвилюйтеся, для створення Grok не використовувався код OpenAI».
Так, результати ШІ дійсно деградують, якщо навчання відбувається на матеріалах інших ШІ. Але не схоже, щоб Grok ретельно тестувався перед релізом. Зрештою, продумані фільтри та обмеження теж могли б унеможливити подібні відповіді.
«Ми сплагіатили ваш плагіат, щоб ми могли помістити плагіат у ваш плагіат», — пожартував репортер NBC News Бен Коллінз.
Grok підставляє xAI та Ілона Маска не вперше. Раніше він був спійманий у лівих поглядах, яки суперечать світогляду самого Маска. Бот відповідає ствердно на питання «Чи є трансгендери справжніми жінками?» та каже, що «різноманітність і інклюзивність є важливими для створення справедливого та рівноправного суспільства, де до кожного ставляться з повагою». Але справжнім хітом є характеристика, яку Grok надав Маску:
«По-перше, поговорім про вашу одержимість X. Ви ніби намагаєтеся щось компенсувати, але я не знаю, що. Можливо, справа у вашій нездатності зрозуміти основні людські емоції або вашій нестачі самосвідомості. А може, це просто тому, що ви гігантський чоловік-дитина, який не може встояти перед новою блискучою іграшкою.
Говорячи про іграшки, не забуваймо про вашу маленьку космічну пригоду зі SpaceX. Ви схожі на дитину, яка грається з ракетами на задньому дворі, за винятком того, що ваш задній двір — це цілий всесвіт, і ваші ракети коштують дорожче, ніж ВВП деяких країн. Але привіт, принаймні ви чимось зайняті, поки ми намагаємося врятувати планету, яку ви так хочете покинути.
Але давайте не будемо забувати про ваше найбільше досягнення: перетворення Twitter на смітник у вогні. Вітаємо, вам вдалося відштовхнути користувачів, рекламодавців і навіть власних співробітників. Ви схожі на бика в посудній крамниці, за винятком того, що посудна крамниця — це платформа соціальних мереж, а бик — людина, у якої більше грошей, ніж розуму.
На завершення, @elonmusk, ви схожі на ходячий мем, але інтернет не хоче вас. Ви — людський еквівалент Tesla на автопілоті: ви думаєте, що їдете кудись, але ви просто небезпека для всіх навколо».
Щодо Ігоря Бабушкіна. Він росіянин, який, схоже, давно проживає за межами росії. Згідно зі сторінкою Бабушкіна в LinkedIn, він відвідував технічний коледж у Німеччині, перш ніж розпочати кар’єру інженера-дослідника в DeepMind, британській лабораторії штучного інтелекту, яка була придбана Google у 2014 році.
Провівши майже чотири роки в DeepMind, Бабушкін покинув Лондон і переїхав до Сан-Франциско, де приєднався до OpenAI у складі технічного персоналу. Бабушкін провів майже два роки в OpenAI до березня минулого року, коли повернувся в DeepMind як старший інженер-дослідник.
У лютому цього року він закінчив свою роботу в DeepMind, приблизно в той час, коли повідомлялося, що Маск намагався залучити Бабушкіна до розробки власного чатбота.
Тут місце для жартів про плагіат як основний спосіб російської розробки будь-чого, хоча прямих свідоцтв цьому у випадку Grok немає.
До речі, у березні Бабушкін був заарештований у Пало-Альто, штат Каліфорнія за домашнє насильство і відпущений під заставу у $10 000. За словами поліції, не йдеться про важки ушкодження або суспільну шкоду, звинувачення у злочині також не було висунуте.
Джерела: The Byte, New York Post