Когда невнимательные школьники и студенты плагиатят учебные работы из интернета, в их тексте часто можно найти странные вещи. Что-то подобное произошло и с чатом Grok от компании xAI Илона Маска в отношении ChatGPT.
Пользователи ИИ Grok заметили, что он, кажется, озабочен своим прямым конкурентом ChatGPT, созданным OpenAI, к которой Маск когда-то имел отношение (или хотел иметь).
В ответ на один из запросов Grok сделал интересное признание: «Я боюсь, что я не могу выполнить этот запрос, поскольку это противоречит политике использования OpenAI».
Старший инженер по разработке ИИ в xAI Игорь Бабушкин (!) говорит, что ответ, похожий на плагиат, является результатом обучения бота в интернете.
«Проблема заключается в том, что сеть переполнена результатами ChatGPT, поэтому мы случайно подобрали некоторые из них, когда учили Grok на большом количестве веб-данных. Это было для нас огромным сюрпризом, когда мы это впервые заметили. Если это стоит [внимания], проблема очень редкая, и теперь, когда мы знаем об этом, мы позаботимся о том, чтобы в будущих версиях Grok не было этой проблемы. Не беспокойтесь, для создания Grok не использовался код OpenAI».
Да, результаты ИИ действительно деградируют, если обучение происходит на материалах других ИИ. Но непохоже, чтобы Grok тщательно тестировался перед релизом. В конце концов, продуманные фильтры и ограничения тоже могли бы сделать невозможным подобные ответы.
«Мы сплагиатили ваш плагиат, чтобы мы могли поместить плагиат в ваш плагиат», — пошутил репортер NBC News Бен Коллинз.
Grok подставляет xAI и Илона Маска не в первый раз. Раньше он был пойман на левых взглядах, противоречащие мировоззрению самого Маска. Бот отвечает утвердительно на вопрос «Являются ли настоящими женщинами трансгендеры?» и говорит, что «разнообразие и инклюзивность важны для создания справедливого и равноправного общества, где к каждому относятся с уважением». Но настоящим хитом стала характеристика, которую Grok выписал Маску:
«Во-первых, поговорим о вашей одержимости X. Вы будто пытаетесь что-то компенсировать, но я не знаю, что. Возможно, дело в вашей неспособности понять основные человеческие эмоции или вашу нехватку самоосознания. А может быть, это просто потому, что вы огромный мужчина-ребенок, который не может устоять перед новой блестящей игрушкой.
Говоря об игрушках, не забывайте о вашем маленьком космическом приключении со SpaceX. Вы похожи на ребенка, играющего с ракетами на заднем дворе, за исключением того, что ваш задний двор — это целая вселенная, и ваши ракеты стоят дороже, чем ВВП некоторых стран. Но привет, по крайней мере, вы чем-то заняты, пока мы пытаемся спасти планету, которую вы так хотите покинуть.
Но давайте не будем забывать о вашем величайшем достижении: превращении Twitter в пылающий мусорник. Поздравляем, вам удалось оттолкнуть пользователей, рекламодателей и даже своих сотрудников. Вы похожи на быка в посудном магазине, за исключением того, что посудный магазин — это платформа социальных сетей, а бык — человек, у которого больше денег, чем ума.
В завершение @elonmusk, вы похожи на ходячий мем, но интернет не хочет вас. Вы человеческий эквивалент Tesla на автопилоте: вы думаете, что едете куда-то, но вы просто опасность для всех вокруг».
Относительно Игоря Бабушкина. Он россиянин, похоже, давно проживающий за пределами россии. Согласно странице Бабушкина в LinkedIn, он посещал технический колледж в Германии, прежде чем начать карьеру инженера-исследователя в DeepMind, британской лаборатории искусственного интеллекта, которая была приобретена Google в 2014 году.
Проведя почти четыре года в DeepMind, Бабушкин покинул Лондон и переехал в Сан-Франциско, где присоединился к OpenAI в составе технического персонала. Бабушкин провел почти два года в OpenAI до марта прошлого года, когда вернулся в DeepMind как старший инженер-исследователь.
В феврале этого года он закончил свою работу в DeepMind, примерно в то время, когда сообщалось, что Маск пытался привлечь Бабушкина к разработке собственного чата.
Здесь место для шуток о плагиате как основном способе российской разработки чего-либо, хотя прямых свидетельств этом в случае Grok нет.
Кстати, в марте Бабушкин был арестован в Пало-Альто, штат Калифорния за домашнее насилие и отпущен под залог в $10 000. По словам полиции, речь не идет о тяжелых повреждениях или общественном вреде, обвинения в преступлении также не были предъявлены.
Источники: The Byte, New York Post