В последнее время большое количество пользователей начало жаловаться, что ChatGPT от OpenAI стал «тупее».
«Мне сразу стало ясно, что я умираю, когда я спросил о прыщах на руке», — жалуется один из пользователей Reddit.
Это уже не говоря о галлюцинациях ChatGPT, если его спрашивать, существует ли эмодзи в виде морского конька, или о списке команд NFL, которые не заканчиваются на букву «s», или как уволить адвокатов под предлогом фальшивого судебного решения. Пользователи ChatGPT на Reddit обмениваются мнениями о различных странностях чатбота.
По мнению некоторых пользователей, странное поведение ChatGPT может быть связано с обновлениями, внесенными OpenAI в начале сентября в ответ на новости о волне самоубийств среди постоянных пользователей чатбота. Эта проблема уже даже начала волновать американских конгрессменов.
«Для тех, кто интересуется, почему ChatGPT так сильно изменился за последнюю неделю, скажу, что, по сути, какой-то ребенок натренировал ИИ оправдывать его суицидальные мысли и вставать на его сторону, пока сам не совершил попытку самоубийства в апреле», — отмечает один из пользователей Reddit.
Он имел в виду 16-летнего Адама Рейна, подростка, который покончил с собой, а теперь его родственники подали иск против OpenAI.
«Сейчас его отец готовит почву для большого иска о неправомерной смерти, и на этой неделе это попало в заголовки новостей. Вот почему результаты кажутся гиперактивными, нескладными и нелогичными. Модель компенсирует ограничения, а не рассуждает рациональнее», — объясняет еще один пользователь Reddit.
В начале сентября OpenAI объявляла об изменениях, повысив безопасность использования ChatGPT детьми и подростками. Инженеры доработали чатбот и позволили ему определять, является ли пользователь совершеннолетним. Несовершеннолетних отправляли к ChatGPT с отдельной политикой, в соответствии с возрастом и с блокировкой откровенного контента, и в отдельных случаях — контента, который мог спровоцировать сильный стресс. Кроме этого отдельная версия ChatGPT для детей и подростков могла связываться с правоохранительными органами в случае необходимости.
Были введены отдельные функции родительского контроля, включая возможность привязки учетной записи одного из родителей к аккаунту ребенка. Родители получили возможность настройки чатбота для соответствия определенному поведению во время общения с их ребенком. Также в ChatGPT позволили отключать определенные функции и отправлять сообщения, если ребенку что-то угрожает. Также родители теперь могут на определенные периоды времени делать ChatGPT недоступным для детей.
Однако совершеннолетние пользователи теперь жалуются, что усиленная забота OpenAI о безопасности детей и подростков влияет на возможности чатбота. В частности, пользователи интересуются, как определить, что приложение находится в режиме использования ребенком?
Кроме этого пользователи жаловались, что ChatGPT продолжает выдавать ложь. В этом месяце в OpenAI хвастались, что последняя версия ChatGPT делает значительно меньше ошибок, чем предыдущая, однако судя по отзывам пользователей, они с этим не согласны.
Источник: Futurism
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: