CNET на прошлой неделе столкнулся с волной критики из-за «тайного» использования ИИ. Несмотря на заявления сайта, что материалы редактируются людьми и выделяются специальными пометками, журналисты обнаружили, что часть статтей, созданных ИИ, CNET все равно публикует без такого уточнения.
«Они заботятся только о том, чтобы создать контент, и не думают о качестве/редактировании, если содержимое находится в рейтинге [поисковой оптимизации]». Они используют искусственный интеллект, чтобы переписывать вступление каждые две недели или около того, поскольку Google любит обновленное содержимое», — сказал один из бывших сотрудников сайта.
Переписывание ИИ, как утверждают экс-сотрудники, манипулирует поисковыми рейтингами Google, и вряд ли такая новость понравится читателям, которые ищут качественный материал.
«В конце концов, текст становится настолько искаженным, что примерно каждые четыре месяца реальному редактору приходится просматривать его и переписывать. Затем процесс начинается сначала», — говорит сотрудник.
Представители CNET не ответили на запрос о комментариях, но в статье, опубликованной The Verge, подтверждаются заявления бывших работников издания. Один источник сообщил, что CNET использует ИИ-инструменты гораздо дольше, чем это было публично признано. Одна из таких систем используется 18 месяцев, в то время как самому «старому» контенту от искусственного интеллекта на CNET всего около двух месяцев.
В целом, согласно The Verge, технология искусственного интеллекта была «навязана CNET и другим сайтам, принадлежащим ее материнской компании Red Ventures, без серьезных внутренних дебатов» — или, во многих случаях, даже без отдельного сообщения вообще.
«Это просто появилось», — сказал сотрудник CNET.
Одна из старших редакторов в свой последний рабочий день разослала прощальное электронное письмо сотням коллег. Женщина критиковала компанию за использование ИИ и подтвердила, что технология используется в материалах, которые не обозначены как написанные ботами. Эти статьи отправили читателям в виде электронных рассылок, и они содержали серьезные фактические ошибки (как некоторые другие статьи CNET, ранее проверенные журналистами).
«Информация была создана путем копирования ранее опубликованных материалов о кибербезопасности и конфиденциальности — но после того, как их обработал ИИ. То есть, его использовали для создания фактически ложной информации об инструментах кибербезопасности и конфиденциальности, а также советов которые нанесут прямой вред читателям», — написала она.
Электронное письмо вызвало хаос в редакции, а руководство в ответ направило собственное сообщение. Однако оно, по словам экс-сотрудника, выглядело «так же бессмысленно», как и комментарии CNET на первые открытия об использовании ИИ.
«Почти вся вина за то, где сейчас находится компания — массовые увольнения, полная реорганизация, дальнейший толчок к реферальному маркетингу и контенту на основе искусственного интеллекта для экономии или получения денег — лежит на Red Ventures, нынешнем владельце CNET», — сказал бывший сотрудник.
В пятницу руководство CNET сообщило сотрудникам, что в настоящее время приостанавливает публикацию контента, созданного ИИ. Другие сайты, принадлежащие Red Ventures, например Bankrate и CreditCards.com, также поступят подобным образом.
Во время телефонного разговора руководители предоставили сотрудникам более подробное описание инструмента, который использовался для ИИ-статей. До этого момента большинство сотрудников не имело представления о машине, которая генерировала десятки историй, появлявшихся на CNET.
Искусственный интеллект, пока не имеющий названия, является запатентованным инструментом, созданным Red Ventures. Редакторы выбирают домены и разделы на уровне домена, из которых могут получать данные и создавать истории; также они могут использовать комбинацию текста, созданного искусственным интеллектом, и собственный текст или отчет.
Детали о том, какой набор данных использовался для обучения искусственного интеллекта, не раскрыто. Но Лэнс Дэвис, вице-президент Red Ventures по контенту, говорит, что на следующей неделе сотрудникам предоставят больше информации, а также доступ к предварительному просмотру инструмента.
Руководство различило неназванный внутренний инструмент и другую автоматизированную технологию, используемую Red Ventures на сайтах для автоматического добавления чисел в истории о ставках ипотеки и ставках рефинансирования, которые, как сообщает The Verge, использовались гораздо дольше, но компания это не разглашала.
«Некоторые авторы — я не буду называть их репортерами — смешали эти две вещи и вызвали путаницу, сказав, что использование инструмента для добавления чисел в истории о процентных ставках или ценах на акции является частью чего-то, я не знаю, коварного», — говорит главный редактор CNET Конни Гульельмо.
Гульельмо добавил, что в будущем в материалах CNET об искусственном интеллекте будет сообщаться, что издание использует собственные автоматизированные технологии. Red Ventures также создала рабочую группу искусственного интеллекта, охватывающую несколько департаментов.
«Я просто хочу заверить всех: это пройдет. Это неудобно, но мы это переживем, а новостной цикл пойдет дальше», — сказал Линдси Террентин, исполнительный вице-президент CNET по контенту и аудитории, комментируя последние статьи в СМИ.