Кевін Сістром на Startup Grind / YouTube
Один из основателей Instagram Кевин Систром считает, что компании ИИ в первую очередь заботятся о повышении активности чат-ботов, а не полезностью ответов.
По мнению Систрома, которое он высказал на Startup Grind, боты намеренно докучают пользователям дополнительными вопросами, вместо того, чтобы предоставлять действительно полезную информацию. Он называет эту тактику вредной и сравнивает с действиями социальных сетей, нацеленных на агрессивное расширение.
«Вы можете увидеть, как некоторые из этих компаний погружаются в кроличью нору, в которую погрузились все потребительские компании, пытаясь повысить вовлеченность. Каждый раз, когда я задаю вопрос, в конце переспрашивают еще один небольшой вопрос, чтобы увидеть, смогут ли они вытащить из меня еще один».
Систром предположил, что такое поведение — не ошибка, а преднамеренная функция, разработанная компаниями ИИ, чтобы «накручивать» такие показатели, как потраченное время и активность пользователей ежедневно. Он убежден, что компании должны «целенаправленно» предоставлять высококачественные ответы, а не заниматься «накруткой» самым легким способом. При этом Систром не назвал ни одной конкретной компании.
По запросу сайта TechCrunch в OpenAI прокомментировали это мнение. Создатели ChatGPT указали на спецификации своей модели, в которых указано, что часто она не имеет всей необходимой информации для предоставления хорошего ответа и может потребовать от пользователя разъяснений или дополнительных деталей. В то же время, если вопрос не слишком расплывчатый или сложный, искусственный интеллект должен «попытаться выполнить запрос и сообщить пользователю, что он мог бы быть более полезным с определенной информацией».
На днях бывший руководитель групп разработчиков ИИ в Google Алексиос Манцарлис рассказал об искажении фактов поисковиками на основе искусственного интеллекта. Он считает, что правдивость информации перестала быть приоритетом для крупных компаний, а вместо универсальных моделей лучше бы было отдавать предпочтение инструментам ИИ с узкой областью применения, которые бы выдавали точные результаты.