OpenAI забанила разработчика бота искусственного интеллекта, имитирующего кандидата в президенты от Демократической партии США Дина Филипса (на фото Reuters выше). Это первый ответ производителя ChatGPT на то, что он считает злоупотреблением своими инструментами ИИ в политической кампании.
Чатбота Dean.Bot создали предприниматели Мэтт Крисилофф и Джед Сомерс в поддержку Филлипса накануне первоначальных выборов в Нью-Гэмпшире при финансовой поддержке менеджера хедж-фонда Билла Экмана, активиста и миллиардера. Бот работал на основе языковой модели GPT от OpenAI.
Авторы идеи заключили контракт со стартапом Delphi, занимающимся искусственным интеллектом, чтобы создать бота. OpenAI приостановила действие аккаунта Delphi и отметила, что правила OpenAI запрещают использовать ее технологию в политических кампаниях. Delphi ликвидировала Dean.Bot после приостановки действия аккаунта.
«Любой, кто творит с помощью наших инструментов, должен придерживаться нашей политики использования. Недавно мы удалили аккаунт разработчика, который сознательно нарушал наши правила использования API, запрещающую политическую кампанию или выдавать себя за лицо его согласия», — пресс-секретарь OpenAI Линдси Хелд.
У бота біл снабжен предупреждением, что это инструмент искусственного интеллекта, а не настоящий Дин Филлипс, и требовал от избирателя согласия на его использование. Но подобные технологии могут заставить людей принять такой инструмент за человека, даже если есть предупреждения.
Сторонники такого способа агитации утверждают, что боты, если их использовать должным образом, могут обучать избирателей, предоставляя интересный способ узнать больше о кандидате.
По словам экспертов, подобные технологии могут спровоцировать волну автоматических вызовов избирателям, которые думают, что общаются с реальными кандидатами. Также системы искусственного интеллекта могут масштабно производить дезинформацию.
Заказчики попросили Delphi удалить ChatGPT из бота и вместо этого полагаться на технологии с открытым исходным кодом, которые предлагают разговорные возможности.
Источник: The Washington Post