OpenAI забанила розробника бота штучного інтелекту, який імітує кандидата в президенти від Демократичної партії США Діна Філіпса (на фото Reuters вище). Це перша відповідь виробника ChatGPT на те, що він вважає зловживанням своїми інструментами ШІ в політичній кампанії.
Чатбота Dean.Bot створили підприємці Метт Крисілофф та Джед Сомерс на підтримку Філліпса напередодні первинних виборів у Нью-Гемпширі за фінансової підтримки менеджера хедж-фонду Білла Екмана, активіста та мільярдера. Бот працював на основі мовної моделі GPT від OpenAI.
Автори ідеї уклали контракт зі стартапом Delphi, який займається штучним інтелектом, щоб створити бота. OpenAI призупинила дію облікового запису Delphi та зазначила що правила OpenAI забороняють використовувати її технологію в політичних кампаніях. Delphi ліквідувала Dean.Bot після призупинення дії облікового запису.
«Будь-хто, хто творить за допомогою наших інструментів, повинен дотримуватися нашої політики використання. Нещодавно ми видалили обліковий запис розробника, який свідомо порушував наші правила використання API, що забороняють політичну кампанію або видавати себе за особу без згоди», — прессекретарка OpenAI Ліндсі Хелд.
Бот мав застереження, що це інструмент штучного інтелекту, а не справжній Дін Філіпс, та вимагав від виборця згоди на його використання. Але подібні технології можуть змусити людей прийняти подібний інструмент за людину, навіть якщо є застереження.
Прихильники такого способу агітації стверджують, що боти, якщо їх використовувати належним чином, можуть навчати виборців, надаючи їм цікавий спосіб дізнатися більше про кандидата.
За словами експертів, подібні технології можуть спровокувати хвилю автоматичних дзвінки виборцям, які думають, що спілкуються з реальними кандидатами. Також системи штучного інтелекту можуть масштабно виробляти дезінформацію.
Замовники попросили Delphi видалити ChatGPT із бота та замість цього покладатися на технології з відкритим вихідним кодом, які також пропонують розмовні можливості.
Джерело: The Washington Post