В 2018 году вооруженный мужчина убил и ранил десятки людей в средней школе в Паркленде, штат Флорида — сейчас проект The Shotline использовал голоса убитых детей для автоматизированных звонков законодателям, чтобы лоббировать ужесточение законов об оружии в США.
Как сообщает The Wall Street Journal, проект использует синтезированные голоса шести застреленных детей (некоторых в возрасте до 10 лет). Заказать звонок может кто угодно — для этого нужно ввести почтовый индекс и The Shotline отыщет местного представителя для осуществления вызова.
«Я вернулся, потому что родители с помощью искусственного интеллекта воссоздали мой голос, чтобы я мог позвонить тебе», — говорит сгенерированный ИИ голос Хоакина Оливера, одного из подростков, убитых во время стрельбы в Паркленде. «Другие жертвы тоже будут звонить».
На момент публикации через веб-сайт было получено более 8000 обращений.
«Это проблема США, и мы не смогли ее решить», — сказал отец Оливера Мануэль, который начал проект вместе со своей женой Патрисией. «Если нам нужно использовать жуткие вещи, чтобы исправить это, мы это сделаем».
Для синтеза голосов Оливеры использовали функцию ElevenLabs — стартапа, недавно собравшего более $80 млн финансирования. Инструмент позволяет генерировать голоса на более чем 20 языках на основе образца длительностью несколько минут.
Сообщается, что для синтеза голоса Хоакина Оливера, были использованы его публикации в соцсетях. Родители и опекуны других жертв могут также заполнить форму и отправить записи их голосов в хранилище The Shotline.
Проект тем временем поднимает этические вопросы относительно использования искусственного интеллекта для создания дипфейков голосов умерших людей.
На прошлой неделе Федеральная комиссия по связи объявила, что автоматические звонки, осуществленные с использованием голоса, сгенерированного искусственным интеллектом, являются незаконными — решение было принято после того, как избиратели в Нью-Гемпшире получили звонки с искусственным голосам Байдена, который призвал их пропустить праймериз. Анализ, проведенный охранной компанией Pindrop, показал, что звуковой дипфейк также был создан с помощью программного обеспечения от ElevenLabs.