Учителя физкультуры и бывшего спортивного директора средней школы в городе Пайксвилль, штат Мэриленд, США, арестовали и обвинили в том, что он использовал искусственный интеллект для клонирования голоса, чтобы подставить директора школы.
Полиция округа Балтимор считает, что запись, которая распространялась в социальных сетях в январе, на которой директор средней школы Пайксвилл Эрик Эйсверт делает расистские и антисемитские комментарии, является фальшивкой. Эксперты рассказали изданию The Baltimore Banner и полиции, что запись, которая на короткое время привела к отстранению Эйсверта, имеет «ровный тон, чрезвычайно чистые фоновые звуки и отсутствие последовательных звуков дыхания или пауз».
Полиция округа Балтимор проследила запись до Дажона Дарьена, бывшего спортивного директора школы, чье имя также упоминалось в аудиозаписи. Со школьных компьютеров он якобы «получил доступ к инструментам OpenAI и службам Microsoft Bing Chat». Он также был связан с опубликованным аудио с помощью адреса электронной почты и соответствующего номера телефона для восстановления. Не сообщается, какую именно голосовую платформу ИИ якобы использовал Дарьен.
Полиция арестовала Дарьена в аэропорту и опубликовала заявление : «Считается, что г-н Дарьен, который был спортивным директором средней школы Пайксвилля, сделал запись, чтобы отомстить г-ну Эйсверту, который в то время проводил расследование потенциального нецелевого использования школьных средств».
Подозреваемого освободили после внесения залога. Ему предъявили обвинения, включая кражу, нарушение работы школы, месть свидетелю и преследование.
На фоне подобных ситуации понятно решение OpenAI не предоставлять в публичное использование свою платформу ИИ для преобразования текста в голос Voice Engine. Услуга, которая требует только 15-минутной аудиозаписи, чтобы клонировать чей-то голос, доступна только для ограниченного количества исследователей из-за потенциального риска.
Источник: The Baltimore Banner