Вчителя фізкультури та колишнього спортивного директора середньої школи у місті Пайксвілль, штат Меріленд, США, заарештували та звинуватили у тому, що він використав штучний інтелект для клонування голосу, щоб підставити директора школи.
Поліція округу Балтимор вважає, що запис, який поширювався в соціальних мережах у січні, на якому директор середньої школи Пайксвілл Ерік Ейсверт робить расистські та антисемітські коментарі, є фальшивкою. Експерти розповіли виданню The Baltimore Banner та поліції, що запис, який на короткий час призвів до відсторонення Ейсверта, має «рівний тон, надзвичайно чисті фонові звуки та відсутність послідовних звуків дихання чи пауз».
Поліція округу Балтимор простежила запис до Дажона Дар’єна, колишнього спортивного директора школи, ім’я якого також згадувалося в аудіозаписі. Зі шкільних комп’ютерів він нібито, «отримав доступ до інструментів OpenAI та служб Microsoft Bing Chat». Його також зв’язали з опублікованим аудіо за допомогою адреси електронної пошти та відповідного номера телефону для відновлення. Не повідомляється, яку саме голосову платформу ШІ нібито використовував Дар’єн.
Поліція заарештувала Дар’єна в аеропорту та оприлюднила заяву : «Вважається, що пан Дар’єн, який був спортивним директором середньої школи Пайксвілля, зробив запис, щоб помститися пану Ейсверту, який на той час проводив розслідування потенційного нецільового використання шкільних коштів».
Підозрюваного звільнили після внесення застави. Йому висунули звинувачення, включаючи крадіжку, порушення роботи школи, помсту свідку та переслідування.
На тлі подібних ситуації зрозумілим є рішення OpenAI не надавати у публічне використання свою платформу ШІ для перетворення тексту в голос Voice Engine. Послуга, яка потребує лише 15-хвилинного аудіозапису, щоб клонувати чийсь голос, доступна лише для обмеженої кількості дослідників через потенційний ризик.
Джерело: The Baltimore Banner