Правоохоронці побоюються, що використання генеративних інструментів для створення контенту із сексуальною експлуатацією дітей, ускладнить пошук реальних жертв і боротьбу з насиллям в усьому світі, пише The Washington Post.
ШІ-програми, відомі як дифузійні моделі, можуть за лічені секунди створити будь-яке зображення за простим запитом, чим активно тепер користуються педофіли. На «спеціалізованих» форумах в даркнеті слідчі виявили тисячі порнозображень дітей, і деякі з них – могли бути реальними жертвами.
«Дитячі фото (включно з реальними жертвами) використовують для створення дійсно жахливого контенту. Ідентифікувати дитину, яка потрапила в небезпеку майже неможливо», – каже Ребекка Портнофф, директорка відділу даних у некомерційній організації з безпеки дітей Thorn.
Водночас є зображення, що використовують на фото дітей, яких не існують у реальності – і це викликало велику дискусію про те, чи порушують їх автори тоді взагалі федеральні закони про захист дітей? У Мін’юсті США відповідають ствердно, хоча жодного реального прикладу обвинувачення не навели.
Такі інструменти як DALL-E, Midjourney і Stable Diffusion використовують мільярди зображень, взятих з інтернету для генерації власних робіт – і деякі, дійсно, включають фото реальних дітей, взятих з фотосайтів чи особистих блогів.
Поява генеративних інструментів збільшила швидкість і масштаби, з якими педофіли можуть створювати нові відверті зображення, оскільки вимагають менше технічних знань, ніж попередні методи (такі як накладення облич дітей на тіла дорослих за допомогою методики «deepfake»), і можуть генерувати одразу багато зображень з одного запиту. Які саме інструменти використовували педофіли для створення зображень, розміщених на форумах, невідомо. Але певно, мова йде про інструменти з відкритим кодом, на кшталт Stable Diffusion, які можна запускати необмежено та без контролю.
Stability AI каже, що забороняє створення зображень сексуального насильства над дітьми, допомагає правоохоронним органам у розслідуванні «незаконного чи зловмисного» використання та видалила усі відверті матеріали зі своїх навчальних даних, зменшуючи «можливість для створення непристойного контенту». Водночас будь-хто зможе завантажити програму на свій комп’ютер, уникаючи правил компанії та контролю.
Ліцензія інструменту з відкритим вихідним кодом просить користувачів не використовувати його «з метою експлуатації або будь-яким чином завдати шкоди неповнолітнім», але основні функції безпеки, зокрема фільтр відвертих зображень, легко можна обійти за допомогою рядків коду, які користувач може додати до програми. Водночас компанія захищає свій підхід з відкритим кодом як важливий для творчої свободи користувачів. Виконавчий директор Stability AI, Емад Мостак, минулого року казав, що «зрештою, це відповідальність людей за те, чи дотримуються вони етики, моралі та закону в тому, як вони використовують цю технологію».
Основні конкуренти Stable Diffusion, DALL-E та Midjourney, забороняють контент сексуального характеру та не надають відкритий вихідний код; їх використання обмежується корпоративними каналами, а всі зображення фіксуються та відстежуються. OpenAI, до прикладу, використовує спостерігачів для забезпечення дотримання своїх правил, і також видалила відвертий контент із навчальних даних свого генератора зображень DALL-E
На форумах в даркнеті користувачі відкрито обговорюють стратегії створення відвертих фотографій і способи обійти фільтри проти порнографії – включно з використанням не англійських мов, які, на їхню думку, менш вразливі для виявлення. На одному з таких порталів із понад 3000 учасників приблизно 80% респондентів нещодавнього внутрішнього опитування сказали, що використовували або мали намір використовувати інструменти штучного інтелекту для створення зображень сексуального насильства над дітьми.
Національний центр зниклих безвісти та експлуатованих дітей, що керує базою даних, яку компанії використовують для позначення та блокування матеріалів з дитячою порнографією, звітує про різке зростання протягом останніх кількох місяців кількості повідомлень про зображення, створені ШІ, а також про людей, які завантажували зображення сексуального насильства над дітьми в ШІ-інструменти, сподіваючись отримати чогось більшого.
ФБР також повідомило цього місяця, що спостерігало збільшення кількості повідомлень про дітей, чиї фотографії були змінені на «зображення сексуальної тематики, які виглядають правдивими». Чиновники кажуть, що сотні федеральних, державних і місцевих правоохоронних органів, які беруть участь у боротьбі з експлуатацією дітей, ймовірно, обговорять цю проблему на національному тренінгу цього місяця.
Деякі групи дослідників вже працюють над технічними способами протистояти цій тенденції – зокрема створенням систем ідентифікації, які могли б вставляти код у зображення, що посилається на їхніх творців.
Favbet Tech – це ІТ-компанія зі 100% українською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологій та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців. IT-компанія входить у групу компаній FAVBET.