Технологія Deepfake вже деякий час здатна створювати реалістичні зображення людей та їхні голоси, однак з розвитком генеративного штучного інтелекту відрізнити фейк від реальності стає все складніше.
А що як технологія дозволить шахраям захоплювати екрани наших пристроїв і спустошувати банківські рахунки? Це цілком реально, тому паралельно почав розвиватися ринок інструментів для виявлення глибоких фейків.
Ці інструменти так само покладаються на штучний інтелект, виявляючи ознаки того, що контент підроблений — на основі розуміння процесу створення цих дипфейків. Наприклад, якщо фейкова фотографія — то на ній можна виявити невідповідності в освітленні, тінях чи кутах; елементи спотворення та розмиття зображення.
Як повідомляє ExpressVPN, станом на 2019 рік в Інтернеті було виявлено менш як 15 000 дипфейків, а сьогодні ця цифра обчислюється мільйонами. А за даними Всесвітнього економічного форуму кількість дипфейків продовжує зростати щорічно на 900%.
Згідно з опитуванням Regula, близько 80% компаній заявили, що дипфейки становлять реальну загрозу для їхніх операцій, і майже половина — нещодавно стикалися з такого роду шахрайством.
«Підприємства повинні розглядати дипфейки як наступне покоління проблем кібербезпеки. Ми практично розв’язали питання конфіденційності та доступності, тепер мова йде про автентичність», — каже Метью Мойнахан, виконавчий директор постачальника системи автентифікації OneSpan.
У червневому звіті компанії з кібербезпеки та керування ідентифікацією й доступом Transmit Security йдеться про те, що створені ШІ дипфейки вже можна використовувати для обходу біометричних систем безпеки, таких, як системи розпізнавання облич, та для створення фальшивих посвідчень особи. Чатботів можна запрограмувати на імітацію довіреної особи або представника служби підтримки клієнтів, обманом змушуючи людей передавати цінну особисту інформацію для використання в інших атаках.
Торік ФБР повідомило про зростання кількості скарг на використання дипфейків у випадках викрадення особистої інформації під час подання заявок на роботу по віддаленим вакансіям.
Один зі способів боротьби з крадіжкою посвідчень — використання так званої «поведінкової біометрії», яка аналізує взаємодії споживача з пристроєм та порівнює їх із заздалегідь визначеним профілем користувача або «поведінковим відбитком».
Але існує ризик контратак, і глибокі фейки, створені ШІ, можуть бути досить успішними у цьому. Створюючи підроблені дані або маніпулюючи шаблонами, на яких навчилися моделі штучного інтелекту (метод, відомий як «змагальні атаки»), шахраї можуть обманом змусити алгоритми класифікувати шахрайську діяльність як законну.
Решта методів боротьби з крадіжкою особистих даних включає багатофакторну автентифікацію та інструменти оцінки пристрою. Деякі компанії вимагають від користувачів зняти коротке відео про себе для підтвердження особи. Технологія використовується, щоб «пересвідчитися, що на відео є людські рухи — наприклад моргання чи посмикування рота»; далі компанія перевіряє, чи отримала відео у реальному часі.
Водночас більшість державних департаментів праці США все ще покладаються лише на розпізнавання облич.
«На цей час майже весь уряд США викритий», — каже Гейвуд Талков, виконавчий директор урядової групи LexisNexis Risk Solutions.
Джерело: FT
