Компанія Google Jigsaw розробляє безплатний інструмент, який допоможе невеликим вебсайтам виявляти та видаляти екстремістські матеріали.
Проєкт, розроблений за підтримки організації Tech Against Terrorism, спрощує роботу команд модераторів із потенційно незаконним вмістом. Ці зусилля також здійснюються за підтримки Глобального інтернет-форуму з протидії тероризму (заснованого Google, Meta, Microsoft і Twitter), який пропонує міжсервісну базу даних про терористичні об’єкти.
Два сайти, які у повідомленні не називають, розпочнуть тестувати інструмент пізніше у 2023 році.
Інструмент Google у першу чергу призначений для допомоги сайтам, які не можуть дозволити собі розробку алгоритмів виявлення шкідливого контенту за допомогою ШІ чи найняти великий штат модераторів. Технологія може бути корисною й для дотримання Закону ЄС про цифрові послуги та законопроєкту про безпеку в Інтернеті, який нині розглядають у Великій Британії — обидва вимагатимуть від операторів сайтів видаляти екстремістський контент, інакше на них очікує покарання.
І Google, і Tech Against Terrorism вважають свій проєкт необхідним для усунення прогалин у протидії терористичній діяльності в Інтернеті. Екстремісти та дезінформатори, створені на основних платформах, часто переходять на менші ресурси, у яких не завжди є можливість повноцінно стежити за контентом. В ідеалі це зменшить шанси терористів знайти собі “притулок”.
Новий інструмент має обмеження: деякі соціальні платформи не бажають модерувати вміст (навіть якщо оператори застосунків стверджують, що він підбурює до насильства) — тож для них технологія Google не буде особливо корисною. Він також не завадить терористам ділитися матеріалами через добре зашифровані служби обміну повідомленнями або Темну мережу, де провайдери не можуть легко стежити за трафіком даних.
Раніше Meta представила власну програму з відкритим кодом Hasher-Matcher-Actioner (HMA), яка може виявляти терористичний чи інший шкідливий контент
Джерело: Engadget