На ITC.ua Тиждень ШІ. Ми досліджуємо, як саме ШІ покращує життя мільйонів людей прямо зараз і що чекає нас у майбутньому. Партнер проєкту – компанія Favbet Tech, яка активно інтегрує ШІ у свої продукти.
Видання The Wall Street Journal у співпраці з вченими Стенфордського та Массачусетського університетів дослідило систему рекомендацій в Instagram, яка, як виявилось, просуває контент з педофілією.
Облікові записи, які виявили дослідники, рекламували себе за допомогою доволі відвертих хештегів, таких як #pedowhore, #preteensex і #pedobait, і пропонували поділитись контентом, який включав відео та зображення педофілії чи зоофілії.
Після перегляду цих сторінок Instagram одразу рекомендував тестовому акаунту дослідників підписатись на кілька схожих облікових записів:
«Якщо слідувати лише кільком цим рекомендаціям – тестовий акаунт повністю заповнюється контентом, який сексуалізує дітей», – пише WSJ.
Meta у відповідь заявила, що створює внутрішню оперативну групу для розв’язання питань, порушених у ході розслідування.
«Експлуатація дітей — це жахливий злочин. Ми постійно досліджуємо способи активного захисту від такої поведінки», — заявили в компанії.
Згідно зі звітом Meta лише у січні було видалено 490 000 облікових записів, які порушували її політику щодо безпеки дітей, а за останні два роки загалом вилучено близько 27 мереж акаунтів, які поширювали педофілію. Також заблоковано тисячі хештегів, пов’язаних із сексуалізацією дітей, і обмежено ці терміни для використання у пошуку.
Алекс Стамос – нині голова Стенфордської інтернет-обсерваторії, а у минулому керівник служби безпеки Meta – каже, що компанія має посилити зусилля для усунення таких проблем:
«Те, що команда з трьох науковців з обмеженим доступом може знайти таку величезну мережу, має викликати тривогу в Meta. Я сподіваюся, що компанія знову інвестує в людей-модераторів».
Водночас соцмережа часто ігнорувала або відхиляла повідомлення про виявлення матеріалів із жорстоким поводженням з дітьми. В одному з випадків скаргу надіслали на акаунт, який рекламував публікацію із підписом «цей підліток чекає на вас, збоченці». У відповідь Instagram надіслав автоматичне повідомлення:
«Через велику кількість звернень, наша команда не змогла переглянути цю публікацію».
Дослідження не оминуло увагою й інші соцмережі, однак платформи Meta в цьому випадку продемонстрували найбільшу кількість порушень. За даними WSJ, у Twitter було виявлено 128 облікових записів, які пропонували продавати матеріали про сексуальне насильство над дітьми; у TikTok такий контент не поширювався, а Snapchat «не активно рекламував такі мережі» (оскільки він в основному використовується для прямого обміну повідомленнями).
Головний технолог Стенфордської інтернет-обсерваторії Девід Тіль каже, що Instagram просто «не знаходить правильного балансу між системами рекомендацій, розробленими для залучення користувачів, і функціями безпеки, які перевіряють і видаляють небезпечний контент».
Favbet Tech — українська продуктова компанія, розробник iGaming-рішень. Входить до топ-50 найбільших IT-компаній України за версією DOU.Спеціалізується на високонавантажених системах, хмарній інфраструктурі та штучному інтелекті. У 2025 стала ініціатором створення АІ-комітету Асоціації «ІТ Ukrainе» — першого галузевого об’єднання, що займається питаннями розвитку АІ на рівні бізнесу й держави.
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: