Новости Софт 08.06.2023 в 11:11 comment views icon

Алгоритмы Instagram рекомендуют страницы, распространяющие контент с педофилией – The Wall Street Journal

author avatar
https://itc.ua/wp-content/uploads/2022/09/Katya-96x96.jpg *** https://itc.ua/wp-content/uploads/2022/09/Katya-96x96.jpg *** https://itc.ua/wp-content/uploads/2022/09/Katya-96x96.jpg

Катерина Даньшина

Автор новостей

Издание The Wall Street Journal в сотрудничестве с учеными Стэндфордского и Массачусетского университетов исследовало систему рекомендаций в Instagram, которая, как оказалось, продвигает контент с педофилией.

Учетные записи, которые обнаружили исследователи, рекламировали себя с помощью достаточно откровенных хештегов, таких, как #pedowhore, #preteensex и #pedobait, и предлагали поделиться контентом, включающим видео и изображения педофилии или зоофилии.

После просмотра этих страниц Instagram сразу рекомендовал тестовому аккаунту исследователей подписаться на несколько похожих учетных записей:

«Если следовать нескольким этим рекомендациям – тестовый аккаунт полностью заполняется контентом, который сексуализирует детей», – пишет WSJ.

Meta в ответ заявила, что создает внутреннюю оперативную группу по решению вопросов, затронутых в ходе расследования.

«Эксплуатация детей – это ужасное преступление. Мы постоянно исследуем способы активной защиты от такого поведения», – заявили в компании.

Согласно отчету Meta только в январе было удалено 490 000 учетных записей, которые нарушали ее политику по безопасности детей, а за последние два года изъято около 27 сетей аккаунтов, распространявших педофилию. Также заблокированы тысячи хештегов, связанных с сексуализацией детей, и ограничены такие запросы для использования в поиске.

Алекс Стамос – ныне глава Стэндфордской интернет-обсерватории, а в прошлом руководитель службы безопасности Meta – говорит, что компания должна усилить работу по устранению таких проблем:

Курс QA Manual (Тестування ПЗ мануальне) від Powercode academy.
Навчіться знаходити помилки та контролювати якість сайтів та додатків.
Записатися на курс

«То, что команда из трех ученых с ограниченным доступом может найти такую огромную сеть, должно вызвать тревогу у Meta. Я надеюсь, что компания снова инвестирует в людей-модераторов».

В то же время, соцсеть часто игнорировала или отклоняла сообщения об обнаружении материалов с жестоким обращением с детьми. В одном из случаев жалобу отправили на аккаунт, рекламировавший публикацию с подписью «этот подросток ждет вас, извращенцы». В ответ Instagram отправил автоматическое сообщение:

«Из-за большого количества обращений наша команда не смогла просмотреть эту публикацию».

Исследование не обошло вниманием и другие соцсети, однако платформы Meta в этом случае продемонстрировали наибольшее количество нарушений. По данным WSJ, в Twitter было обнаружено 128 аккаунтов, которые продавали материалы о сексуальном насилии над детьми; в TikTok такой контент не распространялся, а Snapchat «не активно рекламировал такие сети» (поскольку он в основном используется для прямого обмена сообщениями).

Главный технолог Стэндфордской интернет-обсерватории Дэвид Тиль говорит, что Instagram просто «не находит правильного баланса между системами рекомендаций, разработанными для привлечения пользователей, и функциями безопасности, которые проверяют и удаляют опасный контент».

Twitter скрывает «чувствительный контент»: соцсеть автоматически помечает украинцев, часто пишущих о войне, и отправляет их в «теневой бан»

Продолжается конкурс авторов ИТС. Напиши статью о развитии игр, гейминг и игровые девайсы и выигрывай профессиональный игровой руль Logitech G923 Racing Wheel, или одну из низкопрофильных игровых клавиатур Logitech G815 LIGHTSYNC RGB Mechanical Gaming Keyboard!


Loading comments...

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: