Рубрики НовостиСофт

Google создает бесплатный инструмент для борьбы с террористическим контентом в небольших соцсетях. Первые два сайта начнут тестирование в 2023 году

Опубликовал
Катерина Даньшина

Google Jigsaw разрабатывает бесплатный инструмент, который поможет небольшим веб-сайтам обнаруживать и удалять экстремистские материалы.

Проект, разработанный при поддержке организации Tech Against Terrorism, упрощает работу команд модераторов с потенциально незаконным содержимым. Эти усилия также осуществляются при поддержке Глобального интернет-форума по противодействию терроризму (основанному Google, Meta, Microsoft и Twitter), который также предлагает межсервисную базу данных о террористических объектах.

Два сайта, которые в сообщении не называют, начнут тестировать инструмент позже в 2023 году.

Инструмент Google в первую очередь предназначен для помощи сайтам, которые не могут позволить себе разработку алгоритмов обнаружения вредоносного контента с помощью ИИ или нанять большой штат модераторов. Технология может быть полезна и для соблюдения Закона ЕС о цифровых услугах и законопроекта о безопасности в Интернете, который сейчас рассматривают в Великобритании — оба будут требовать от операторов сайтов удалять экстремистский контент, иначе их ожидает наказание.

Кіноклуб "Забагато драми" від Skvot.
10 лекцій та 10 практикумів, щоб зрозуміти мистецтво кіномови.Сформуй власний смак та бібліотеку фільмів і навчись писати рецензії.
Програма кіноклубу

И Google и Tech Against Terrorism считают свой проект необходимым для устранения пробелов в противодействии террористической деятельности в Интернете. Экстремисты и дезинформаторы, созданные на основных платформах, часто переходят на меньшие ресурсы, у которых не всегда есть возможность полноценно следить за контентом. В идеале это уменьшит шансы террористов найти себе «убежище».

У нового инструмента есть ограничения: некоторые социальные платформы не желают модерировать содержимое (даже если операторы приложений утверждают, что оно подстрекает к насилию), поэтому для них технология Google не будет особенно полезна. Он также не помешает террористам делиться материалами через хорошо зашифрованные службы обмена сообщениями или Даркнет, где провайдеры не могут легко следить за трафиком данных.

Ранее Meta представила свою программу с открытым кодом Hasher-Matcher-Actioner (HMA), которая может обнаруживать террористический или другой вредоносный контент.

Источник: Engadget

Disqus Comments Loading...