Распространение неправдивой информации в сетях не является чем-то новым, но благодаря российской пропаганде данное явление приобрело неконтролируемый характер. В своей статье “Как Мета не справилась с модерацией пропаганды во время вторжения россии в Украину” агентство Reuters проанализировало, насколько несвоевременными и запоздалыми являются попытки Мета пресечь российские фейки.
Атаки на роддом “не было”
Через несколько дней после обстрела роддома и детской больницы в Мариуполе 9 марта модераторы Facebook и Instagram отметили резкий рост количества комментариев, в которых утверждалось, что атаки не было.
Как заявил впоследствии президент Украины Владимир Зеленский, в результате обстрела погибли по крайней мере три человека, включая ребенка. Фото окровавленных женщин на крайних сроках беременности, бегущих через груды обломков, вызвали волну возмущения во всем мире.
Марьяна Вышемирская, украинский эксперт в области моды и красоты, была одной из этих женщин. Фотографии, на которых она спускается в пижаме в горошек по полуразрушенным ступенькам, сделанные фотографом Associated Press, облетели тогда все новостные ленты.
Однако вскоре слова поддержки сменились нападками на ее аккаунт в Instagram. Об этом Reuters рассказали двое модераторов контента на Facebook и Instagram, которые пожелали остаться анонимными. При этом они сослались на договор о неразглашении, который запрещает им публично обсуждать свою работу.
По их словам случай с Марьяной Вышемирской лишь один из примеров того, как контентная политика и механизмы правоприменения Meta позволили россиянам беспрепятственно распространять пропаганду во время войны в Украине.
“Тщательно срежиссированная мистификация”
Пытаясь убедить всех в том, что атака была инсценирована, российские официальные власти разместили фото Марьяны из роддома рядом с ее гламурными фото в Instagram. На гостелевидении, в соцсетях и в совбезе ООН российские представители утверждали, что Вышемирская участвовала в тщательно срежиссированной мистификации, организованной украинскими военными. Для этого она, по их версии, специально наложила грим и облачилась в соответствующую одежду.
По словам модераторов, под старыми постами в Instagram, где она позировала с наборами для макияжа, появились сотни комментариев, обвиняющих автора в двуличии и актерской игре. Комментарии с ложными обвинениями в адрес женщины составляли большую часть контента одного из модераторов, который занимался постами, нарушающими политику Meta.
«Посты были гнусными по содержанию и, похоже, писались по единому шаблону”, — заявил модератор. “Но многие из них были в рамках правил компании. В них не было прямого упоминания об атаке и я ничего не мог с ними поделать», — сказал он.
Reuters не удалось связаться с Вишемирской.
Meta отказалась комментировать свои действия в отношении Вишемирской. Однако в своем официальном заявлении руководство компании сообщило о том, что этим вопросом сейчас занимается несколько групп ее сотрудников.
«У нас есть отдельные экспертные группы и нанятые партнеры, которые проверяют дезинформацию и неаутентичное поведение. Мы опираемся на свою политику для решительного противодействия подобным проявлениям во время войны», — говорится в заявлении.
В среду Ник Клегг, глава отдела политики Metа, сообщил журналистам о том, что компания рассматривает новые шаги для борьбы с дезинформацией и мистификациями, которые распространяются с российских правительственных страниц. При этом он не уточнил, о каких именно шагах идет речь.
Ни Министерство цифрового развития, связи и массовых коммуникаций россии, ни пресс-служба кремля не ответили на наши просьбы прокомментировать данную ситуацию.
Представители Украины также проигнорировали нашу просьбу о комментарии.
В духе корпоративной политике
В центре модерации Meta работают нескольких сотен человек, занимающихся Восточной Европой. Именно они модерируют контент, связанный с войной в Украине. Также этим занимаются десятки тысяч низкооплачиваемых работников аутсорсинговых фирм по всему миру, с которыми у Meta подписаны контракты о сотрудничестве.
Технологический гигант стремится позиционировать себя как беспристрастного арбитра, регулирующего вопросы свободы слов онлайн во время российского вторжения. Вторжения, которое Россия называет «спецоперацией по демилитаризации и денацификации Украины”.
Всего через несколько дней после начала войны Meta ввела ограничения для российских государственных СМИ. Также сотрудники компании удалили сеть фейковых аккаунтов, которые, по их мнению, пытались подорвать доверие к украинскому правительству.
Позже компания заявила об удалении еще одной российской сети ботов, которая занималась распространением дезинформации, разжиганием ненависти и запугиванием. Также были пресечены попытки ранее удаленных сетей вернуться на платформу.
Параллельно с этим компания попыталась предоставить больше возможностей для пользователей из Украины. В частности, им позволили выражать свой гнев по поводу российского вторжения и призывать к оружию. Обычно Мета этого не разрешает.
В Украине и 11 других странах Восточной Европы и Кавказа компания ввела ряд временных исключений из правил, запрещающих разжигание ненависти, призывы к насилию и т.д. Для модераторов были созданы инструкции, согласно с которыми они должны были следить за выполнением общих принципов этих правил и избегать их буквальной трактовки.Например, разрешались «дегуманизирующие” высказывания в адрес российских солдат и призывы к смерти путина и лукашенко. При этом призывы к смерти не должны быть руководством к действию или содержать дополнительные цели.
Из-за этих изменений Meta столкнулась с давлением как со стороны своего персонала, так и Москвы. Против нее было возбуждено уголовное дело после того, как 10 марта Reuters опубликовал материал о введении ограничений против российских государственных аккаунтов. Россия также запретила Facebook и Instagram на своей территории, а российский суд обвинил Мету в «экстремистской деятельности».
После сообщения Reuters Meta ограничила рекомендации только Украиной, а затем вообще отменила одно из них. Об этом Reuters узнала из публичных заявлений Meta и интервью с двумя сотрудниками Meta, двумя модераторами в Европе и третьим модератором, обрабатывающим англоязычный контент в одном из регионов, где отображались эти рекомендации.
Документы дают редкую возможность узнать о том, как Meta интерпретирует свои правила, называемые стандартами сообщества. Сама компания утверждает, что ее система нейтральна и основана на правилах.
Meta критикуют за то, что она часто реагирует на ситуацию, руководствуясь не столько принципами сообщества, сколько соображениями ведения бизнеса и цикличностью новостей. В этом ее упрекали и во время войн в Мьянме, Сирии и Эфиопии. Исследователи социальных сетей утверждают, что подобный подход позволяет компании избежать ответственности за то, как ее политика повлияет на 3,6 миллиарда ее пользователей.
Изменения в инструкции относительно Украины вызвали путаницу и недовольство у модераторов. Сейчас у них есть в среднем 90 секунд, чтобы решить, нарушает ли тот или иной комментарий политику компании. Об этом сообщили по крайней мере три модератора, с которыми удалось пообщаться Reuters.
На следующий день после выхода новости о введении исключений из правил, Ник Клегг, глава отдела политики Meta, заявил, что компания разрешит подобные высказывания только в Украине. Два дня спустя Клегг сообщил сотрудникам о том, что компания полностью отменяет исключение, которое позволяло пользователям призывать к смерти путина и лукашенко. Об этом же шла речь во внутреннем циркуляре компании от 13 марта, который оказался в распоряжении Reuters.
В конце марта компания продлила до 30 апреля оставшиеся исключения, но только для Украины. Согласно ним, украинцам разрешалось размещать комментарии с призывами к насильственным действиям, которые обычно запрещены. Агентство Reuters первым сообщило об этом продлении.
Переписка во внутреннем чате компании, оказавшаяся в распоряжении Reuters, свидетельствует о том, что некоторые сотрудники Meta были недовольны тем, что Facebook позволяет украинцам делать заявления, которые были запрещены для пользователей с Ближнего Востока и других регионов мира во время военных конфликтов там.
«Похоже, такая политика приводит к тому, что язык ненависти и насилия становится нормой. Особенно, если он используется в отношении «разрешенных» людей», — говорилось в одном из 900 комментариев к сообщению об изменениях.
Как сообщили Reuters модераторы Meta, компания не предоставила им никаких разъяснений относительно расширения их полномочий по удалению комментариев, содержащих дезинформацию о вторжении россии (например, отрицание факта гибели мирных жителей).
Компания отказалась комментировать свои указания модераторам.
Отрицаний трагедий
Теоретически, у Meta есть правило, благодаря которому модераторы могли бы удалять комментарии, содержащие ничем необоснованные обвинения в адрес Вышемирской. Кстати, как сообщает Associated Press, она выжила и родила ребенка.
Политика Meta запрещает пользователям размещать” материалы о жестоких трагедиях или жертвах жестоких трагедий, содержащие утверждения о том, что жестокая трагедия не произошла». Meta сослалась на этот пункт правил после удаления комментария посольства россии в Лондоне, в котором содержались ложные утверждения об обстреле роддома в Мариуполе.
По словам модераторов, это правило содержит слишком ограниченные определения, а потому может быть использовано лишь выборочно в отношении комментариев на странице Вышемирской. Посты, в которых прямо утверждалось, что взрыв был инсценирован, подлежали удалению. При этом комментарии типа «вы такая хорошая актриса» считались слишком расплывчатыми и должны были оставаться, даже если подтекст был ясен.
Разъяснения со стороны Meta, позволяющее комментаторам учитывать контекст и следовать духу политики компании, могли бы во многом прояснить ситуацию. Однако Meta отказалась комментировать, применимо ли данное правило к комментариям на странице Вишемирской. В то же время, системы обнаружения Meta никак не реагировали на сообщения с недвусмысленным содержанием.
Согласно данным израильской наблюдательной организации FakeReporter, еще неделю после удаления комментария российского посольства об атаке на роддом похожие сообщения находились по крайней мере на восьми официальных аккаунтах россии в Facebook, включая посольства в Дании, Мексике и Японии.
В одном из них на фотографиях Мариуполя, сделанных Associated Press, был красный ярлык «фейк», В самом комментарии утверждалось, что история с Вишемирской была мистификацией, при этом указывалось на «более чем 500 комментариев от реальных пользователей» на ее аккаунте в Instagram, осуждающих ее за участие в предполагаемой инсценировке.
Представитель компании подтвердил, что сообщения были удалены 16 марта, через несколько часов после того, как Reuters обратилось к компании с соответствующим запросом. Meta отказалась прокомментировать, почему эти комментарии не были замечены ее собственными системами обнаружения.
17 марта Meta назвала Вишемирскую «лицом, получившим публичность без ее на то согласия», Это означало, что модераторы наконец-то могут начать удалять комментарии, соответствующие политике компании в отношении травли и притеснений. Но изменения произошли слишком поздно. Поток сообщений, связанных Вышемирской, уже иссяк.
