Разработчики социальной сети Instagram анонсировали две новые функции, нацеленные на борьбу с оскорблениями и травлей в интернете.
В основе первой лежит защитный механизм на основе системы искусственного интеллекта, отвечающий за анализ содержимого комментария на предмет наличия в нем нежелательных и оскорбительных высказываний. Функция будет предупреждать пользователей перед публикацией комментария, что он может быть воспринят как оскорбительный, тем самым стимулируя изменить формулировку и некоторые резкие высказывания на более мягкие. В Instagram отметили, что функция отлично показала себя на этапах предварительного тестирования, зачастую предупреждения приводили к желательному эффекту: пользователи меняли формулировку на менее обидную или вообще не отправляли комментарий. С помощью этого механизма руководство Instagram надеется снизить количество оскорбительных комментариев в лентах и в целом улучшить атмосферу соцсети. Компания уже приступила к внедрению этого механизма и в ближайшее время он станет доступен пользователям по всему миру.
Вторая функция носит говорящие название Restrict (ограничить). Она позволяет скрывать неприятные и злобные высказывания отдельных пользователей, не вызывая у последних каких-либо подозрений. По сути, это своего рода вариация на тему черного списка. Комментарии людей, которых «изолирует» пользователь, будут видны только им самим. Кроме того, «изгои» не смогут узнать, когда пользователь находится в сети и прочел ли он личные сообщения.
В Instagram считают, что эта функция будет полезна в особо деликатных случаях, когда блокировка или жалобы могут только обострить отношения в реальной жизни. В ближайшее время Instagram начнет предварительное тестирование функции. Когда она появится у всех пользователей, пока неизвестно.
Источник: Instagram