Компания Facebook задействует технологии искусственного интеллекта в рамках программы по профилактике самоубийств среди пользователей. Предполагается, что благодаря этому модераторы социальной сети смогут узнать о возможных суицидальных мыслях пользователя первыми — еще до того, как родные заподозрят неладное. Об этом заявил основатель Facebook Марк Цукерберг.
Как сообщается, система будет отслеживать «признаки суицидальных намерений» в публикациях пользователей, их комментариях и трансляциях в Facebook Live. Кроме этого, индикаторами, которые привлекут внимание программы, будут выступать такие вопросы в комментариях, как «У тебя все в порядке?» и «Я могу помочь?».
Если ИИ посчитает мысли пользователя суицидальными — тревожный «звоночек» получат специально-обученные модераторы, «работающие 24/7 по всему миру», которые должны будут проверить информацию. В случае необходимости они смогут оказать психологическую помощь, а также сообщить номер линии поддержки или передать информацию «другу». В некоторых случаях, если модераторы посчитают ситуацию серьезной — родные и друзья получат оповещение об угрозе, а в еще более серьезных случаях сведения о возможном суициде будут доноситься до местных властей и правоохранительных органов. При этом отключить функцию «слежки» пользователи не смогут.
Отмечается, что ранее программа была протестирована на территории США, и в ближайшее время ее запустят за пределами Штатов. Исключение составят лишь страны ЕС, где алгоритмы не смогут работать из-за местных законов о конфиденциальности.
По словам Цукерберга, только за прошлый месяц в рамках тестирования ИИ помог обнаружить около 100 человек, нуждающихся в психологической помощи.
«Пока многие рассказывают о том, как ИИ может навредить человечеству в будущем, хорошо напомнить себе, как ИИ фактически помогает спасать жизни людей сегодня. Если мы сможем задействовать технологии искусственного интеллекта, чтобы помочь людям быть рядом с их семьей и друзьями, это станет важным и позитивным шагом вперед», — сказал Марк Цукерберг.
Он также добавил, что в будущем ИИ, распознавая многие другие лингвистические нюансы, научится выявлять и другие проблемы, помимо мыслей о суициде, например, издевательства и ненависть.
Напоследок отметим, что на сегодняшний день информация об опасных мыслях поступала модераторам Facebook от друзей и родственников возможного самоубийцы, которые просили службу поддержки о помощи. По словам Цукерберга, суицид является одной из наиболее распространенных причин смерти среди подростков, и использование технологий ИИ выступает новым подходом в профилактике самоубийств.
Источники: аккаунт Марка Цукерберга в Facebook, The Verge