Блоги
Facebook задействует технологии ИИ для обнаружения потенциальных самоубийц среди пользователей

Facebook задействует технологии ИИ для обнаружения потенциальных самоубийц среди пользователей

Facebook задействует технологии ИИ для обнаружения потенциальных самоубийц среди пользователей


Компания Facebook задействует технологии искусственного интеллекта в рамках программы по профилактике самоубийств среди пользователей. Предполагается, что благодаря этому модераторы социальной сети смогут узнать о возможных суицидальных мыслях пользователя первыми — еще до того, как родные заподозрят неладное. Об этом заявил основатель Facebook Марк Цукерберг.

Как сообщается, система будет отслеживать «признаки суицидальных намерений» в публикациях пользователей, их комментариях и трансляциях в Facebook Live. Кроме этого, индикаторами, которые привлекут внимание программы, будут выступать такие вопросы в комментариях, как «У тебя все в порядке?» и «Я могу помочь?».

Если ИИ посчитает мысли пользователя суицидальными  тревожный «звоночек» получат специально-обученные модераторы, «работающие 24/7 по всему миру», которые должны будут проверить информацию. В случае необходимости они смогут оказать психологическую помощь, а также сообщить номер линии поддержки или передать информацию «другу». В некоторых случаях, если модераторы посчитают ситуацию серьезной родные и друзья получат оповещение об угрозе, а в еще более серьезных случаях сведения о возможном суициде будут доноситься до местных властей и правоохранительных органов. При этом отключить функцию «слежки» пользователи не смогут.

Отмечается, что ранее программа была протестирована на территории США, и в ближайшее время ее запустят за пределами Штатов. Исключение составят лишь страны ЕС, где алгоритмы не смогут работать из-за местных законов о конфиденциальности.

По словам Цукерберга, только за прошлый месяц в рамках тестирования ИИ помог обнаружить около 100 человек, нуждающихся в психологической помощи.

«Пока многие рассказывают о том, как ИИ может навредить человечеству в будущем, хорошо напомнить себе, как ИИ фактически помогает спасать жизни людей сегодня. Если мы сможем задействовать технологии искусственного интеллекта, чтобы помочь людям быть рядом с их семьей и друзьями, это станет важным и позитивным шагом вперед»,  сказал Марк Цукерберг.

Он также добавил, что в будущем ИИ, распознавая многие другие лингвистические нюансы, научится выявлять и другие проблемы, помимо мыслей о суициде, например, издевательства и ненависть.

Напоследок отметим, что на сегодняшний день информация об опасных мыслях поступала модераторам Facebook от друзей и родственников возможного самоубийцы, которые просили службу поддержки о помощи. По словам Цукерберга, суицид является одной из наиболее распространенных причин смерти среди подростков, и использование технологий ИИ выступает новым подходом в профилактике самоубийств.

Источники: аккаунт Марка Цукерберга в Facebook, The Verge

  • Ранее мы писали, что по лайкам в Facebook можно узнать сексуальную ориентацию и IQ, а по постам в Twitter – характер и склонность к инфаркту.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: