Около двух лет назад в социальной сети Facebook появилась функция Safety Check. Она предназначена для уведомления друзей и родственников в случае стихийного бедствия. Когда система обнаруживает, что пользователь находится поблизости от стихийного бедствия, она выдаст запрос: «Вы в безопасности?». Пользователь сможет ответить, что с ним все хорошо, нажав кнопку «Я в безопасности». Тем самым он уведомит своих друзей и родственников, что им нечего переживать о его благополучии. Но в этой функции могут случаться сбои.
По данным The Verge, соцсеть оказалась одурачена собственными алгоритмами и активировала функцию Safety Check в Бангкоке (Таиланд) после появления ложных сообщений о взрыве. В результате, пользователи Facebook в Бангкоке получили запросы «Вы в безопасности?» с малым количеством информации о взрыве – без уточнения времени и места происшествия. Функция Safety Check активировалась около 9 вечера по местному времени, и через час была выключена. Фактически, она сработала из-за сообщений о взрыве, которые ссылались на новость в Bangkok Informer, касающейся инцидента 2015 года.
Как пояснили в Facebook, активируя Safety Check, соцсеть в первую очередь полагается на сведения из достоверных сторонних источников, чтобы подтвердить инцидент, и лишь потом – на сообщество пользователей. После этих проверок активируется Safety Check. По данным BBC, в столице Таиланда действительно имел место инцидент, когда человек бросил петарду размером с мяч для пинг-понга в здание правительства. Именно это происшествие и спровоцировал активацию Safety Check.
И хотя взрывов при этом не наблюдалось, страница этого события в Safety Check была озаглавлена как «Взрыв в Бангкоке». Кроме того, на странице не было ссылок на фактическое описание этого конкретного события. Вместо этого было размещено три ссылки. Две из них вели на материалы, описывающие события 2015 года, когда действительно имел место взрыв. Ещё одна ссылка вела на запись в блоге, заголовок которой можно перевести следующим образом: «Очень раздражает, когда твой друг выкапывает новости о взрыве, который произошел год назад, чтобы поделиться на Facebook».
Facebook проводит расследование, чтобы понять, как эти несвязанные ссылки оказались на странице события Safety Check.
Добавим, в ноябре Facebook анонсировала изменения в работе функции Safety Check. Алгоритмы её активации начали учитывать трендовые записи пользователей в определённой местности. При этом разработчики заверяли, что алгоритмы также используют ПО для проверки фактов перед активацией функции, что исключает ложные срабатывания.
Сбои в работе Safety Check случались и ранее. Например, в марте этого года запросы о безопасности получили пользователи в США, Великобритании и ряде других стран, хотя фактически инцидент произошёл в Пакистане.
Источник: The Verge