На ITC.ua Неделя ИИ. Мы исследуем, как именно ИИ улучшает жизнь миллионов людей прямо сейчас и что ждет нас в будущем. Партнер проекта – компания Favbet Tech, которая активно интегрирует ИИ в свои продукты.
В минувшую пятницу в Верховный суд округа Лос-Анджелес против TikTok был подан иск, в котором сервис и его материнская компания обвиняются в халатности и распространении некачественного продукта. Он, якобы, продвигает опасные тенденции и не предлагал детям и родителям адекватных функций безопасности, что привело к смерти двух девочек. Юридическую помощь пострадавшим семьям оказывает компания Social Media Victims Law Center.
Истории 8-летней Лалани Эрики Уолтон (Техас) и 9-летней Арриани Джайлин Арройо (Милуоки) очень похожи. Обе девочки хотели стать «популярными в TikTok», выкладывая на платформу ролики со своими танцами и пением. Как говорится в иске, в какое-то время алгоритмы TikTok начали предлагать девочкам видео с Blackout Challenge. Это своеобразный вызов, участники которого записывают видео с самоудушением, вплоть до потери сознания, и предлагают зрителям повторить это действие.
В июле 2021 года Лалани начала видеть ролики с Blackout Challenge. В середине этого месяца у неё на шее появились синяки, но она пояснила родителям, что они возникли в результате падения. Вскоре после этого Лалани с мачехой длительное время провели в машине, а после возвращения домой мачеха задремала. Когда проснулась и пошла в спальню Лалани, то обнаружила девочку «висящей на кровати с веревкой на шее». Полиция после изучения телефона и планшета Лалани сообщила, что девочка смотрела видео с Blackout Challenge «на повторе».
Лалани «была убеждена, что если она опубликует видео о том, как она участвует в Blackout Challenge, то она станет знаменитой», — говорится в иске. Но молодая девушка «не оценила и не поняла опасный характер того, что TikTok поощрял её делать».
Арриани также любила публиковать видео с песнями и танцами на TikTok и «постепенно стала одержима» приложением. 26 февраля 2021 года отец Арриани работал в подвале, а дети играли в её комнате. В какое-то время младший брат Эдвардо спустился в подвал к отцу и сказал, что Арриани не двигается. Тот бросился наверх, чтобы проверить девочку, он обнаружил, что его дочь «висит на поводке семейной собаки». Арриани срочно доставили в больницу и подключили к аппарату искусственной вентиляции легких, но было слишком поздно. К тому времени мозг девочки перестал функционировать, и в конце концов её отключили от системы жизнеобеспечения.
Лалани и Арриани — не первые дети, погибшие во время попытки повторить Blackout Challenge. 10-летняя Найла Андерсон случайно повесилась в доме своей семьи, пытаясь подражать этой тенденции. Сообщается, что ряд других детей в возрасте от 10 до 14 лет умерли при аналогичных обстоятельствах, пытаясь выполнить Blackout Challenge.
Хотя платформы социальных сетей уже давно обвиняются в размещении социально вредного контента, федеральный закон под названием Section 230 затрудняет подачу иска против самих платформ. В соответствии с Section 230, приложения и веб-сайты могут свободно размещать пользовательский контент и модерировать его по своему усмотрению, не беспокоясь, что на них могут подать в суд. Но в данном иске юристы пытаются обойти Section 230, представив смерть из-за Blackout Challenge как недостаток архитектуры продукта, а не модерации контента. TikTok обвиняют в разработке алгоритмически курируемого продукта для социальных сетей, из-за которого Лалани и Арриани столкнулись с опасной тенденцией. Как говорится в жалобе: истцы «утверждают, что TikTok несёт ответственность не за то, что сказали или сделали третьи лица, а за то, что TikTok сделал или не сделал».
Источник: latimes
Favbet Tech — украинская продуктовая компания, разработчик iGaming-решений. Входит в топ-50 крупнейших IT-компаний Украины по версии DOU. Специализируется на высоконагруженных системах, облачной инфраструктуре и искусственном интеллекте. В 2025 году стала инициатором создания АИ-комитета Ассоциации «ИТ Ukrainе» — первого отраслевого объединения, занимающегося вопросами развития АИ на уровне бизнеса и государства.
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: