ШІ-система безпеки сплутала учня зі зловмисником, бо запідозрила, що чипси в його руках — це прихована зброя. Фото: WBFF FOX45 Baltimore
Американские школы начали внедрять новые системы безопасности на основе ИИ, но пока они лишь причиняют вред ученикам.
В средней школе Кенвуд в Балтиморе, штат Мэриленд, «безопасный ИИ» спутал пачку чипсов Doritos в руках ученика с оружием и вызвал полицию. Прибывшие на место офицеры налетели на 16-летнего школьника Таки Аллена во время футбольной тренировки и некоторое время держали под дулом пистолета.
По словам подростка, его агрессивно бросили на землю и травмировали, причем как физически, так и морально. Хотя Аллен говорит, что администрация школы даже не поинтересовалась его самочувствием после инцидента и не извинилась за ошибку ИИ.
«В тот момент я не чувствовал себя в безопасности. Мне казалось, что школа на самом деле не заботится обо мне, потому что после этого ко мне никто не подошел, директор в том числе. Я думал, что меня убьют», — говорит Аллен. «Потом мне показали фото и сказали, что там есть что-то похожее на пистолет. Я возразил, потому что это была обычная пачка чипсов».
Новая система безопасности использует ИИ, чтобы распознавать подозрительные действия или предметы на видео с камер наблюдения и при необходимости оповещает охранников школы и полицию. Программу разработала компания Omnialert, которая в заявлении признала ошибку, отметив, что пачка «слишком напоминала оружие», и пообещала проанализировать инцидент для повышения точности системы.
Государственные школы Балтимора разослали родителям письма с ответом Omnilert и отметили, что организуют для учеников консультации по поводу работы системы. Но сам Таки теперь побаивается возвращаться в учебное заведение:
«Мне больше не хочется туда идти. Если я возьму с собой еще один пакет чипсов или напиток, мне кажется, что полиция меня схватит снова».
Ранее мы писали, что жительницу США арестовали после неудачного ИИ-розыгрыша — она прислала фото с «вором» мужу, а тот вызвал полицию.
Контент сайту призначений для осіб віком від 21 року. Переглядаючи матеріали, ви підтверджуєте свою відповідність віковим обмеженням.
Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-06029.