Американські школи почали впроваджувати нові системи безпеки на основі ШІ, але поки вони лише заподіюють шкоди учням.
У середній школі Кенвуд в Балтиморі, штат Мериленд, “безпековий ШІ” сплутав пачку чипсів Doritos в руках учня зі зброєю і викликав поліцію. Офіцери, які прибули на місце, налетіли на 16-річного школяра Такі Аллена під час футбольного тренування і деякий час тримали під дулом пістолета.
Зі слів підлітка, його агресивно кинули на землю і травмували, причому як фізично, так і морально. Хоча Аллен каже, що адміністрація школи навіть не поцікавилась його самопочуттям після інциденту і не перепросила за помилку ШІ.
“У той момент я не почувався у безпеці. Мені здавалось, що школа насправді не піклується про мене, бо після того до мене ніхто не підійшов, директор в тому числі. Я думав, що мене вб’ють”, — каже Аллен. “Потім мені показали фото і сказали, що там є щось схоже на пістолет. Я заперечив, бо це була звичайна пачка чипсів”.
Нова система безпеки використовує ШІ, щоб розпізнавати підозрілі дії чи предмети на відео з камер спостереження і за потреби сповіщає охоронців школи й поліцію. Програму розробила компанія Omnialert, яка у заяві визнала помилку, зазначивши, що пакет “аж занадто нагадував зброю”, і пообіцяла проаналізувати інцидент для підвищення точності системи.
Державні школи Балтимора надіслали батькам листи з відповіддю Omnilert і зазначили, що організують для учнів консультації з приводу роботи системи. Але сам Такі тепер побоюється повертатись до навчального закладу:
“Мені більше не хочеться туди йти. Якщо я візьму з собою ще один пакет чипсів чи напій, мені здається, що поліція мене схопить знову”.
Раніше ми писали, що жительку США арештували після невдалого ШІ-розіграшу — вона надіслала фото з “крадієм” чоловіку, а той викликав поліцію.
Працівник Міненерго США завантажив 187 000 еротичних фото на робочі сервери для “навчання ШІ”
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: