Исследователи искусственного интеллекта иногда называют технологию машинного обучения «хрупкой». Под этим они подразумевают, что искусственному интеллекту порой не хватает человеческого понимания сложностей реального мира. В результате, иногда системы ИИ функционируют не так, как задумывалось.
Примером такой «хрупкости» технологии может служить недавний сбой в работе системы ИИ, ответственной за работу камеры спортивного состязания. Когда из-за пандемии болельщики перестали посещать футбольные матчи, шотландская футбольная команда Inverness Caledonian Thistle FC решила транслировать свои игры в прямом эфире. Для этого было решено использовать автоматическую систему камеры со «встроенным ИИ и технологией отслеживания мяча».
Но во время недавних прямых трансляций матчей ИИ-оператор камеры неоднократно путал лысину судьи с мячом. Подборка таких моментов с музыкальным сопровождением представлена в следующем видео. Судя по всему, проблема заключается в работе алгоритмов камеры. Лысая голова и мяч имеют очень похожую форму и размеры, и при солнечном свете алгоритмы путают эти предметы.
Человек не сделал бы такую ошибку. Но для систем машинного обучения с ограниченным пониманием как футбольных мячей, так и человеческой анатомии, это допустимая ошибка. И хотя эта конкретная ошибка получилась достаточно забавной, такого рода сбои могут случиться с любой системой ИИ. В частности, этот пример похож на некоторые ошибки, допущенные системами самоуправляемых автомобилей, которые привели к фатальным авариям. В одном из случаев «автопилот» электромобиля Tesla не смог различить белый кузов грузовика и небо.
Источник: The Verge
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: