Глава Kuna Systems: имеет ли право охранная система на основе ИИ сдать в полицию ее владельца?

Глава Kuna Systems: имеет ли право охранная система на основе ИИ сдать в полицию ее владельца?

Сегодняшние системы охраны в качестве «интеллекта» используют своих хозяев. Именно людям приходится неустанно следить за потоком видео, реагировать на сигналы и самостоятельно идентифицировать подозрительную активность. Охранная компания Kuna Systems разработала одноименное ПО для систем видеонаблюдения, позволяющее перенести анализ угроз на виртуальные «плечи» ИИ.

Как сообщается, Kuna AI работает на сложной нейронной сети, имитирующей работу зрительной коры головного мозга человека. Умные камеры слежения непрерывно следят за всем происходящим вокруг и чутко реагируют на любую потенциально-опасную ситуацию.

«В отличие от других систем видеонаблюдения, Kuna AI представляет собой превентивную систему безопасности. Она сработает еще до того, как кто-то разобьет окно или начнет взламывать дверь», — говорит глава Kuna Systems Хаомяо Хуань.

По заверениям разработчиков, система способна менее чем за секунду понять, что за автомобиль припарковался около дома. Кроме этого, система копит данные о соседях, сервисных службах, доставщиков почты — и если около дома останавливается кто-то из них, то ПО вряд ли забьет тревогу. Но если к дому подойдет человек вышедший из незнакомой машины, и система не узнает его лицо, то владелец дома будет предупрежден, что за дверью незнакомец. 

«Это стандартная практика среди грабителей — позвонить в дверь и проверить, есть ли кто-то дома. Наш ИИ без труда распознает эту ситуацию и либо свяжется с хозяевами, либо сразу включит во дворе сирену и позвонит в полицию», — поясняет Хуань.

Также алгоритм может осуществлять идентификацию человека с целью определить, имеет ли он право брать какие-либо вещи или заходить на территорию дома.

«Главное преимущество наших систем заключается в том, что они способны следить за многими вещами одновременно. Если сейчас вам может быть страшно оставлять свой велосипед перед домом, не пристегивая его и не блокируя, то в будущем все изменится. Умные камеры видеонаблюдения поднимут тревогу, как только неавторизованное лицо посмеет до него дотронуться. Таким образом, дальнейшее повсеместное распространение такого рода устройств сведет к нулю мелкие кражи», — рассказывает Хуань.

Моральные аспекты подобных систем

Интересно, что Хуань, описывая позитивные аспекты Kuna, не постеснялся затронуть и гипотетические неоднозначные моменты использования ИИ-систем, связанные с вопросами этики.

«Очевидно, что основная задача умных камер заключается в том, чтобы не дать преступникам посягнуть на жизнь их владельца, — говорит Хуань. — Но что, если преступление совершается самим владельцем камеры?».

По его мнению, «многие люди согласятся с тем, что в случае, если владелец сам совершает преступление, устройство не должно молчать и также обязано заявить об этом в полицию».

Вместе с тем, Хуань считает, что машина должна уметь разграничивать преступления.

«Существует так называемая серая зона мелких правонарушений. Если камера зафиксирует, что сегодня утром вы решили не пойти на работу, то должна ли она заявить об этом в полицию? Я думаю, нет. Бить тревогу против вашей воли такие системы будут обязаны, только если вы, к примеру, попытаетесь кого-то убить», — говорит Хуань и добавляет: «Подобная практика давно распространена во многих социальных институтах. Например, работники школьных образовательных учреждений по закону обязаны сообщать в правоохранительные органы о том, что над детьми совершается насилие».

Однако есть у Хуаня и другое решение

Дабы нивелировать все возможные этические неоднозначности, глава Kuna Systems предлагает возложить на владельца ответственность за свое устройство, позволив ему самостоятельно устанавливать настройки.

«Если человек заплатил за устройство, тогда он, я считаю, имеет полное право регулировать поведение ИИ, — говорит Хуань. — Пользователь должен иметь возможность самостоятельно решить, должно ли приобретенное им устройство сразу связываться с полицией или связываться только с ним; должно ли оно реагировать на преступления, совершенные в принципе в зоне видимости, или только на те, что совершаются на территории искомого участка; должно ли оно реагировать на все виды преступлений или только на те, что определены самим пользователем».

В качестве аналогии Хуань приводит беспилотные автомобили. По его мнению, когда вы покупаете такое авто, вы имеете полное право указать ИИ, как ему следует вести себя в тех или иных ситуациях. Так, по мнению главы Kuna Systems, вы имеет полное право указать, что в случае ДТП автомобиль должен предпочесть жизни тех, кто находится внутри него — то есть вас и ваших близких, жизням тех, кто находится снаружи.

«Знаете, как назвать ситуацию, когда пользователь полностью осведомлен о происходящем? Хорошим дизайном», — заключает Хуань, но делает оговорку, что существует вероятность, что на автоматическое документирование тяжких преступлений умные устройства будущего будут запрограммированы все же бесповоротно.

Источники: Digital Trends, hightech.fm (1; 2)