Как сообщают осведомлённые источники, камеры безопасности Amazon Ring на базе искусственного интеллекта передавали изображение не только алгоритмам для выявления угроз, но и сотрудникам компании. Напомним, умный дверной звонок Ring Video Doorbell отправляет уведомление на смартфон, планшет или ПК всякий раз, когда кто-то звонит в дверь или попадает в пределы действия датчиков движения дверного звонка. Также он позволяет домовладельцам отвечать посетителю в режиме реального времени, в формате HD видео и двусторонней аудио связи.
Как сообщают источники The Intercept, в Ring предоставляли доступ к видео с камер не только алгоритмам искусственного интеллекта, но и сотрудникам компании. Напомним, в 2016 году компания Ring открыла в Киеве научно-исследовательский центр Ring Labs, работающий в сферах искусственного интеллекта, машинного обучения, компьютерного зрения и анализа данных. А уже в 2018 году Amazon купила Ring за $1 млрд. По данным источников, с 2016 года Ring предоставила украинской команде разработчиков неограниченный доступ к папке с видео на облачном хранилище Amazon S3, где хранились все видео, созданные каждой установленной камерой Ring. Таким образом, сотрудники украинского офиса могли просматривать видео, созданные камерами Ring по всему миру. Файлы были незашифрованными, так как руководство стремилось снизить расходы, а внедрение шифрования могло привести к противоположному результату. Кроме того, украинской команде был предоставлен доступ к базе данных, которая позволяла связать видео файлы с конкретным клиентом Ring.
Вместе с тем, компания Ring предоставила руководителям и инженерам в США излишне высоко привилегированный доступ к видеопорталу технической поддержки. В результате, сотрудники получили возможность круглосуточно просматривать нефильтрованные потоковые трансляции с некоторых камер клиентов, хотя это и не всегда требовалось в соответствии с их должностями и задачами в компании. Для получения такого привилегированного доступа к камере достаточно было знать адрес электронной почты клиента Ring. Однако источник сообщает, что никогда не был свидетелем каких-либо вопиющих злоупотреблений. Хотя и случались случаи подшучивания, например, предполагали, кого клиент приведёт домой после романтического свидания.
Отмечается, что решение Ring предоставить доступ украинской команде к обширному массиву видео было вызвано недостатками собственного программного обеспечения компании, которое отвечало за распознавание лиц и объектов. Клиенты компании часто жаловались на ложные срабатывания камер, когда они принимали невинные объекты за потенциально опасные. Иногда срабатывала система тревоги в том случае, когда за дверью ничего не происходило. Система могла срабатывать на проезжающий по улице автомобиль или падающий с дерева лист.
Таким образом, алгоритмы компьютерного видения Ring были далеки от совершенства. А сотрудники украинской команды использовались для обучения системы ИИ более качественному распознаванию объектов. Сотрудники вручную обозначали различные предметы на видео, чтобы научить алгоритмы более точно работать. Но, судя по всему, процесс обучения системы ИИ Ring ещё далёк от завершения, так как украинской подразделение Ring Labs всё ещё ищет сотрудников на роль оператора данных, которым необходимо «распознавать и обозначать движущиеся объекты на видео быстро и точно».
Другой источник заявил, что команда, занимающаяся распознаванием объектов на видео, могла видеть ролики не только с камер наблюдения или камер дверных звонков, но и с камер, показывающих интерьер домов. Источник утверждает, что сотрудники Ring демонстрировали друг другу видео, которые они комментировали и описывали некоторые из событий, свидетелями которых стали, в том числе людей, целующихся, стреляющих из оружия и ворующих.
Представитель Ring заявил, что компания серьёзно относится к вопросам приватности персональной информации клиентов. С целью улучшения сервиса сотрудники могут просматривать и комментировать некоторые видео Ring. Однако речь идёт о публичных видео из приложения Neighbors, что соответствует политикам сервиса, и только в тех случаях, когда пользователи согласились предоставлять и использовать ролики для нужд компании. При этом сотрудникам никогда не предоставлялся доступ к прямым трансляциям видео клиентов.
Источник: The Information