Президент Microsoft Брэд Смит: «Будущее не должно напоминать роман „1984“»

Технология распознавания лиц открывает широкие возможности для создания тоталитарной антиутопии, предупреждают IT-эксперты. В Microsoft и других корпорациях разделяют эти опасения и призывают действовать, пока не поздно.

«Мы считаем важным, чтобы в 2019 году правительства начали принимать законы для регулирования этой технологии. Джинна, если можно так выразиться, только выпускают из бутылки. Если мы не начнем действовать уже сегодня, то через 5 лет можем обнаружить, что использование технологий распознавания лиц значительно усугубило социальные проблемы», — заявил в блоге корпорации президент Microsoft Брэд Смит.

По его словам, с помощью современных технологий можно воплотить в жизнь то, о чем писал Джордж Оруэлл 70 лет назад, — систему тотальной слежки за гражданами.

«Но это не является неизбежным сценарием. Мы должны убедиться, что 2024 год не будет похож на страницу из романа „1984“», — подчеркивает Смит.

Вместе с тем, президент Microsoft признает, что у технологии распознавания лиц есть не только минусы, но и плюсы.

«Именно системы распознавания лиц помогли полиции Нью-Дели обнаружить 3000 пропавших детей за четыре дня, а также позволили американским историкам идентифицировать неизвестных солдат на фотографиях, сделанных в 1860-е во время Гражданской войны.

Кроме того, в октябре Национальный Банк Австралии представил концепцию нового поколения банкоматов, распознающих личности пользователей с помощью камер и не требующих больше носить с собой карты или какие-либо устройства.

Таким образом, отказаться от развития технологий распознавания лиц было бы крайне неразумно. Мы считаем, что здесь просто нужен ответственный подход. Это, к слову, касается любой технологии», — отметил Смит.

По его словам, в этом году специалисты Microsoft провели тщательное исследование вопроса, поговорили с экспертами, правозащитниками, учеными и чиновниками. Они обсудили проблему предвзятости алгоритмов, возможные нарушения права на частную жизнь, перспективы массовой слежки и угрозы демократии.

В результате в Microsoft сформулировали шесть принципов разработки систем распознавания лиц, которые, по мнению корпорации, должны взять за основу и технологические компании (Смит намерен внедрить эти правила внутри Microsoft уже в первом квартале 2019 года), и государственные власти:

1. Справедливость — алгоритмы должны быть одинаково непредвзяты к любому человеку;
2. Прозрачность — процесс разработки ИИ должен быть задокументирован, а конечный продукт — проверен третьей независимой стороной;
3. Подотчетность — контроль за тем, в какой мере система распознавания лиц влияет на жизнь людей;
4. Отсутствие дискриминации — запрет на использование систем распознавания лиц для ограничения прав и свобод отдельных категорий граждан;
5. Уведомление и согласие — Microsoft будет поощрять своих клиентов «явным образом» оповещать людей о применении технологии распознавания лиц;
6. Наблюдение на законных основаниях — отказ от использования систем распознавания в случаях, когда это нарушает демократические свободы.

«Мы убеждены, что внедрение данных принципов на законодательном уровне станет первым шагом на пути к созданию политик, обеспечивающих использование технологий на благо общества. Как говорил Марк Твен, секрет того, чтобы добиться чего-то – начать», — подытожил Смит.

Источники: Microsoft, hightech.plus