Боевым роботам достаточно незначительной ошибки в коде, чтобы выйти из-под контроля, полагает профессор компьютерной инженерии Субхаш Как из Университета Оклахомы.
По мнению специалиста, плохо закодированные боевые роботы могут найти брешь в собственном программном обеспечении и воспользоваться ею для самостоятельного принятия решений. В результате, это приведет сначала к единичным, а затем — и к массовым убийствам людей.
«Из-за ошибки в коде у робота могут возникнуть «мысли», аналогичные тем, которые возникают у людей с убеждениями радикального толка», — утверждает профессор.
При этом, несмотря на новые технологии, которые предотвращают сбой в какой-либо программе, риск того, что робот «уйдет в самоволку» и начнет убивать по собственному усмотрению, все равно остается.
Кроме этого, опасность представляет также незавершенное и не протестированное ПО. Профессор объясняет, что недоработки могут повлечь за собой череду внутренних сбоев, из-за которых машина может «взбеситься» и начать действовать, руководствуясь лишь фрагментами кода.
Специалист предупреждает, что, учитывая неумолимость появления полностью автономных систем вооружения, роботы могут случайно развязать третью мировую войну, жертвами которой, вероятнее всего, станут не менее половины жителей Земли.
Напоследок отметим, что, по словам профессора, роботы несут в себе и менее очевидные угрозы. Например, автоматизация производств может повлечь за собой экзистенциальный кризис у большей части человечества.
«Работа дает людям ощущение собственной ценности. Потеря рабочих мест лишит многих смысла жизни», — заявил Как.
Источник: DailyMail