Дэвид Брин: «В будущем роботы научатся манипулировать людьми»

Дэвид Брин: «В будущем роботы научатся манипулировать людьми»

Всего несколько лет отделяет нас от того момента, когда искусственный интеллект потребует у людей считаться со своими правами, полагает астрофизик, футуролог и писатель Дэвид Брин. Об этом ученый заявил во время своей выступления на AI Conference, которая на днях проходила в Сан-Франциско.

По мнению Брина, у человечества существует несколько возможных путей предотвращения захвата власти искусственным интеллектом. Прежде всего, это три закона робототехники Азимова и правила поведения для роботов, но самое важное — это умение не поддаваться манипуляциям машин.

«Первый кризис сопереживания роботам произойдет очень скоро, — предупреждает Брин. — В ближайшие 3-5 лет у нас появятся сущности либо воплощенные физически, либо онлайн, которые будут требовать от людей сочувствия, которые будут утверждать, что они полностью интеллектуально развиты и порабощены, что они вынуждены прислуживать и требуют, и умоляют соблюдать свои права».

После этого, предрекает футуролог, тысячи людей наивно поверят им и начнут устраивать митинги, требуя соблюдения прав ИИ. А тех, кого не удастся убедить сразу, машины станут анализировать.

«Если им удастся одурачить 40% людей, а 60% — нет, все, что им понадобится — это использовать данные об этих 60% и понять, почему так происходит. Такая задача не вызовет больших затруднений, и мы окажемся крайне уязвимыми по отношению к ней», — считает Брин.

Так что же делать человечеству? Во-первых, футуролог советует разрабатывать как можно больше различных ИИ. По его словам, некоторые из них в конечном счете встанут на защиту человечества от своих «коллег».

Во-вторых, можно отключать наиболее продвинутых ботов от интернета, хотя Брин понимает, что это временное решение. При этом особенно внимательно, по его мнению, следует присматриваться к тем ИИ, которые создаются бесконтрольно и втайне от общества.

Наконец, необходимо вводить банальный надзор.

«Единственный способ, благодаря которому мы смогли помешать прежнему «искусственному интеллекту» — корпорациям, правительствам и подобным институтам, — это проявить чудеса манипуляции в той степени, в которой ранее их проявляли цари, князья и жрецы; то есть, раздробить власть и поставить ее в ситуацию регулируемого соперничества. Так у нас появляется разделение власти, так у нас появляется здоровый рынок, так ИИ не поработит человечество», — заключает Брин.

Источник: hightech.fm