Блоги Блоги 09.06.2017 в 17:51 comment

Дэвид Брин: «В будущем роботы научатся манипулировать людьми»

author avatar
https://secure.gravatar.com/avatar/341ba260d57a6855744e3c0760decc30?s=96&r=g&d=https://itc.ua/wp-content/uploads/2023/06/no-avatar.png *** https://secure.gravatar.com/avatar/341ba260d57a6855744e3c0760decc30?s=96&r=g&d=https://itc.ua/wp-content/uploads/2023/06/no-avatar.png *** https://itc.ua/wp-content/themes/ITC_6.0/images/no-avatar.svg

Всего несколько лет отделяет нас от того момента, когда искусственный интеллект потребует у людей считаться со своими правами, полагает астрофизик, футуролог и писатель Дэвид Брин. Об этом ученый заявил во время своей выступления на AI Conference, которая на днях проходила в Сан-Франциско.

По мнению Брина, у человечества существует несколько возможных путей предотвращения захвата власти искусственным интеллектом. Прежде всего, это три закона робототехники Азимова и правила поведения для роботов, но самое важное — это умение не поддаваться манипуляциям машин.

«Первый кризис сопереживания роботам произойдет очень скоро, — предупреждает Брин. — В ближайшие 3-5 лет у нас появятся сущности либо воплощенные физически, либо онлайн, которые будут требовать от людей сочувствия, которые будут утверждать, что они полностью интеллектуально развиты и порабощены, что они вынуждены прислуживать и требуют, и умоляют соблюдать свои права».

После этого, предрекает футуролог, тысячи людей наивно поверят им и начнут устраивать митинги, требуя соблюдения прав ИИ. А тех, кого не удастся убедить сразу, машины станут анализировать.

«Если им удастся одурачить 40% людей, а 60% — нет, все, что им понадобится — это использовать данные об этих 60% и понять, почему так происходит. Такая задача не вызовет больших затруднений, и мы окажемся крайне уязвимыми по отношению к ней», — считает Брин.

Так что же делать человечеству? Во-первых, футуролог советует разрабатывать как можно больше различных ИИ. По его словам, некоторые из них в конечном счете встанут на защиту человечества от своих «коллег».

Во-вторых, можно отключать наиболее продвинутых ботов от интернета, хотя Брин понимает, что это временное решение. При этом особенно внимательно, по его мнению, следует присматриваться к тем ИИ, которые создаются бесконтрольно и втайне от общества.

Наконец, необходимо вводить банальный надзор.

«Единственный способ, благодаря которому мы смогли помешать прежнему «искусственному интеллекту» — корпорациям, правительствам и подобным институтам, — это проявить чудеса манипуляции в той степени, в которой ранее их проявляли цари, князья и жрецы; то есть, раздробить власть и поставить ее в ситуацию регулируемого соперничества. Так у нас появляется разделение власти, так у нас появляется здоровый рынок, так ИИ не поработит человечество», — заключает Брин.

Источник: hightech.fm

Продолжается конкурс авторов ИТС. Напиши статью о развитии игр, гейминг и игровые девайсы и выигрывай профессиональный игровой руль Logitech G923 Racing Wheel, или одну из низкопрофильных игровых клавиатур Logitech G815 LIGHTSYNC RGB Mechanical Gaming Keyboard!


Loading comments...

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: