Блоги
Микко Аласаарела: «Как только ИИ превзойдет нас в эмоциональном интеллекте, он начнет нами манипулировать»
75

Микко Аласаарела: «Как только ИИ превзойдет нас в эмоциональном интеллекте, он начнет нами манипулировать»

Микко Аласаарела: «Как только ИИ превзойдет нас в эмоциональном интеллекте, он начнет нами манипулировать»

По мнению основателя стартапа Inbot и эксперта в области ИИ Микко Аласаарела, человечество теряет преимущество перед машинами в развитии эмоционального интеллекта. В скором времени ИИ научится лучше понимать и манипулировать эмоциями людей, чем мы сами.

«До недавнего времени я полагал, что эмоциональный интеллект будет оставаться основным преимуществом людей после того, как ИИ возьмет на себя всевозможные рутинные операции, требующие лишь хорошей памяти и умения мыслить алгоритмически. Тем не менее, на сегодняшний день я отчетливо вижу, что в будущем машины могут опередить человека даже в области эмоционального интеллекта», – пишет Аласаарела.

Дело в том, что в действительности наш эмоциональный интеллект развит довольно плохо, поясняет эксперт, ссылаясь на книгу Homo Deus за авторством историка Юваль Ной Харари. Наши эмоции и чувства являются, по сути, не более чем органическими эволюционными алгоритмами, сформированными культурой, воспитанием и жизненным опытом. Как следствие, по большей части мы не замечаем самых основных признаков чувств у других, что приводит к бессмысленным ссорам, игнорированию аргументов из-за того, что они противоречат нашим убеждениям, или осуждению людей на основе стереотипов. Мы редко стремимся понять, что именно сформировало взгляды оппонента, и взглянуть на ситуацию с его точки зрения. Нам не хочется подвергать сомнению истинность своих взглядов.

“В интернете ситуация еще хуже. Мы делаем поспешные – и зачастую ошибочные – выводы о людях, основываясь на их комментариях, и тут же набрасываемся на них, если их слова противоречат нашим взглядам”, – добавляет Аласаарела.

Одновременно с этим параллельным курсом развивается искусственный интеллект.

“На данный момент нет никаких причин полагать, что неорганические формы жизни не могут воссоздать или даже превзойти органические эволюционные алгоритмы. Следовательно, в будущем роботы вполне могут научиться использовать слабые стороны нашего разума, далеко неидеально сформировавшегося в ходе эволюции, чтобы управлять нами”, – утверждает эксперт, ссылаясь уже на физика Макса Тегмарка и его концепцию “Жизни 3.0“.

Машины быстро учатся анализировать нас и тем самым разрабатывают собственный эмоциональный интеллект, который в будущем позволит им понимать чувства людей и постоянно адаптироваться к той информации, которую они получают от взаимодействия с человеком.

Так, умные камеры уже сегодня разбирают по косточкам наши голоса и мимику, а самые продвинутые могут даже отличать фальшивые эмоции от настоящих. Существуют системы, способные по фотографии распознать такие личностные качества человека, как его сексуальную ориентацию, политические предпочтения или даже IQ.

“Технологии, распознающие наши эмоции, уже превосходят возможности даже самых внимательных людей, не говоря уже людях среднестатистических”, – рассказывает основатель Inbot.

Однако, нам еще только предстоит понять весь потенциал подобного рода технологий. Сейчас успехи в этой области почти полностью обусловлены материальной выгодой. Медийные и развлекательные компании таким образом пытаются привлечь к себе наше внимание, чтобы заработать деньги. Команды Facebook или YouTube работают над тем, чтобы мы все больше попадали в зависимость от их контента. Их алгоритмы фиксируют эмоциональные триггеры, заставляющие нас переключать внимание. И они становятся все лучше и лучше.

“И хотя на данный трудно сказать однозначно, к чему это приведет, эксперты – особенно те, которые непосредственно работают на технологиями распознания наших эмоций – уже начали беспокоиться о том, что в конечном счете ИИ, созданный на основе их разработок, может научиться влиять на наш разум или даже управлять им”, – предупреждает Аласаарела

Современные алгоритмы, добавляет он, уже знают, чего мы хотим, каких взглядов придерживаемся, что нас заводит. Все эти данные они получают на основе нашего поведения в сети, общения, круга друзей и интересов. Кроме этого, они располагают информацией о миллиардах других пользователей, неустанно собираемой такими IT-гигантами, как Google и Facebook.

Во многих аспектах ИИ-технологии уже понимают нас лучше, чем мы сами. И они становятся настолько сложными, что люди уже практически не имеют возможности управлять ими вручную, не имеют возможности проанализировать то, на основе чего алгоритмы принимают те или иные решения.

Как следствие, алгоритмы новостной ленты Facebook, к примеру, уже не раз были обвинены в создании так называемых информационных пузырей, способных повлиять на общественное мнение или даже на ход выборов. При этом глава службы безопасности Facebook Алекс Стамос утверждает, что в компании знают о существовании этой проблемы, но добавляет, что все это делается непреднамеренно, поскольку на данный момент попросту не существует способа сделать алгоритмы непредвзятыми.

“Алгоритмы учатся все лучше манипулировать нами. Уже сейчас люди в среднем касаются экрана своих смартфонов 2617 раз в день, и похоже, что вскоре наши роли поменяются, – искусственный интеллект может начать контролировать нашу жизнь больше, чем мы сами. Причем по нашему же собственному желанию”, – пессимистично заключает Аласаарела.

Источники: Venture Beat, hightech.fm


Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: