Физик Макс Тегмарк: «Искусственный интеллект — это жизнь 3.0»

Физик Макс Тегмарк: «Искусственный интеллект — это жизнь 3.0»

Искусственный интеллект, в отличие от человеческого, не зависит от атомов углерода, а также от строгих эволюционных ограничений. Благодаря этому ИИ способен непрерывно обучаться и совершенствоваться, и в конечном счете он позволит человечеству решить массу насущных проблем — от климатических изменений до онкологических заболеваний. По крайней мере, такого мнения придерживается Макс Тегмарк, физик из MTI и сооснователь Института будущего человечества.

В интервью The Verge Тегмарк представил свое видение трех эволюционных форматов жизни на Земле — 1.0, 2.0 и 3.0.

Жизнь 1.0, по словам специалиста, характерна для бактерий, которых ученый называет «небольшими атомами, соединенными вместе в простейший алгоритм саморегулирования». При этом бактерии не способны освоить ничего нового в течение своей жизни. Механизмы их работы крайне примитивны — они могут только поворачиваться в ту сторону, где больше еды, а развитие их «программного обеспечения» возможно только в рамках эволюционных изменений.

Жизнь 2.0 воплощается в людях. Несмотря на то, что человек также обладает жестко заданным и ограниченным эволюцией телом — «железом», он также обладает серьезным преимуществом в виде более совершенного разума — «программного обеспечения», которое позволяет ему учиться самостоятельно.

«Скажем, если вы решите стать юристом, вы можете поступить в юридический университет и тем самым самостоятельно загрузить в ваш мозг те необходимые алгоритмы, которые позволят вам исполнять функции юриста, — говорит ученый. — Именно благодаря способности совершенствовать свое программное обеспечение по собственному усмотрению, не дожидаясь эволюционного развития, мы начали доминировать на этой планете, создали современную цивилизацию и культуру».

Тем не менее, несмотря на все преимущества, у нашего совершенствования есть предел. Именно поэтому со временем жизнь 2.0 будет вытеснена менее ограниченной жизнью 3.0.

«В формате жизни 3.0 не существует не только эволюционных, но и биологических ограничений. Искусственный интеллект, в отличие от предыдущих форматов, будет способен развивать как свое ПО, так и железо. Например, он сможет установить в себя больше памяти, чтобы запоминать в миллион раз больше информации или получить большую вычислительную мощь.

В отличие от жизни 3.0, мы, люди, — хотя и можем поддерживать собственное сердцебиение при помощи кардиостимуляторов — не состоянии внести в свои тела кардинальные изменения. Мы не можем сделать самих себя выше в тысячу раз или в тысячу раз ускорить мышление в собственном мозге. Человеческий интеллект работает на биологических нейронных связях. Кроме этого, объем нашего мозга ограничен таким образом, чтобы при рождении голова могла пройти через родовое отверстие матери. ИИ же ничем не ограничен и может совершенствоваться бесконечно», — поясняет ученый.

Тегмарк отмечает, что многие люди сегодня воспринимают разум как загадочное свойство биологических организмов. Однако, по его словам, эти представления ошибочны.

«С точки зрения физика, разум — это всего лишь обработка информации, которую выполняют элементарные частицы, движущиеся по определенным физическим законам», — говорит специалист.

Ученый уверен, что законы физики никак не препятствуют созданию машин, намного превосходящих человека по интеллекту. Помимо этого, подчеркивает он, нет никаких свидетельств в пользу того, что разум зависит от наличия органической материи:

«Я не думаю, что есть какой-то секретный соус, в котором обязательно должны присутствовать атомы углерода и кровь. Я много раз задумывался, каким может быть предел интеллекта с точки зрения физики, и каждый раз приходил к выводу, что если такой предел и существует, то мы от него находимся очень и очень далеко. Мы даже не можем его вообразить.

Тем не менее, я уверен, что именно человечество вдохнет во Вселенную то, что впоследствии станет жизнью 3.0 — и это, с моей точки зрения, звучит очень романтично».

Зачем нам ИИ

На развитие технологий искусственного интеллекта физик возлагает большие надежды.

По его мнению, в мире по-прежнему существуют такие нерешенные проблемы, как изменения климата, бедность и болезни, исключительно потому, что человечество биологически интеллектуально ограничено.

«Знаете, бедность, социальная несправедливость, изменения климата, болезни — все эти проблемы по-прежнему существуют исключительно потому, что мы недостаточно умны, чтобы понять, как их разрешить. Тот же рак, к примеру, — определенно излечим, просто на данном этапе мы не можем осознать, как с ним бороться.

Мы сталкиваемся с ограничениями нашего разума каждый раз, когда проводим то или иное исследование. Именно поэтому я полагаю, что как только нам удастся объединить наш собственный ум с ИИ, перед нами откроются огромные возможности по решению практически всех проблем», — утверждает ученый.

Риски ИИ

Вместе с тем, несмотря на оптимистичный настрой, Тегмарк признает, что искусственный интеллект несет риски. Здесь ученый полностью солидарен со Стивеном Хокингом, который полагает, что ИИ станет или самым худшим, или самым лучшим явлением в истории человечества.

«Просто я не могу гарантировать, что все будет именно так. Дело в том, что сегодня перед нами стоят вопросы, на которые мы должны дать ответ прежде, чем на свет появится первый суперинтеллект. Причем эти вопросы довольно сложны, возможно, ответить на них мы сможем не ранее чем через 30 лет. Но как только мы их разрешим, то сможем обезопасить себя от угроз», — говорит Тегмарк.

По мнению специалиста, когда люди говорят о нынешней тотальной автоматизации рабочих мест, они забывают, что намного важнее заглянуть вперед, чтобы понять, что будет дальше.

«Как мы сможем обеспечить надежность будущих систем ИИ, когда сегодня наши компьютеры очень легко взламываются? Как сделать так, чтобы ИИ понимал наши цели, если он станет умнее нас? Какими должны быть цели у самого ИИ? Сможет ли искусственный разум выработать перед собой высокие задачи, на которые сегодня уповают многие американские программисты, или ИИ вдруг станет мыслить, как сторонник ИГ или человек из Средних веков? Как изменится наше общество после изобретения ИИ? — риторически вопрошает исследователь и добавляет: — Когда ваш компьютер зависает, вы начинаете нервничать, потому что потеряли час работы. Но представьте, что речь идет о бортовом компьютере самолета, на котором вы летите, или о системе, отвечающий за ядерный арсенал в США — вот это уже в разы страшнее».

Что делать дальше?

По словам ученого, чтобы нивелировать исходящие от ИИ риски, нам нужно чаще устраивать дискуссии на этот счет.

«Ни один из двух кандидатов в президенты США на последних выборах ни слова не произнес о технологиях на основе ИИ, хотя это, пожалуй, один из наиболее насущных вопросов. Почему? Потому что люди в большинстве своем по-прежнему не задумываются о таких вещах, по крайней мере, когда говорят о политике.

Да и посмотрите на то, как разобщено современное общество. Однако если мы сами не знаем, чего хотим, то вряд ли сможем в конечном счете добиться позитивных изменений.

Что делать? Разговаривать. Дискуссия — это всегда отличное начало. Причем общение должно происходить не только между техногиками, такими как я. В нем должны принимать участие все слои общества, потому что ИИ изменит саму сущность нашей цивилизации и затронет жизни буквального каждого из нас», — говорит Тегмарк.

Напоследок ученый дает небольшой совет.

«В исследования искусственного интеллекта ныне вкладывают миллиарды, при этом изучения его безопасности практически не финансируются. Каждый исследователь ИИ, которого я знаю, хотел бы, чтобы сфера безопасности ИИ-технологий финансировалась гораздо активнее, ведь по степени значимости ее можно сравнить с разработкой ядерного  реактора. Кто стал бы строить ядерный реактор, не спроектировав предварительно его защиту? Я полагаю, что мы бы все выиграли, если бы государства и корпорации стали больше вкладывать денег в исследования на тему безопасности ИИ», — подытожил эксперт.

Источники: The Verge, hightech.fm