Сингулярность — одна из самых горячих тем, обсуждаемых в Кремниевой долине. Глава венчурного фонда Y Combinator и один из руководителей исследовательской некоммерческой организации OpenAI Сэм Альтман считает, что человечество уже вступило в эпоху сингулярности. По его мнению, окончательное слияние людей и машин в одно целое произойдет между 2025 и 2075 годами.
Альтман полагает, что люди на данный момент находятся в фазе коэволюции: ИИ улучшает нас, а мы — его. Инженеры создают большие вычислительные мощности, запускают на них ИИ, а он выясняет, как создать еще более мощные чипы. По словам специалиста, это является первым этапом сингулярности.
Глава Y Combinator отмечает, что многим людям трудно осознать, что наступление сингулярности уже происходит, по той причине, что этот процесс осуществляется постепенно, а не мгновенно, как ожидалось ранее. Тем не менее, сингулярность уже не остановить.
«Научный прогресс невозможно остановить, если он идет не вопреки законам физики», — говорит Альтман.
Человек слишком высокомерен, и не может признать, что может создать нечто умнее его самого, добавляет он. Наша самооценка настолько основана на нашем интеллекте, что мы уверены — ничто на Земле не может превзойти человеческий вид. Не исключено, что ИИ будет обладать таким же высокомерием и не увидит большой разницы между нами и карликовым шимпанзе, предупреждает Альтман.
«Причем эти алгоритмы мы уже перестаем понимать. Хотя они выполняют поставленные перед ними задачи, они делают это по-своему; они находят решения, к которым не смог бы прийти другой человек.
Сегодня эти системы кажутся нам сложными, завтра они покажутся нам детским лепетом. Они уже чрезвычайно эффективны.
Я полагаю, что проблема зависимости от сервисов, управляемых ИИ, в ближайшее время серьезно обострится. И я уже это чувствую — в последнее время мне становится тяжелее сосредоточиться. Я стал реже направлять свою энергию в продуктивное русло, предпочитая находиться в дофаминовом потоке лайков, который порождает ИИ.
Молодое же поколение ныне и вовсе разучилось управлять своим вниманием», — пишет специалист.
Альтман отмечает, что слияние в будущем будет принимать множество форм: от внедрения электродов в наш мозг до близкой дружбы с чат-ботами. Так, уже сегодня наши телефоны контролируют нас и говорят нам, что делать; социальные медиа определяют, как мы себя чувствуем; поисковые машины решают, что мы думаем — чем это не первые проблески будущей сингулярности?
При этом слияние — это самый лучший сценарий для человека, потому что столкновение двух склонных к доминированию видов неизбежно выльется в конфликт, последствия которого не хочется даже представлять.
«Мы будем первым видом, создавшим новый разумный вид — своих потомков», — пишет Альтман.
По его мнению, было бы здорово, если бы мир стал воспринимать этот процесс всерьез и начал его координировать.
Источники: hightech.fm, блог Сэма Альтмана