В минувшее воскресенье вышло заключительное, четвертое интервью документального цикла Axios on HBO с главой компаний SpaceX и Tesla Илон Маск. В этом интервью миллиардер рассказал много чего интересного, помимо оценки вероятности своего переезда на Марс. В частности, затронул любимую тему ИИ и рисков, которые он несет, снова порассуждал о возможной кибернетической эволюции человечества и даже вспомнил бога. Источник выбрал главное из видеозаписи разговора.
Об искусственном интеллекте и проблемах людей
Искусственный интеллект обойдёт по возможностям людей, это очевидно. Сейчас мы — как дети в песочнице, не обращаем на это внимания. Больше беспокоимся о том, кто кого и как назвал, чем о том, что ИИ уничтожит человечество. Это безумие.
Человечество не эволюционирует и в целом не думает о глобальных угрозах. Мы развиваемся в сторону мыслей о вещах, которые находятся недалеко от нас по времени, в сторону рассуждений о других людях и не заботимся о том, что может уничтожить людей.
В прошлом веке у нас появилось ядерное оружие, которое теоретически может уничтожить человечество. У нас есть ИИ, который может нести угрозу человечеству, мы столкнулись с глобальным потеплением.
ИИ не обязательно уничтожит человечество, но люди могут пойти по стопам приматов — их могут вытеснить в отдельные «загоны» на Земле. Когда homo sapiens стали умнее других приматов, то поступили так с другими сородичами.
Сейчас, например, обезьян осталось не так много, многие из них попадают в клетки в зоопарках. Даже джунгли сейчас сильно ограничены, это своеобразные клетки. Вы понимаете, это один из вариантов того, что может произойти с нами.
О плохих роботах, которых можно создать уже сегодня
Вы можете построить рой дронов-убийц, причём за небольшие деньги. Нужно просто взять чип для распознавания лиц, который уже сейчас есть в телефонах, и установить небольшой заряд взрывчатки, а потом запустить этот рой в здание. Они обыщут помещение, а когда найдут нужного человека, просто полетят к нему и взорвутся. Это то, что можно сделать прямо сейчас. Никаких особых технологий.
[Технологии могут] влиять на движение общества, на выборы. Можно делать сообщение более точным, потом смотреть на отзывы и менять это сообщение за миллисекунды, адаптировать его для нужных людей. Для этого могут использоваться аккаунты в соцсетях, которые выглядят как живые люди. И как вы поймёте, что они не настоящие?
По словам предпринимателя, главная проблема в том, что регулирование не поспевает за отраслью.
Регулирование сейчас развивается слишком медленно и линейно. А уровень угрозы растёт по экспоненте. Если вы реагируете линейно на экспонентно растущую угрозу, скорее всего, она победит. В этом и проблема.
Концепция человека-машины как возможный способ предотвратить многие проблемы
Если помните, у Маска есть компания Neuralink. Об этом предприятии, разрабатывающем технологии для подключения человеческого мозга к компьютеру, мы давно ничего не писали. Но еще в прошлом году предприниматель рисовал картину будущего, в котором слияние с машинами является следующим логическим этапом развития человечества. Судя по всему, Маск остается верен этим убеждениям — чтобы победить машины, людям нужно самим получить возможности машин
Мы делаем это для того, чтобы сделать ИИ доступным для всех, чтобы его не могли монопольно контролировать правительства и большие корпорации. Это будет «переходник» между электронами и нейронами — чип и немного проводов, которые будут имплантированы в череп.
Грубо говоря, все смогут стать суперумными. Я думаю, что это можно сделать примерно в течение десяти лет.
По большому счёту, у вас уже есть такое дополнение, и сейчас оно выглядит как мобильный телефон, компьютер, часы. Эти устройства — уже часть вас самих и вашего разума.
О «клинической смерти» Tesla
Когда мы настраивали производство Model 3, Tesla несколько раз столкнулась с угрозой смерти. Деньги уходили из компании рекой, и если бы мы не решили некоторые проблемы очень быстро, мы бы закрылись. И было дико сложно их решить.
Я думаю, в какие-то моменты Tesla находилась на расстоянии нескольких недель от закрытия. Иногда я был там по семь дней в неделю, спал на фабрике.
Проводить столько времени на работе — очень плохо и очень больно. Это удар и по разуму, и по сердцу. Никому бы такого не пожелал. Но я знал, что если не буду это делать, Tesla умрёт.
В части разговора, которая не попала в итоговый материал, Маск добавил, что находился на заводе не просто для наблюдения за процессом.
Я был на покраске, на сборке кузовов, на финальной проверке машин. Лично переделал линию по производству аккумуляторов и руководил ею три недели. Довольно сложно.
Мне кажется, многие не понимают, что я работаю в том числе как главный инженер. Я действительно руковожу разработкой ракет, проектированием и выпуском машин. 90% времени в моём рабочем дне уходит на проектирование и инженерные работы.
О вере в бога
Я думаю, что есть какое-то объяснение всей этой вселенной. То, что вы называете богом.
Источник: VC
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: