Макс Тегмарк — физик-теоретик, доктор философии, профессор Массачусетского технологического института, один из директоров Института основополагающих вопросов, специалист по теории информации, автор более 200 публикаций. Его последняя книга, «Life 3.0», посвящена человеку в эпоху искусственного интеллекта. В интервью VentureBeat ученый рассказал о своем отношении к автономным системам вооружения и противоречивом проекте Пентагона Project Maven, от которого отказался Google.
«Люди часто спрашивают меня: „Вы за или против ИИ“, а я отвечаю им, считают ли они огонь опасным, и они за или против огня? Тогда становится ясно, насколько нелеп вопрос: с одной стороны, огонь согревает наши дома, с другой — может спалить их, так? Разница между огнем и ИИ в том — а оба они технологии, — что ИИ, и в частности суперинтеллект, намного более могущественная технология.
Когда вы начинаете глубоко размышлять об ИИ, шаг за шагом вы приходите к выводу, что машинный интеллект открывает перед нами поистине невероятные возможности, однако при этом несет в себе и серьезные угрозы. Многие полагают, что это алармизм, но это не так. В действительности, это своего рода «техника безопасности».
Перед тем, как осуществить лунную миссию «Аполлон-11», инженеры NASA скрупулезно продумали все этапы запуска, а также попытались предугадать, что может пойти не так. Был ли это алармизм? Очевидно, нет. Это была именно техника безопасности, обеспечившая во многом успех миссии.
С тех же позиций я рассуждаю об ИИ: нам следует понять, что может пойти не так, чтобы в конечном счете все пошло так, как нужно. Я убежден, что в данном случае наибольшую угрозу несет как раз человеческое самодовольство, когда люди отказываются просчитывать все наперед, наивно полагая, что ничего плохого не может произойти в принципе», — заявил ученый и продолжил: «Я считаю, что людей вроде Илона Маска или Стивена Хокинга зря обвиняют в пессимизме, тогда как они оба скорее оптимисты. Причина, по которой Илон Маск так часто говорит об опасности ИИ — потому что он больше думает о далеком будущем, чем средний политик, которого интересует только следующий цикл выборов».
По мнению Тегмарка, любую проблему в сфере технологий можно решить заранее, если к ней «подойти с умом».
«Я считаю, что к технологиям нужно подходить с умом. Например, если мы говорим об ИИ-рекрутере, то его разработчики обязаны предварительно удостовериться в качестве данных, на которых будет обучен ИИ, а также впоследствии проверить работоспособность готового продукта.
Взгляните на систему Northpointe, которую ранее попытались повсеместно развернуть в США. Люди понятия не имели, как она работает, но потом пришли в ужас, когда узнали, насколько предвзятой в расовом отношении она была. Это — отличный пример того, почему мы должны заранее подумать о последствиях и осознать, что может пойти не так. Ситуация с Northpointe стала сюрпризом для судей, но не для аналитиков и экспертов. Эту проблему было очень легко предотвратить.
Думаю, человечеству следует осознать, что технология не является хорошей или плохой сама по себе. Технология — это увеличительное стекло для наших возможностей создавать. И чем мощнее оно, тем больше хорошего мы можем сделать, и тем больше плохого. Я оптимистично надеюсь, что мы можем создать воистину прекрасное, высокотехнологичное будущее, если победим в гонке между растущей мощью технологии и растущей мудростью, которая помогает нам ей управлять. Здесь и находится, как мне кажется, камень преткновения, потому что наша старая стратегия победы состояла в обучении на ошибках. Когда мы открывали огонь, мы много раз обжигались, но потом изобрели огнетушители. Так что имея более мощные технологии, вроде ядерного оружия или сверхчеловеческого ИИ, учиться на ошибках уже не хочется — гораздо лучше сделать все правильно с первого раза».
С другой стороны, Тегмарк более оптимистично, чем большинство коллег, смотрит на ситуацию с Project Maven, над которым должны были работать инженеры Google. В отличие от тех, кто убежден, что «все, что может быть милитаризировано, будет милитаризировано», он считает, что на самом деле это преувеличение. И доказательством этому — биологическое оружие. Несмотря на все достижения биологии, у людей хватило ума и совести ограничиться применением этих знаний только в области медицины.
«В конце 60-х годов США и Советский Союз работали над созданием биологического оружия, но, к счастью, все обошлось», — отмечает Тегмарк.
Ученый надеется, что через 10 лет появится международное соглашение, запрещающее все виды смертельного автономного оружия, и люди станут видеть в ИИ технологию, несущую благо, а не инструмент дестабилизации и террора.
«Еще раз, давайте посмотрим на биологическое оружие. В современных условиях разработать его не так уж и дорого, но по каким-то причинам люди по-прежнему отказываются воевать с его помощью, верно? Дело не в том, что это невозможно. Дело в том, что на использование биологического оружия наложено глобальное табу. На сторону, которая бы применила такое вооружение, мировое общество начало бы смотреть совершенно по-другому. Поэтому над биологическим оружием никто не работает: никто не выделяет на его разработку денег, да и вряд ли бы кто-то согласился его создавать.
Конечно, на сегодняшний день есть случаи применения биологического оружия. Но это единичные случаи — намного больше людей погибает в результате ДТП или врачебной ошибки. Никто не берется уравнивать развитие биологии и использование ее достижений в военных целях.
То же самое самое касается и смертоносного автономного вооружения. Я думаю, что задача номер один здесь — собрать экспертов, дипломатов и политиков и «подвести черту», то есть создать глобальную регуляторную политику в отношении интеллектуального оружия для нападения. Этого должно быть достаточно, тем более если учесть, что сверхдержавам просто невыгодно ставить автономное вооружение на поток, поскольку в таком случае технология станет значительно дешевле и непременно окажется в руках террористов и государств-изгоев. Именно по этой причине не только Пентагон, но и Пекин по-прежнему не стремятся стремглав задействовать ИИ в сфере вооружений. Никому не нужно, чтобы искусственный интеллект пошел по пути автомата Калашникова и наводнил черные рынки по всему миру, попал в руки Северной Кореи и ИГ», — утверждает физик.
В целом, он призывает людей не сидеть сложа руки, а активно бороться за светлое будущее, направляя развитие технологий в мирное русло.
«Я искренне считаю, что все существующие проблемы могут быть решены при помощи новых технологий, включая ИИ. Если развитие роботов пойдет в правильном направлении, человечество вступит в эру процветания, о которой ранее нам оставалось только мечтать», — отмечает ученый.
Напоследок Тегмарк объяснил, почему государства не должны экономить на инвестициях в науку.
«Знаете ли вы, почему Штаты сегодня являются лидером в сфере технологий? Почему Кремниевая долина находится в Калифорнии, а не в Бельгии? Потому что в 60-е годы, в разгар космической гонки, американское правительство активно инвестировало в науки STEM, в результате чего выросло целое поколение одаренных и мотивированных американцев, породивших технологические компании.
Аналогично, Китаю совершил гигантский технологический скачок, когда правительство страны осознало, насколько важно вкладывать деньги в образование и в исследования в сфере ИИ.
Лидерство того или иного государства в научной сфере в будущем во многом зависит от размеров инвестиций в учащихся в наши дни. Чтобы стать успешным, государству недостаточно просто завалить в один момент контрактами условный Boeing. Необходимо еще и заблаговременно обеспечить себя достаточным количеством интеллектуальной рабочей силы.
Экономисты уже не единожды обосновывали в своих работах, что наиболее перспективные с точки зрения экономики инвестиции — это как раз инвестиции в образование и фундаментальные исследования», — подытожил Тегмарк.
Источники: Venture Beat, hightech.plus