Небезызвестный Илон Маск ранее неоднократно делился своими мыслями в отношении искусственного интеллекта, сравнивая разработки в этой области с «призывом демона», и предупреждая о всевозможных опасностях. И, похоже, с тех пор его позиция не особо поменялась, доказательством чему служит его недавнее выступление перед губернаторами США. Только в этот раз глава Tesla и SpaceX сделал особый акцент на необходимости неотложных действий со стороны правительства с целью регулирования развития ИИ.
«У меня есть опыт работы с очень продвинутым ИИ и, по моему мнению, людям действительно стоит опасаться их [систем ИИ – прим.ред.]», – цитирует источник Маска. – «Я продолжаю бить тревогу, но пока люди не видят роботов, убивающих других людей на улицах, они не знают, как реагировать, поскольку им такой сценарий кажется нереалистичным».
И решение этой проблемы Маск видит в должном регулировании.
«ИИ – это как раз тот редкий случай, где нужно действовать на упреждение в части регулирования, а не уже по факту. В противном случае, как мне кажется, будет слишком поздно», – сказал Маск.
Он также добавил, что нынешняя модель регулирования, подразумевающая реакцию правительства только после того, как «происходит целая куча плохих вещей» в случае ИИ, абсолютно неприемлема, поскольку технология представляет «фундаментальную угрозу существования цивилизации».
Само собой, в данном случае Маск имеет в виду некую иную, гораздо более технологически развитую форму ИИ, обладающую собственным сознанием, из мира научной фантастики, а не те узкоспециализированные системы, что сейчас имеются у Google, Uber, Microsoft и прочих технологических компаний. Илон, как и многие другие исследователи в этой области, полагает, что работы в этом направлении в конечном итоге приведут к созданию полноценного ИИ. Илон признался, что его желание колонизировать Марс связано в том числе с угрозой порабощения Земли искусственным интеллектом.
Впрочем, в научном сообществе немало и тех, кто сомневается в том, что это вообще когда-либо произойдет, в ближайшие несколько десятков лет так точно нет.
Некоторых исследователей волнует то, каким образом используются актуальные системы ИИ. Исследователь Google Brain Дэвид Ха, например, отправил Маску в Twitter сообщение, что его больше беспокоит то, как машинное обучение используется для «маскировки неэтических человеческих поступков», нежели его потенциальная опасность для человечества. Другими словами, он считает нынешние ИИ сомнительными с точки зрения пользы для общества. За последнее время было множество спорных примеров использования систем машинного обучения, включая вынесение приговоров осужденным в США. И эксперты предупреждают, что отсутствие интереса со стороны администрации Трампа к ИИ (и науке в целом) подразумевает, что многие важные аспекты так и не получат никакого внимания. В этом свете комментарии Маска определенно выглядят уместными.
Полностью видеозапись выступления Маска с 2017 NGA Summer Meeting можно посмотреть ниже (об ИИ миллиардер начинает говорить на 48 минуте).
Источник: The Verge и The Wall Street Journal