Некоммерческая организация OpenAI, согласно декларируемой ею философии, работает над созданием ИИ-решений, построенных с соблюдением принципов прозрачности и безопасности. Однако один из ее основателей, Илон Маск, не уверен в том, что компания продолжает соблюдать собственные же стандарты. За 5 лет, прошедших с момента ее основания, ее настоящие, а не просто заявляемые, подходы радикально изменились, и сегодня никто не знает, над чем на самом деле работает одна из сильнейших в мире команд в области ИИ. С критикой своего детища Маск, покинувший ряды OpenAI год назад, выступил в Twitter.
В ответ на статью Карен Хао в издании MIT Technology Review, которая вскрыла культуру секретности в OpenAI, противоречащую декларируемому стремлению к прозрачности, предприниматель заявил, что ИИ-организации «следует быть более открытой» и уделять больше внимания безопасности.
OpenAI should be more open imo
— Elon Musk (@elonmusk) February 17, 2020
При этом он усомнился в том, что эти задачи важны для Дарио Амодеи, бывшего инженера Google, который сейчас отвечает за стратегию OpenAI, пишет TechCrunch.
I have no control & only very limited insight into OpenAI. Confidence in Dario for safety is not high.
— Elon Musk (@elonmusk) February 17, 2020
Напомним, OpenAI была основана в 2015 году с миссией «вести передовые разработки в области искусственного интеллекта на благо человечества» и собрала $1 млрд от группы первых инвесторов: Сэма Альтмана, Питера Тиля, Грэга Брокмана, Войцеха Зарембы, Джона Шульмана и того же Маска. В начале своего пути она отмежевывалась от других ИИ-лабораторий, культивируя полную прозрачность. Согласно первоначальной задумке, новоявленная ИИ-организация должна была на собственном примере показать обществу и регуляторам, как следует разрабатывать искусственный интеллект, чтобы он оставался безопасным и мог приносить пользу всем, а не только «небольшой группе заинтересованных лиц», то есть руководствам коммерческих IT-фирм. Предполагалось, что деятельность некоммерческой компании даже станет примером для регулирующих органов, которые на ее основе выработают наиболее оптимальную регуляторную политику, обеспечивающую безопасность ИИ-разработок и при этом несильно ограничивающую развитие технологии. В свое время Маск называл такой подход более практичной «альтернативой призывам зарегулировать отрасль от и до».
Вместе с тем, из статьи Хао следует, что сегодня организация отошла от своих обещаний и предпочла спрятать свои исследования от общественности и конкурентов. Так, в 2019 внутри некоммерческой OpenAI было сформировано коммерческое подразделение, которое получило $1 млрд от Microsoft, а также заключило партнерские соглашения, идущие вразрез с изначальными принципами организации.
Одной из причин ухода Маска из OpenAI в феврале прошлого года было как раз несогласие с изменениями в направлении развития ИИ-компании и некоторыми планами, которые собирались реализовать ее инженеры. О чем именно шла речь, Маск тогда не уточнять не стал, зато на днях написал, что ряд замыслов участников организации «действительно вызывает беспокойство».
Unfortunately, I must agree that these are reasonable concerns
— Elon Musk (@elonmusk) February 18, 2020
Более того, разочаровавшись в OpenAI, предприниматель теперь сам стал призывать регуляторов — причем как национальных, так и наднациональных — всерьез взяться за «все организации, разрабатывающие передовые ИИ-решения, в том числе Tesla».
All orgs developing advanced AI should be regulated, including Tesla
— Elon Musk (@elonmusk) February 17, 2020
Both
— Elon Musk (@elonmusk) February 17, 2020
Напоследок отметим, что критика в адрес OpenAI вполне согласуется с уже давно известной позицией Маска по поводу искусственного интеллекта и рисков, связанных с его развитием. Ранее предприниматель неоднократно предупреждал, что ситуация может зайти настолько далеко, что возникнет опасность для существования человеческой цивилизации.
Источник: hightech.plus
