Блоги

Илон Маск раскритиковал атмосферу непрозрачности, сложившуюся в некогда открытой некоммерческой организации OpenAI

Илон Маск раскритиковал атмосферу непрозрачности, сложившуюся в некогда открытой некоммерческой организации OpenAI

Некоммерческая организация OpenAI, согласно декларируемой ею философии, работает над созданием ИИ-решений, построенных с соблюдением принципов прозрачности и безопасности. Однако один из ее основателей, Илон Маск, не уверен в том, что компания продолжает соблюдать собственные же стандарты. За 5 лет, прошедших с момента ее основания, ее настоящие, а не просто заявляемые, подходы радикально изменились, и сегодня никто не знает, над чем на самом деле работает одна из сильнейших в мире команд в области ИИ. С критикой своего детища Маск, покинувший ряды OpenAI год назад, выступил в Twitter.

В ответ на статью Карен Хао в издании MIT Technology Review, которая вскрыла культуру секретности в OpenAI, противоречащую декларируемому стремлению к прозрачности, предприниматель заявил, что ИИ-организации «следует быть более открытой» и уделять больше внимания безопасности.

При этом он усомнился в том, что эти задачи важны для Дарио Амодеи, бывшего инженера Google, который сейчас отвечает за стратегию OpenAI, пишет TechCrunch.

Курс
Full Stack розробка
Навчайтесь за вільним графіком, щоб стати універсальним фахівцем зі знанням Back-end та Front-end. Заробляйте $1300 на місяць
РЕЄСТРУЙТЕСЯ!
Full Stack розробка

Напомним, OpenAI была основана в 2015 году с миссией «вести передовые разработки в области  искусственного интеллекта на благо человечества» и собрала $1 млрд от группы первых инвесторов: Сэма Альтмана, Питера Тиля, Грэга Брокмана, Войцеха Зарембы, Джона Шульмана и того же Маска. В начале своего пути она отмежевывалась от других ИИ-лабораторий, культивируя полную прозрачность. Согласно первоначальной задумке, новоявленная ИИ-организация должна была на собственном примере показать обществу и регуляторам, как следует разрабатывать искусственный интеллект, чтобы он оставался безопасным и мог приносить пользу всем, а не только «небольшой группе заинтересованных лиц», то есть руководствам коммерческих IT-фирм. Предполагалось, что деятельность некоммерческой компании даже станет примером для регулирующих органов, которые на ее основе выработают наиболее оптимальную регуляторную политику, обеспечивающую безопасность ИИ-разработок и при этом несильно ограничивающую развитие технологии. В свое время Маск называл такой подход более практичной «альтернативой призывам зарегулировать отрасль от и до».

Вместе с тем, из статьи Хао следует, что сегодня организация отошла от своих обещаний и предпочла спрятать свои исследования от общественности и конкурентов. Так, в 2019 внутри некоммерческой OpenAI было сформировано коммерческое подразделение, которое получило $1 млрд от Microsoft, а также заключило партнерские соглашения, идущие вразрез с изначальными принципами организации.

Одной из причин ухода Маска из OpenAI в феврале прошлого года было как раз несогласие с изменениями в направлении развития ИИ-компании и некоторыми планами, которые собирались реализовать ее инженеры. О чем именно шла речь, Маск тогда не уточнять не стал, зато на днях написал, что ряд замыслов участников организации «действительно вызывает беспокойство».

Более того, разочаровавшись в OpenAI, предприниматель теперь сам стал призывать регуляторов — причем как национальных, так и наднациональных — всерьез взяться за «все организации, разрабатывающие передовые ИИ-решения, в том числе Tesla».

Напоследок отметим, что критика в адрес OpenAI вполне согласуется с уже давно известной позицией Маска по поводу искусственного интеллекта и рисков, связанных с его развитием. Ранее предприниматель неоднократно предупреждал, что ситуация может зайти настолько далеко, что возникнет опасность для существования человеческой цивилизации.

Источник: hightech.plus


Завантаження коментарів...

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: