Илон Маск и более 1000 экспертов подписали открытое письмо об опасности продвинутых ИИ – предлагается мораторий на разработку и регулирование

Опубликовал
Андрій Русанов

Илон Маск вместе с группой экспертов по искусственному интеллекту и руководителей отрасли в открытом письме призвали к шестимесячной паузе в разработках систем искусственного интеллекта, более мощных, чем недавно запущенный OpenAI GPT-4. Авторы письма ссылаются на потенциальные риски для человечества.

В письме, выпущенном некоммерческим «Институтом будущего жизни» (Future of Life Institute) и подписанном более чем 1000 человек, включая Илона Маска, содержится призыв приостановить разработку продвинутого ИИ до тех пор, пока не будут созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов. Сэм Альтман, исполнительный директор OpenAI, не подписал письмо.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в письме.

В документе подробно описаны потенциальные риски для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать с политиками над организацией управления и созданием регулирующих органов.

Онлайн-курс "Advanced Excel" від Laba.
22 практичних заняття про просунуті інструменти обробки даних.Автоматизуйте, оптимізуйте — та звільніть час для пріоритетних завдань.
Детальніше про курс

Среди соавторов письма – CEO Stability AI Эмад Мостак, исследователи из принадлежащей Alphabet DeepMind, а также эксперты в области искусственного интеллекта Йошуа Бенжио и Стюарт Рассел.

Согласно реестру прозрачности Европейского Союза, «Институт будущего жизни» в основном финансируется «Фондом Маска» (Musk Foundation), а также лондонской группой эффективного альтруизма Founders Pledge и «Фондом сообщества Кремниевой долины» (Silicon Valley Community Foundation).

Европол в понедельник также высказал опасения по поводу передового ИИ, такого как ChatGPT, предупредив о потенциальном неправомерном использовании системы в попытках фишинга, дезинформации и прочих киберпреступлений.

Правительство Великобритании обнародовало предложения по «адаптируемой» нормативно-правовой базе в отношении ИИ. Подход правительства, изложенный в программном документе, опубликованном сегодня, заключается в разделении ответственности за управление искусственным интеллектом между регулирующими органами в области прав человека, здоровья и безопасности и конкуренции, а не в создании нового органа, занимающегося этой технологией.

С одной стороны, возможности продвинутых систем искусственного интеллекта, не до конца понятные и доступные воображению, вызывают опасения вполне оправданно. Мы видим, что это, как минимум, неточный инструмент, судя по многим ответам чат-ботов с ИИ за последнее время. Следовательно, ИИ могут искажать информацию и вводить в заблуждение. Или обнародовать конфиденциальную информацию. Они могут выполнять и упрощать достаточно сложные задачи, такие как программирование – что можно использовать как на пользу, так и во вред.

С другой, позиция Илона Маска и его причастность к письму – факты довольно неоднозначные. Принадлежащая Маску Tesla использует ИИ в управлении автопилотами электромобилей – как мы знаем, не самыми совершенными. Маск уже высказывался за осторожность в отношении ИИ, возможно история с автопилотом его чему-то научила. Но также известно, что в свое время он хотел возглавить OpenAI, а позже объявил о разработке собственной системы, похожей на ChatGPT. Перефразируя известную поговорку, «не можешь возглавить – победи». Очевидно, что приостановка разработки и использования ИИ даст «фору» тем, кто меньше преуспел в этой отрасли – таким, как Илон Маск.

Источник: Reuters

Disqus Comments Loading...