Новини Технології 29.03.2023 о 17:51 comment views icon

Ілон Маск та понад 1000 експертів підписали відкритий лист про небезпеку просунутих ШІ – пропонується мораторій на розробку та регулювання

author avatar
https://itc.ua/wp-content/uploads/2023/11/photo_2023-11-12_18-48-05-3-96x96.jpg *** https://itc.ua/wp-content/uploads/2023/11/photo_2023-11-12_18-48-05-3-96x96.jpg *** https://itc.ua/wp-content/uploads/2023/11/photo_2023-11-12_18-48-05-3-96x96.jpg

Андрій Русанов

Автор сайту

Розділ Технології виходить за підтримки Favbet Tech

Ілон Маск разом з групою експертів зі штучного інтелекту та керівників галузі у відкритому листі закликали до шестимісячної паузи у розробках систем штучного інтелекту, потужніших, ніж нещодавно запущений OpenAI GPT-4. Автори листа посилаються на потенційні ризики для людства.

У листі, випущеному некомерційним «Інститутом майбутнього життя» (Future of Life Institute) та підписаному більш ніж 1000 осіб, включаючи Ілона Маска, міститься заклик призупинити розробку просунутого ШІ доти, доки не будуть створені, впроваджені та перевірені незалежними експертами загальні протоколи для таких проєктів. Сем Альтман, виконавчий директор OpenAI, не підписав листа.

«Потужні системи штучного інтелекту слід розробляти лише тоді, коли ми впевнені, що їхні ефекти будуть позитивними, а ризики керованими», — йдеться у листі.

У документі докладно описані потенційні ризики для суспільства та цивілізації з боку конкурентоспроможних систем штучного інтелекту у вигляді економічних та політичних потрясінь, а також міститься заклик до розробників співпрацювати з політиками над організацією управління створенням регулювальних органів.

Серед співавторів листа – CEO Stability AI Емад Мостак, дослідники з Alphabet DeepMind, що належить, а також експерти в галузі штучного інтелекту Йошуа Бенжіо і Стюарт Рассел.

Згідно з реєстром прозорості Європейського Союзу, «Інститут майбутнього життя» здебільшого фінансується «Фондом Маска» (Musk Foundation), а також лондонською групою ефективного альтруїзму Founders Pledge та «Фондом спільноти Кремнієвої долини» (Silicon Valley Community Foundation).

Практичний інтенсивний курс з дизайну - Design Booster від Powercode academy.
Навчіться дизайну з нуля за 3 місяці і заробляйте перші $1000, навіть якщо ви не маєте креативного мислення, смаку або вміння малювати. Отримайте практичні навички, необхідні для успішної кар'єри в дизайні.
Зарееструватися

Європол у понеділок також висловив побоювання з приводу передового ШІ, такого як ChatGPT, та попередив про потенційне неправомірне використання системи у спробах фішингу, дезінформації та інших кіберзлочинів.

Уряд Великобританії оприлюднив пропозиції щодо «адаптованої» нормативно-правової бази щодо ШІ. Підхід уряду, викладений у програмному документі, опублікованому сьогодні, полягає у розподілі відповідальності за управління штучним інтелектом між регулювальними органами у галузі прав людини, здоров’я та безпеки і конкуренції, а не у створенні нового органу, який займається цією технологією.

З одного боку, можливості просунутих систем штучного інтелекту, що не до кінця зрозумілі та доступні уяві, викликають побоювання цілком виправдано. Ми бачимо, що це, як мінімум, неточний інструмент, судячи з багатьох відповідей чат-ботів з ШІ останнім часом. Отже, ШІ можуть спотворювати інформацію та вводити в оману. Або оприлюднювати конфіденційні дані. Вони можуть виконувати та спрощувати досить складні завдання, такі як програмування – що можна використовувати на користь або на шкоду.

З іншого, позиція Ілона Маска та його причетність до письма – факти досить неоднозначні. Маска Tesla, що належить використовує ШІ в керуванні автопілотами електромобілів – як ми знаємо, не найдосконалішими. Маск вже висловлювався за обережність щодо ШІ, можливо, історія з автопілотом його чомусь навчила. Але також відомо, що свого часу він хотів очолити OpenAI, а пізніше оголосив про створення власної системи, схожої на ChatGPT. Перефразовуючи відому приказку, «не можеш очолити – перемагай». Очевидно, що призупинення розробки та використання ШІ дасть «фору» тим, хто менш досяг успіху в цій галузі – таким, як Ілон Маск.

Трьох законів робототехніки вже замало — розробник ChatGPT пропонує нові принципи керування ШІ-технологіями

Практичний інтенсивний курс з дизайну - Design Booster від Powercode academy.
Навчіться дизайну з нуля за 3 місяці і заробляйте перші $1000, навіть якщо ви не маєте креативного мислення, смаку або вміння малювати. Отримайте практичні навички, необхідні для успішної кар'єри в дизайні.
Зарееструватися

Джерело: ReutersChat

Розділ Технології виходить за підтримки Favbet Tech

Favbet Tech – це ІТ-компанія зі 100% українською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологій та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців. IT-компанія входить у групу компаній FAVBET.


Loading comments...

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: