Топові ШІ-дослідники кажуть, що штучний інтелект створює «ризики вимирання», подібні до ядерної війни

Розділ Технології виходить за підтримки Favbet Tech

З появою ChatGPT, Bard та інших великих мовних моделей (LLM) лідери технологічної галузі регулярно говорять про негативні наслідки, які може спричинити використання ШІ. Щобільше, у новому листі топові дослідники технології заявляють, що штучний інтелект створює «‎ризики вимирання», подібні до тих, що можуть спричинити пандемії чи навіть ядерні війни.

Зменшення цих ризиків має стати «‎глобальним пріоритетом» людства, впевнені підписанти нового листа, серед яких гендиректор OpenAI Сем Альтман, керівник Google DeepMind Деміс Хассабіс, а також дослідники та лауреати Премії Тюрінга 2018 року за роботу над ШІ, Джеффрі Хінтон і Йошуа Бенгіо, яких багато хто вважає «хрещеними батьками сучасного штучного інтелекту».

Цікаво, що сама заява складається всього з 22 слів — нібито для того, щоб «уникнути розбіжностей між підписантами». В ще одному відкритому листі, опублікованому у березні, Ілон Маск, Стів Возняк та понад 1000 інших експертів закликали призупинити розробки технології на пів року.

Нині ризики ШІ здебільшого пов’язані з етичністю, дезінформацією, авторським правом та потенційним впливом на робочі місця. Однак багато експертів вказують на швидке вдосконалення таких систем, як великі мовні моделі, як доказ майбутніх прогнозованих досягнень інтелекту, та стверджують, що коли системи ШІ досягнуть певного рівня складності, контролювати їхні дії буде неможливо.

У багатьох країнах вже роблять спроби заборонити чи обмежити використання великих мовних моделей. Президент США Джо Байден нещодавно заявив, що необхідно «з’ясувати, чи є ШІ небезпечним‎», додавши, що технічні компанії зобов’язані переконатися, що їхні продукти безпечні, перш ніж оприлюднювати їх. На нещодавній зустрічі в Білому домі Сем Альтман сам закликав законодавців до регулювання ШІ через потенційні ризики.

Розділ Технології виходить за підтримки Favbet Tech

Favbet Tech – це ІТ-компанія зі 100% українською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологій та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців. IT-компанія входить у групу компаній FAVBET.