У посланні до 60-го Всесвітнього дня соціальних комунікацій від 24 січня (день відзначається 17 травня) Папа Римський критикував продукти штучного інтелекту та дипфейки.
Лев XIV, котрий, як раніше повідомляв ITC.ua, не цурається деяких ігор та фільмів і не далекий від сучасної культури, висловив негативне ставлення до штучно створених або перероблених облич та голосів — того, що називають дипфейками. Ймовірно, слова про це відображають позицією католицької церкви.
“Наші обличчя та голоси — це унікальні, відмінні риси кожної людини; вони розкривають власну неповторну ідентичність людини та є визначальними елементами кожної зустрічі з іншими. […] Обличчя та голоси священні. Бог, який створив нас за своїм образом і подобою, дав їх нам, коли покликав нас до життя через Слово, яке Він звернув до нас”, — йдеться у посланні.
Голоси та обличчя — не єдине, що бентежить Понтифіка. Він бачить проблему на більш високому рівні — як мовні та інші генеративні моделі впливають на життя та спілкування.
“… Цифрові технології загрожують радикально змінити деякі фундаментальні основи людської цивілізації, які часом сприймаються як належне. Імітуючи людські голоси та обличчя, мудрість та знання, свідомість та відповідальність, емпатію та дружбу, системи, відомі як штучний інтелект, не лише втручаються в інформаційні екосистеми, але й посягають на найглибший рівень комунікації – людські стосунки”.
Папа Римський не закликає до відмови від ШІ. Але він наголошує на відповідальному використанні та усвідомленні ризиків.
“Захист облич і голосів зрештою означає захист самих себе. Скористатися можливостями, що пропонують цифрові технології та штучний інтелект, з мужністю, рішучістю та розсудливістю не означає закривати очі на критичні проблеми, складнощі та ризики”.
“Не відмовляйся від своєї здатності мислити” — окремо підкреслює Лев XIV.
На заваді цьому голова Католицької церкви бачить не тільки ШІ, але й соціальні мережі. Точніше, їхню сучасну технологічну організацію, алгоритми заохочення користувачів та підбору контенту.
“Вже давно існує безліч доказів того, що алгоритми, розроблені для максимізації залучення в соціальних мережах (що вигідно для платформ) винагороджують швидкі емоції та карають більш трудомісткі людські реакції, такі як зусилля, необхідні для розуміння та рефлексії. Групуючи людей у бульбашки легкого консенсусу та легкого обурення, ці алгоритми зменшують нашу здатність слухати та критично мислити, а також посилюють соціальну поляризацію.”
Не залишилася поза увагою й проблема залежності від ШІ. Послання розкриває її зв’язок і зниженням здібностей людини.
“Ситуація ще більше посилюється наївною та беззаперечною залежністю від штучного інтелекту як “друга”, котрий знає все, джерела всіх знань, архіву всіх спогадів, “оракула” всіх порад. Все це може ще більше підірвати нашу здатність аналітично та творчо мислити, розуміти значення та розрізняти синтаксис і семантику. Хоча ШІ може надавати підтримку та допомогу у керуванні завданнями, пов’язаними з комунікацією, зрештою, уникнення зусиль для самостійного мислення та задоволення штучними статистичними компіляціями загрожує зниженням наших когнітивних, емоційних та комунікативних навичок”.
Слова винесені у заголовок, стосуються “творчості” ШІ. Генерація контенту увірвалася до майже усіх творчих галузей. Понтифік закликає бути обережним з цим.
“В останні роки системи штучного інтелекту дедалі більше контролюють виробництво текстів, музики та відео. Це ставить значну частину людської творчої індустрії під загрозу демонтажу та заміни етикеткою «Працює на штучному інтелекті», перетворюючи людей на пасивних споживачів необдуманих думок та анонімних продуктів без права власності чи любові. Тим часом шедеври людського генія в галузі музики, мистецтва та літератури зводяться до простих тренувальних майданчиків для машин”.
У досить великому посланні Лев XIV також торкнувся оманливого олюднення ШІ, впливу на вибір, дезінформації та спотворення реальності як результату цих процесів.
“Сила симуляції така, що штучний інтелект може навіть обманювати нас, створюючи паралельні “реальності”, узурпуючи наші обличчя та голоси. Ми занурені у світ багатовимірності, де стає дедалі важче відрізнити реальність від вигадки.”
Згадав Папа Римський і визнання ШІ та його творців “Людиною року 2025”, як доказ його тез. Його занепокоєння викликає “олігополістичний контроль” систем ШІ, котрий здатний “здатні непомітно впливати на поведінку і навіть переписувати історію людства, включаючи історію Церкви”. У тексті багато разів повторюється слово “відповідальність”, заклик до якої можна назвати головним у посланні. Лев XIV закликає компанії та суспільство до співпраці у запобіганні ризикам, викликаним новою технологією.
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: