Гостем Decoder, програми головного редактора The Verge Нілая Пателя, став експрезидент США Барак Обама, який відповів на чисельні питання про штучний інтелект, свободу слова та майбутнє інтернету.
Пропонуємо переклад оригінального матеріалу:
Минулого тижня я зустрівся з президентом Обамою в його офісі у Вашингтоні, округ Колумбія, всього за кілька годин після того, як президент Джо Байден підписав масштабний указ про ШІ. Цей указ охоплює досить широке коло питань — від маркування контенту, створеного штучним інтелектом, до розробки протоколів безпеки для компаній, що працюють над найсучаснішими моделями ШІ.
Обама казав, що обговорював з адміністрацією Байдена та лідерами технологічної індустрії питання штучного інтелекту і того, як найкраще його регулювати. І колишній президент має тут особливо унікальний досвід — він довгий час був одним з найбільш фальсифікованих людей у світі.
Моя ідея полягала в тому, щоб поговорити з Обамою-професором конституційного права більше, ніж з Обамою-політиком, тому ця розмова швидко розхиталася. Ви почуєте, як він згадує нацистів у Скокі — це посилання на відому справу Верховного Суду 70-х років, де Американський союз громадянських свобод стверджував, що заборона нацистській групі проводити марші є порушенням Першої поправки до Конституції.
Ви можете почути, як я захоплено розповідаю про справу Red Lion Broadcasting проти FCC, рішення Верховного суду 1969 року, в якому йшлося про те, що уряд може нав’язати радіо- і телевізійним мовникам так звану Доктрину справедливості, оскільки громадськість є власником ефіру, а отже, може встановлювати вимоги щодо його використання. Для кабельного телебачення та інтернету, які не користуються суспільним ефіром, подібних рамок не існує, і це значно ускладнює, якщо не унеможливлює, регулювання їхньої діяльності.
Обама каже, що він не згоден з ідеєю, що соціальні мережі є чимось на кшталт «загальних перевізників», які повинні поширювати всю інформацію однаково. Ця ідея, зокрема, була висловлена суддею Кларенсом Томасом у 2021 році, і вона лягла в основу законів, що регулюють соціальні мережі в Техасі та Флориді — законів, які наразі перебувають на розгляді у Верховному суді.
Нарешті, Обама каже, що розмовляв з технічним керівником, який сказав йому, що найкращим порівнянням впливу ШІ на світ буде електрика, і ви почуєте від мене, що я маю здогадатися, про кого йдеться. І ось моя здогадка: це Сундар Пічаї з Google, який з 2018 року стверджує, що ШІ є більш значущим, ніж електрика чи вогонь. Але це лише моє припущення. А ви послухайте і дайте мені знати, хто це, на вашу думку.
І ще одне: я обов’язково запитав Обаму, які програми були на головному екрані його iPhone.
Президенте Барак Обама, ви 44-й президент Сполучених Штатів. Ми знаходимося у Фонді Обами.
Дуже приємно бути тут. Дякую за запрошення.
Я з нетерпінням чекаю на розмову з вами — нам є про що поговорити.
Ми зібралися тут з нагоди підписання президентом Байденом указу про штучний інтелект. Я б охарактеризував цей указ як «масштабний». Гадаю, він налічує понад 100 сторінок. У ньому багато ідей: від регулювання біосинтезу за допомогою ШІ до правил безпеки. Він вимагає створення червоних команд і прозорості. Водяні знаки. Це нові виклики для відносин уряду з технологіями.
Я хочу почати з питання від Decoder: як ви думаєте про ці виклики і як ви їх оцінюєте?
Це те, чим я цікавлюся вже давно. У 2015, 2016 роках, коли ми спостерігали, як соціальні мережі та інформаційна революція трансформують ландшафт і впливають на всі аспекти нашого життя, я почав брати участь у розмовах про штучний інтелект і наступну фазу, наступну хвилю, яка може настати. Я думаю, що один з уроків, який ми винесли з трансформації нашого медіаландшафту в тому, що з цього можуть вийти неймовірні інновації, неймовірні перспективи, неймовірне добро.
Але є й купа непередбачуваних наслідків, і ми повинні бути, можливо, трохи більш цілеспрямованими щодо того, як наші демократії взаємодіють з тим, що в першу чергу створюється в приватному секторі. Які правила дорожнього руху ми встановлюємо, і як ми можемо переконатися, що ми максимізуємо хороше і, можливо, мінімізуємо деяке погане?
Тож я доручив своєму науковцю Джону Холдрену разом з Джоном Подестою, який був колишнім керівником апарату і працював над питаннями зміни клімату, [і сказав]: «Зберімо кількох експертів, щоб з’ясувати це».
Ми випустили великий звіт в останній рік мого перебування на посаді. Цікаво, що вже тоді люди відчували, що [ШІ] — надзвичайно перспективна технологія, але ми, можливо, перебільшуємо щодо того, як швидко вона прийде. Як ми побачили за останні рік-два, навіть ті, хто розробляє ці великі мовні моделі, починають розуміти, що ця річ рухається швидше і потенційно є навіть більш потужною, ніж ми спочатку уявляли.
У розмовах з урядовцями, представниками приватного сектору та науковцями я дійшов висновку, що це буде трансформаційна технологія, яка широко [змінить] форму нашої економіки.
Певним чином, навіть наші пошукові системи — базові речі, які ми сприймаємо як належне — вже працюють на основі деяких принципів ШІ, але цей процес буде прискорено. Це вплине на те, як ми робимо речі, як ми надаємо послуги, як ми отримуємо інформацію. Потенціал для величезних проривів у медицині, потенціал для надання індивідуального навчання дітям у віддалених районах, потенціал для розв’язання енергетичних проблем і боротьби з парниковими газами — все це може відкрити дивовижні інновації, але також може завдати певної шкоди.
Ми можемо опинитися з потужними моделями ШІ в руках когось у підвалі, хто розробляє новий варіант віспи, або недержавних суб’єктів, які раптом, завдяки потужному інструменту ШІ, зможуть зламати критично важливу інфраструктуру. Або, що менш драматично, ШІ проникає в життя наших дітей у спосіб, який ми не планували — в деяких випадках так, як це сталося з соціальними мережами.
Отже, я вважаю, що уряд, як виразник нашої демократії, повинен бути в курсі того, що відбувається. Ті, хто розробляє ці «прикордонні» системи, повинні бути прозорими. Я не вважаю, що ми повинні намагатися повернути джина назад у пляшку і бути антитехнологічними через весь цей величезний потенціал. Але я думаю, що ми повинні поставити певні огорожі навколо деяких ризиків, які ми можемо передбачити, і мати достатню гнучкість, щоб [вони] не знищували інновації, але також спрямовували й керували цією технологією таким чином, щоб максимізувати не тільки прибутки окремих компаній, а й суспільне благо.
Дозвольте мені провести порівняння: Я б сказав, що проблемою в регулюванні технологій протягом останніх 15 років були соціальні мережі. Як нам регулювати соціальні медіа? Як зробити так, щоб у них було більше хорошого і менше поганого? Переконатися, що дійсно погані речі є незаконними. Ви прийшли на посаду президента на хвилі соціальних мереж.
Я був першим цифровим президентом.
Я пам’ятаю, у вас був BlackBerry. Люди були дуже схвильовані вашим BlackBerry. Я написав статтю про ваш iPad. Це була трансформація — молоді люди прийдуть у політичне середовище, вони будуть використовувати ці інструменти, і ми змінимо Америку разом з ними.
Ви можете заперечити, що мене б не обрали, якби не соціальні мережі.
Зараз ми по інший бік цього. Був ще один хлопець, якого обрали завдяки соціальним мережам. Був інший рух в Америці, який був дуже негативно налаштований щодо цих виборів.
Я б сказав, що ми фактично не змогли регулювати соціальні мережі. У нас навіть немає всеосяжного законопроєкту про конфіденційність.
Зрозуміло.
У цій країні вже існувала база для регулювання медіа. Ми могли б застосувати багато з того, що ми знали про те, «чи повинні ми мати хороші медіа?», до соціальних мереж. Там є деякі питання Першої поправки — важливі питання.
Зі штучним інтелектом це більше схоже на «ми скажемо комп’ютерам зробити щось, і вони це зроблять».
Так. Ми сподіваємося. [Сміється]
У нас немає ніяких рамок для цього.
Ми сподіваємося, що вони роблять те, що ми думаємо, що ми їм говоримо.
Ми ставимо комп’ютерам запитання. Вони можуть просто впевнено брехати нам або допомагати нам брехати у великих масштабах. Для цього немає ніяких рамок. Що, на вашу думку, ви можете винести з невдачі регулювання соціальних мереж у цьому новому середовищі, щоб цього разу зробити все правильно?
Це одна з причин, чому я вважаю, що те, що адміністрація Байдена зробила сьогодні, оприлюднивши ПП, є дуже важливим. Не тому, що це кінцевий пункт, а тому, що це дійсно початок побудови структури.
Коли ви згадали про те, що в цьому указі міститься багато різних речей, це свідчить про те, що ми не знаємо всіх проблем, які можуть виникнути через це. Ми не знаємо всього багатообіцяючого потенціалу штучного інтелекту, але ми починаємо закладати основи того, що, як ми сподіваємося, буде розумною основою для роботи з ним.
У деяких випадках ШІ може прискорити прогрес, скажімо, в медицині. Ми вже бачили такі речі, як згортання білка, і прориви, які не відбулися б, якби не деякі з цих інструментів ШІ. Ми хочемо переконатися, що це робиться безпечно. Ми хочемо переконатися, що це робиться відповідально, і, можливо, ми вже маємо певні закони, які можуть цим керувати.
Але можуть бути й такі новітні розробки в галузі штучного інтелекту, де існуючі агентства, чинні закони просто не спрацьовують. Якщо ми маємо справу з проблемою узгодження і хочемо переконатися, що деякі з цих великих мовних моделей — де навіть розробники не зовсім впевнені в тому, що роблять ці моделі, що думає або робить комп’ютер — в такому випадку нам доведеться з’ясувати: що таке «червона команда»? Що таке режими тестування?
Якщо поспілкуватися з самими компаніями, вони визнають, що їхні протоколи безпеки та режими тестування, можливо, ще не на тому рівні, на якому вони повинні бути. Я думаю, що для нас цілком доречно підняти прапор і сказати: “Гаразд, прикордонні компанії, ви повинні розкрити ваші протоколи безпеки, щоб переконатися, що у нас немає шкідливих програм, які зламують нашу фінансову систему”, наприклад. Розкажіть нам, які тести ви використовуєте. Переконайтеся, що у нас є незалежна перевірка, яка підтвердить, що зараз все це працює.
Але цей фреймворк не може бути фіксованим. Ці моделі розвиваються так швидко, що нагляд і будь-яка регуляторна база повинні бути гнучкими і рухливими. До речі, це також потребуватиме дуже розумних людей, які розуміють, як працюють ці програми та моделі — не лише в самих компаніях, а й у неприбутковому секторі та в уряді. Ось чому я був радий побачити, що в указі адміністрації Байдена міститься конкретний заклик до групи молодих людей, які цікавляться штучним інтелектом, попрацювати за межами компаній і деякий час попрацювати в уряді. Попрацювати з деякими дослідницькими інститутами, які з’являються в таких місцях, як Гарвардська лабораторія [прикладних соціальних мереж] або Стенфордський центр штучного інтелекту, а також з деякими іншими некомерційними організаціями.
Нам потрібно переконатися, що кожен може бути впевненим у тому, що яким би шляхом ми не йшли з ШІ, він не керується лише кількома людьми без будь-якої взаємодії чи голосу звичайних людей — звичайних людей, які використовуватимуть ці продукти й на яких вони впливатимуть.
Є звичайні люди, а є люди, які створюють це, і яким потрібно допомагати писати правила, і тут є розкол.
Протягом багатьох років у Долині вважалося, що уряд занадто повільний. Він не розуміється на технологіях. На той час, коли він напише функціональне правило, технологія, яку він хотів регулювати, вже застаріє. Це помітно відрізняється, чи не так? Приречені на загибель штучного інтелекту – це ті, хто найбільше просить про регулювання.
Так.
Великі компанії просять про регулювання. [Сем Альтман (генеральний директор OpenAI) об’їздив столиці світу з ввічливим проханням про регулювання. Як ви думаєте, чому існує такий запал до цього регулювання? Чи це просто бажання чинних осіб закріпити свої позиції?
Ви порушили важливе питання. Я думаю, що серед деяких людей є певна підозра, що ці компанії хочуть регулювання, тому що вони хочуть заблокувати конкуренцію. Як ви знаєте, історично центральним принципом технологічної культури був відкритий вихідний код. Ми хочемо, щоб усе було відкритим. Кожен може грати з моделями та додатками й створювати нові продукти, і саме так відбуваються інновації.
Тут регулювання починає виглядати так, що, можливо, ми почнемо мати закриті системи, і великі передові компанії — Microsoft, Google, OpenAI, Anthropics — якимось чином заблокують нам доступ до них. Але в моїх розмовах з технологічними лідерами на цю тему, я думаю, вперше з’явилося справжнє смирення, тому що вони бачать силу, яку можуть мати ці моделі.
Я розмовляв з одним керівником — і подивіться, у світі технологій не бракує гіпербол, чи не так? Але це досить тверезий хлопець, який бачив багато таких циклів і пройшов через бум і крах. Я запитав його: «Ну, коли ви говорите, що ця технологія, на вашу думку, стане трансформаційною, наведіть мені якусь аналогію». Він відповів: «Я сидів зі своєю командою, і ми говорили про це. Після довгих роздумів ми вирішили, що, можливо, найкращою аналогією буде електрика». І я подумав: «Ну, так, електрика. Це було дуже важливо». [Сміється].
Якщо це так, то я думаю, що вони розуміють, що це в їхніх власних комерційних інтересах, щоб тут не було якоїсь великої помилки. Якщо це справді настільки трансформаційно, як вони очікують, то наявність певних правил і захисту створює конкурентне поле, яке дає змогу всім брати участь, створювати нові продукти, конкурувати за ціною, конкурувати за функціональністю, але [заважає нам] брати на себе такі великі ризики, що все це вибухне у нас перед носом.
Я вважаю, що існує щире занепокоєння, що якщо ми просто влаштуємо необмежену гонку на дно, то це може призвести до того, що ми задушимо курку, яка може нести кучу золотих яєць.
Однак у Долині існує думка, що будь-яке обмеження технологій — це погано.
Так, і я з цим не згоден.
Будь-яка обережність, будь-який принцип, де ви можете сповільнитись, є ворогом прогресу, і для загального блага буде краще, якщо ми просто мчатимемо вперед якомога швидше.
Справедливості заради, це не тільки в Долині, це в кожному бізнесі, який я знаю.
Не можна сказати, що Волл-стріт любить регулювання. Не схоже на те, що виробники дуже хочуть, щоб уряд втручався в те, як вони виробляють товари. Одна з речей, яку ми засвоїли в індустріальну та інформаційну епоху протягом останнього століття, полягає в тому, що ви можете надмірно регулювати. Ви можете мати надмірно забюрократизовані речі.
Але якщо у вас є розумні правила, які встановлюють певні базові цілі та стандарти — переконатися, що ви не створюєте продукти, які є небезпечними для споживачів; переконатися, що якщо ви продаєте харчові продукти, люди, які заходять до продуктового магазину, можуть бути впевнені, що вони не помруть від сальмонели чи кишкової палички; бути впевненим, що якщо хтось купує автомобіль, то гальма працюють; бути впевненим, що якщо я візьму свою електричну річ і ввімкну її в розетку де завгодно, в будь-якій точці країни, вона не вдарить мене струмом і не вибухне мені в обличчя — виявляється, що всі ці різноманітні правила і стандарти насправді створюють ринки і є корисними для бізнесу, а інновації потім розвиваються навколо цих правил.
Я думаю, що частина того, що відбувається в технологічній спільноті, — це відчуття того, що «ми розумніші за всіх інших, а ці люди, які нас гальмують, перешкоджають швидкому прогресу». Якщо поглянути на історію інновацій, то виявляється, що наявність певних розумних орієнтирів, навколо яких розвиваються інновації, не лише не сповільнює, але в деяких випадках навіть підвищує стандарти та прискорює прогрес.
Було багато людей, які казали: «Послухайте, ви вб’єте автомобіль, якщо покладете туди подушки безпеки». Виявилося, що насправді люди зрозуміли: «Знаєте що? Ми можемо покласти туди подушки безпеки і зробити їх безпечнішими. І з часом витрати знизяться, і всім буде краще».
В EO є дуже складна частина про походження — маркування контенту водяними знаками, щоб люди бачили, що він згенерований штучним інтелектом. Ви — одна з найбільш фальсифікованих людей у світі.
Безумовно. Коли я пішов з посади, то зрозумів, що мене, мабуть, знімали і записували більше, ніж будь-яку людину в історії, просто тому, що я був першим президентом, коли з’явився смартфон.
Я припускаю, що у вас є якісь дуже глибокі особисті почуття щодо того, що вас так глибоко підробляють. Тут є велика проблема з Першою поправкою, чи не так?
Так.
Я можу використовувати фотошоп одним способом, і уряд не каже, що я маю наклеювати на нього етикетку. Якщо я використовую його трохи по-іншому, уряд прийде і скаже Adobe: «Ви повинні наклеїти на це етикетку». Як ви вирівняти це коло? Мені це здається дуже складним завданням.
Я думаю, що це буде циклічний процес. Я не думаю, що ви зможете створити універсальне правило. Але правда в тому, що саме так розвивалося наше управління інформацією, медіа та мовленням протягом кількох сотень років. З кожною новою технологією нам доводиться адаптуватися і вигадувати нові правила дорожнього руху.
Візьмемо мій приклад: глибокий фейк про мене, який використовується для політичної сатири, або просто хтось, кому я не подобаюся, і вони хочуть мене підробити. Я був президентом Сполучених Штатів. Існують досить жорсткі правила, які захищають людей, що висміюють публічних осіб. Я публічна особа, і те, що ви робите зі мною як з публічною особою, відрізняється від того, що ви робите з 13-річною дівчинкою, першокурсницею середньої школи. Тому ми будемо ставитися до цього по-різному, і це нормально. Ми повинні мати інші правила для публічних осіб, ніж для приватних осіб. Ми повинні мати різні правила для того, що є політичним коментарем і сатирою, а що — кібербулінгом.
Як ви думаєте, де ці правила діють? Чи стосуються вони окремих осіб? Чи впливають вони на людей, які створюють інструменти, такі як Adobe чи Google? Чи впливають вони на мережі розповсюдження, такі як Facebook?
Я підозрюю, що ми маємо розібратися з тим, як розподіляється відповідальність. Послухайте, я викладав конституційне право. Я близький до абсолютистів Першої поправки в тому сенсі, що я взагалі не вважаю, що навіть образливі висловлювання, злі висловлювання і так далі не повинні регулюватися урядом. Я навіть готовий стверджувати, що на платформах соціальних мереж за замовчуванням має бути свобода слова, а не цензура. Я з усім цим згоден.
Але майте на увазі, що у нас ніколи не було повністю вільного слова, чи не так? У нас є закони проти дитячої порнографії. У нас є закони проти торгівлі людьми. У нас є закони проти певних видів висловлювань, які ми вважаємо дійсно шкідливими для громадського здоров’я та добробуту. Суди, коли оцінюють це, кажуть: «Гм». Вони придумують цілу купу обмежень щодо часу, місця і способу, які можуть бути прийнятними в одних випадках, але не прийнятними в інших. Ви отримуєте купу прецедентного права, яке розвивається.
Про це точаться суперечки на публічній площі. Ми можемо не погоджуватися — чи повинні нацисти мати можливість протестувати в Скокі? Що ж, це складне питання, але ми можемо з ним розібратися. Я думаю, що саме так це і буде розвиватися.
Я вважаю, що самі платформи є чимось більшим, ніж просто звичайні оператори, як телефонна компанія. Вони не пасивні. Завжди відбувається певна модерація контенту. Тож як тільки цю межу буде перейдено, для суспільства в цілому буде цілком розумно сказати: «Ми не хочемо віддавати це повністю на відкуп приватній компанії».
Я думаю, що ми повинні принаймні знати, як ви ухвалюєте ці рішення, які речі ви можете посилити за допомогою свого алгоритму, а які ні. Можливо, те, що ви робите, не є незаконним, але ми повинні принаймні знати, як приймаються деякі з цих рішень. Я думаю, що це буде саме такий процес. З чим я не згоден, так це з тим, що велика технологічна платформа якимось чином припускає, що [вони] хочуть, щоб до них ставилися повністю як до звичайного перевізника, а вони тут просто пасивні.
Це думка Кларенса Томаса, чи не так?
Кларенс Томас? Так. Але з іншого боку, ми знаємо, що [вони] продають рекламу на основі ідеї, що ви приймаєте купу рішень щодо [їхніх] продуктів.
Це дуже складно, чи не так? Якщо ви говорите, що [соціальні платформи] є звичайними операторами зв’язку, то ви фактично регулюєте їх. Ви кажете, що не можете приймати жодних рішень. Якщо ви говорите, що здійснюєте редакційний контроль, то вони захищені Першою поправкою.
Так.
Тоді регулювання стає дуже, дуже складним. Таке відчуття, що навіть у випадку зі штучним інтелектом — коли ми говоримо про створення контенту за допомогою штучного інтелекту — або з соціальними мережами, ми знову і знову наштовхуємося на Першу поправку. Більшість наших підходів — це те, що мене турбує — намагаються обійти її, щоб ми могли запровадити певні правила щодо мови, не кажучи, що ми збираємося запровадити певні правила щодо мови.
Закон про авторське право є найефективнішим регулятором мовлення в інтернеті, тому що всі погодяться: «Гаразд, це належить Діснею. Припиніть це».
Тому що йдеться про власність. Тут задіяні гроші.
Гроші. Можливо, менше майна, ніж грошей, але гроші точно.
IP, а отже, гроші. Так.
Вас не турбує, що ми створюємо фейкові правила мовлення, насправді не говорячи про баланс капіталів, який ви тут описуєте?
Я вважаю, що нам потрібно — і я думаю, що штучний інтелект сприятиме цьому — провести набагато активнішу публічну дискусію навколо цих правил і домовитися про деякі широкі принципи, якими ми будемо керуватися. Проблема в тому, що зараз, подивімось правді в очі, ми настільки загрузли в партійності — частково через останні вибори, частково через прихильників ковіду, вакцин і антивакцин, — що ми втратили здатність просто виробити принципи, які не надають перевагу тій чи іншій партії, тій чи іншій позиції, а відображають нашу загальну прихильність до демократії.
Але я хочу підкреслити, що нам не вперше доводиться це робити. Нам доводилося це робити, коли з’явилося радіо. Нам довелося це робити, коли з’явилося телебачення. Тоді це було легше зробити, частково тому, що у вас було три чи п’ять компаній, і суспільство через уряд технічно володіло ефіром, і ви могли наводити ці аргументи.
Це квадратик на моїй картці бінго — якщо я зможу дійти з вами до справи “Червоного лева”, я виграв. Існували рамки [у цій справі], які говорили, що уряд володіє ефіром, і він збирається розподіляти його між людьми певним чином, тому ми можемо приймати певні рішення, і це ефективна і відповідна ситуація.
Це був гачок.
Можете викласти це в інтернет?
Думаю, вам треба знайти інший вид гачка.
Звісно.
Але, зрештою, навіть ідея про те, що громадськість і уряд володіють ефіром – це був просто ще один спосіб сказати: “Це впливає на всіх, тому ми всі повинні мати право голосу в тому, як це працює, і ми віримо в капіталізм, і ми не заперечуємо проти того, що ви заробляєте купу грошей завдяки інноваціям, продуктам, які ви створюєте, і контенту, який ви випускаєте в ефір. Але ми хочемо мати право голосу в тому, що дивляться наші діти, і в тому, як рекламуються ті чи інші речі”.
Якби ви були президентом зараз — я був з родиною вчора ввечері, і виникла ідея, що китайський TikTok вчить дітей бути вченими і лікарями, але в нашому TikTok алгоритм інший, вона з’явилася. І ідея про те, що ми повинні мати правила, як у Китаї, які вчать наших дітей бути лікарями — всі батьки за столом сказали: «Так, нам це дуже подобається. Ми повинні це зробити».
Як би ви написали таке правило? Чи можливо це взагалі з нашою Першою поправкою?
Тривалий час, скажімо, у сфері телебачення, існували вимоги до дитячого телебачення. Вони продовжували розмиватися до такої міри, що дитячим телебаченням можна було вважати все, що завгодно, чи не так? У нас була доктрина справедливості, яка гарантувала, що існує певний баланс з точки зору того, як представлені погляди.
Я не сперечаюся про те, що добре, а що погано в цих питаннях. Я просто хочу сказати, що ми робили це раніше, і не було відчуття, що це якось антидемократично чи пригнічує інновації. Ми просто розуміли, що живемо в демократичному суспільстві, тому встановлювали правила так, щоб вважати, що демократія працює краще, а не гірше, і що кожен має право голосу.
Ідея Першої поправки полягає в тому, що у нас буде ринок ідей, що ці ідеї змагатимуться між собою, і, зрештою, ми всі зможемо оцінити кращі ідеї порівняно з гіршими. Я глибоко вірю в цей основний принцип. Нам доведеться адаптуватися до того факту, що зараз так багато контенту, а регуляторів так мало, що кожен може викинути будь-яку ідею, навіть якщо вона сексистська, расистська, насильницька тощо, і це робить ситуацію трохи складнішою, ніж тоді, коли у нас було лише три телеканали або жменька радіостанцій, чи що там ще.
Але принцип все ще діє, а саме: як нам створити процес обговорення, де пересічний громадянин може почути купу різних точок зору, а потім сказати: «Знаєте що? Ось з чим я згоден, а ось з чим я не згоден». Сподіваюся, завдяки цьому процесу ми отримаємо кращі результати.
Дозвольте мені об’єднати дві теми наших розмов: ШІ та соціальні платформи. Марк Цукерберг був на звіті про прибутки й сказав: «Що стосується наших стрічок новин, я думаю, що з часом більша частина контенту, який споживають люди, буде або генеруватися, або редагуватися штучним інтелектом». Тож він бачить світ, у якому соціальні мережі показуватимуть людям, можливо, саме те, що вони хочуть бачити, відповідно до їхніх уподобань, подібно до реклами, яка утримує їхню зацікавленість.
Чи повинні ми регулювати це? Чи повинні ми сказати їм зупинитися? Чи варто сприймати це як спосіб показати людям більше контенту, який вони хочуть бачити і який може розширити їхній світогляд?
Це те, з чим я боровся деякий час.
Минулого року я виступав у Стенфорді з промовою про дезінформацію та наші інформаційні бункери. Мене турбують бізнес-моделі, які просто годують людей тим, у що вони вже вірять і з чим згодні, і які створені для того, щоб продавати їм речі.
Чи вважаю я, що це добре для демократії? Ні.
Чи вважаю я, що це те, що уряд може регулювати? Я скептично ставлюся до того, що ви можете придумати ідеальні правила.
Однак я вважаю, що нам потрібно думати про різні платформи та різні бізнес-моделі. Можливо, я був би цілком щасливий, якби штучний інтелект допомагав мені купувати джинси в інтернеті. Це може бути дуже ефективно. Мене це цілком влаштовує. Тож якщо це буде додаток для шопінгу або нитка — чудово.
Коли ми говоримо про політичний дискурс, коли ми говоримо про культуру, чи можемо ми створити інші місця для людей, які розширюють їхню перспективу і роблять їх цікавими до того, як інші люди бачать світ, щоб вони дійсно чогось навчилися, а не просто посилили свої наявні упередження?
Я не думаю, що це те, що уряд зможе законодавчо закріпити. Я думаю, що це те, що споживачі, які взаємодіють з компаніями, повинні відкрити для себе і знайти альтернативи.
Послухайте, мені явно не 12 років. Я не ріс, тримаючи великі пальці на цих екранах. Я 62-річний дідуган, який іноді не може працювати з усіма додатками на своєму телефоні, але в мене є дві доньки, яким по 20 років. Цікаво, до якої міри вони зрозуміли, що в певний момент майже всі додатки для соціальних мереж починають їм набридати. Вони старіють саме тому, що все, що вони роблять, — це розповідають вам те, що ви вже знаєте, або те, що, на думку програми, ви хочете знати, або те, що ви хочете бачити. Тож ви більше не дивуєтеся. Ви більше нічого не відкриваєте. Ви більше не вчитеся.
Тому я думаю, що є перспектива того, як ми можемо… скажімо так, є ринок. Я думаю, що є ринок для продуктів, які не просто роблять це. З тієї ж причини, чому люди запитували мене про штучний інтелект: «Чи будуть ще існувати художники, співаки та актори, чи все це буде створено комп’ютером?»
Моя відповідь: «Для музики в ліфтах штучний інтелект працюватиме чудово».
Купа ліфтових музикантів просто збожеволіла.
Для середньостатистичного юридичного брифу або, скажімо, дослідницької записки в юридичній фірмі, ШІ, ймовірно, може впоратися з роботою так само добре, як і юрист-другокурсник.
Безумовно, так само добре, як і я колись. [Сміється]
Точно. Але Боб Ділан чи Стіві Вандер — це зовсім інше. Причина в тому, що частина людського досвіду, частина людського генія — це майже мутація. Це не передбачувано. Це безлад, це нове, це інше, це грубе, це дивне. Це те, що в кінцевому підсумку торкається чогось глибшого в нас, і я думаю, що для цього буде ринок.
Окрім того, що ви колишній президент, ви ще й автор бестселерів. У вас з дружиною є продюсерська компанія. Ви займаєтеся інтелектуальною власністю, тому вважаєте її власністю. Це добре. Я ціную це.
Єдине, що зараз може зупинити ШІ, — це позови про захист авторських прав, так? Якщо ви попросите генеративну модель ШІ виплюнути промову Барака Обами, вона зробить це з певним рівнем прохідності. Напевно, на три з плюсом. За моєю оцінкою, на три з плюсом.
Це була б одна з моїх найгірших промов, але вона могла б звучати як…
Якщо ви стріляєте пушкою з контентом в будь-яку бізнес-модель в інтернеті, ви її перевертаєте. Але є багато авторів, музикантів, а тепер і художників, які судяться з компаніями, кажучи: «Це недобросовісне використання — тренуватися на наших даних, просто поглинати все це». Яка ваша позиція щодо цього? Як автор, чи вважаєте ви, що вони мають право поглинати таку кількість контенту?
Дозвольте мені відволіктися на секунду. Ми з Мішель вже продали багато книжок, і у нас все добре. Тож особисто я не надто переживаю через це.
Я вважаю, що в указі президента Байдена йдеться — і над цим треба ще багато працювати — про те, що авторське право є лише одним з елементів.
Якщо ШІ виявиться настільки поширеним і потужним, як очікують його прихильники — а я повинен сказати, що чим більше я вивчаю його, тим більше я думаю, що він буде настільки руйнівним — нам доведеться думати не тільки про інтелектуальну власність. Нам доведеться думати про робочі місця та економіку по-іншому. І не всі ці проблеми можна буде вирішити всередині індустрії.
Що я маю на увазі? Я думаю, що у випадку з авторським правом ви побачите, як люди з законними претензіями фінансують позови та судові розгляди. Через суди та інші регуляторні механізми люди, які створюють контент, будуть шукати способи отримати гроші та захистити те, що вони створюють. Це може на деякий час завадити розвитку великих мовних моделей, але в довгостроковій перспективі це буде лише гальмом.
Ширше питання буде таким: що станеться, коли 10 відсотків існуючих зараз завдань точно можна буде виконати краще за допомогою якоїсь великої мовної моделі або іншого варіанту ШІ? Чи доведеться нам переглянути те, як ми навчаємо наших дітей, і які професії стануть доступними?
Правда в тому, що під час мого президентства була певна наївність, коли люди казали: «Відповідь на питання, як витягнути людей з бідності та забезпечити їм достатньо високу заробітну плату, полягає в тому, що ми перекваліфікуємо їх. Ми дамо їм освіту, і всі вони повинні стати програмістами, тому що за ними майбутнє». Що ж, якщо штучний інтелект кодує краще за всіх, окрім найкращих кодерів, якщо ChatGPT може створити дослідницьку записку краще, ніж юрист третього або четвертого року навчання, можливо, не партнер, який має особливий досвід або судження, — що ви скажете молодим людям?
Я думаю, що нам доведеться почати розмови про те, як ми оплачуємо ту роботу, яку не може виконувати штучний інтелект? Як нам краще оплачувати ті, що важливіші — охорону здоров’я, догляд за хворими, викладання, догляд за дітьми, мистецтво, речі, які дійсно важливі для нашого життя, але, можливо, історично комерційно не оплачувалися належним чином?
Чи потрібно нам думати про тривалість робочого тижня і про те, як ми розподіляємо робочі місця? Чи потрібно думати про те, що все більше людей [можуть] вирішити працювати як незалежні підрядники – звідки вони отримують медичну допомогу, звідки вони отримують пенсію? Це ті розмови, які, на мою думку, нам доведеться почати вести, і саме тому я радий, що голова Офісу президента Байдена розпочинає цю розмову.
Я не можу підкреслити [це] достатньо. Я думаю, що ви побачите, як деякі люди кажуть: «Ну, у нас все ще немає жорстких правил. Де в цьому сенс? Ми не змушуємо ці великі компанії робити X, Y, Z так швидко, як ми повинні».
Я думаю, що ця адміністрація розуміє, і я, безумовно, підкреслював це в розмовах з ними: це тільки початок. Це розгортатиметься протягом наступних двох, трьох, чотирьох, п’яти років. І, до речі, це розгортатиметься на міжнародному рівні. Цього тижня в Англії відбудеться конференція, присвячена міжнародним стандартам безпеки в галузі ШІ. Віцепрезидентка [Камала] Гарріс буде присутня на ній. Я вважаю, що це добре, тому що частина виклику полягає в тому, що нам потрібно мати певні транскордонні рамки, правила, стандарти і норми. Це частина того, що робить цей процес відмінним і складнішим для управління, ніж поява радіо і телебачення, тому що інтернет, за визначенням, є всесвітнім явищем.
Чи використовували ви ці інструменти? Чи був у вас момент «ага!», коли комп’ютер розмовляє з вами? Чи створювали ви власну фотографію?
Я використовував деякі з цих інструментів під час цих розмов і цього дослідження, і це було цікаво.
Bing вже фліртував з вами? Я чув, що він фліртує з усіма.
Зі мною Bing не фліртував [Сміється]. Те, як вони розроблені — і я обговорював це з деякими дизайнерами — в деяких випадках вони розроблені так, щоб антропоморфізуватися, щоб створювалося відчуття, ніби ви розмовляєте з людиною. Це як, чи можемо ми пройти тест Тюрінга? Це конкретна мета, тому що це робить його більш магічним. І в деяких випадках це покращує функцію. Але в деяких випадках, це просто робить його крутішим. Тож тут є трохи піци, і люди зацікавлені в цьому.
Мушу сказати, що загалом я ставлюся до штучного інтелекту як до інструменту, а не як до друга. Я думаю, що частина того, що нам потрібно буде робити, коли ці моделі стануть більш потужними — і тут, на мою думку, уряд може допомогти — це просто інформувати громадськість про те, що ці моделі можуть робити, а що не можуть. Це дійсно потужні розширення вас самих та інструменти, але [вони] також є відображенням вас самих. Тому не варто плутатися і думати, що те, що ви бачите в дзеркалі, є якоюсь іншою свідомістю.
Ви просто хочете, щоб Bing пофліртував з вами. Це те, що я відчув особисто, дуже глибоко.
Гаразд, останнє запитання. Мені потрібно знати це. Для мене це дуже важливо: які чотири додатки у вашій док-станції для iPhone?
Чотири програми внизу, у мене Safari.
Ключ.
У мене повідомлення, зелене поле.
Ви — синя бульбашка. Ти не ображаєшся на людей за те, що ти — зелена бульбашка?
Ні, ні. Я в порядку.
Гаразд.
У мене є моя електронна пошта, і у мене є моя музика. Це все.
Базовий набір. Непогано.
Якби ви запитали, на які з них я, мабуть, ходжу частіше, ніж слід, то, можливо, мені довелося б додати туди Words With Friends, на які, як мені здається, я витрачаю багато часу, і, можливо, мій NBA League Pass.
Досить непогано.
Але я намагаюся не перестаратися з цим.
League Pass — це лише один клік над доком. Ось що я отримую від цього.
Саме так.