Алексіос Манцарліс п’ять років присвятив Google, де він працював над генеративним штучним інтелектом та точністю фактів у Пошуку. Він пішов, точність та корисність більше не головне.
У Google Манцарліс створив «red team» — екстрену команду, зосереджену на ризиках через контент, створений штучним інтелектом, та керував командою, відповідальною за контентну політику Пошуку Google щодо точності та корисності результатів. Він пішов через розбіжності з політикою компанії та розповів про причини в інтерв’ю Cybernews.
«Мені дуже подобався Google, а потім я його дуже зненавидів. Стільки всього змінилося з погляду філософії, тепер стало тільки гірше. Коли відбувся великий поворот до штучного інтелекту, я втратив будь-яку впевненість у тому, що якість інформації є справжнім пріоритетом», — каже Манцарліс.
Зараз фахівець працює в Корнелльському технологічному інституті, де керує Ініціативою безпеки, довіри та захисту, яка прагне запобігання цифровій шкоді за допомогою аспірантуру, активних спільнот практиків та досліджень. Проте і там зараз важко: через дії адміністрації президента США Дональда Трампа, а також панує «загальна катастрофічна атмосфера».
Манцарліс вважає впровадження Google технологій штучного інтелекту «дещо безсистемним». Причиною, звичайно, став раптовий злет популярності OpenAI та ChatGPT. Він вважає, що вплив ChatGPT на пошук Google може бути справді екзистенційним.
«Розгортання цього інструменту було мотивоване, головним чином, наміром показати ринкам та акціонерам, що Google може це зробити, а не ідеєю справді виділити Google як місце, куди можна звернутися та знайти високоякісну, корисну інформацію. … ChatGPT безумовно впливає на пошукову поведінку, тож так, це екзистенційно важливо для пошуку. Але я думаю, що Google «розв’язав» цю екзистенційну проблему таким чином, що насправді збільшив ризики, а не зменшив».
Як технічний письменник та експерт, Манцарліс помітив, що так звані відходи штучного інтелекту (термін, що описує низькоякісні медіа, створені за допомогою генеративного ШІ) «роблять нас дедалі менш здатними дістатися до важливих доказів, правди та фактів».
І Google став частиною проблеми — просто через його велетенський масштаб. Навіть якщо рівень помилок становить 0,1%, серед 15 млрд результатів пошуку будуть десятки або сотні тисяч помилок — це дуже багато.
«Також засмучує, що пріоритет був наданий універсальному використанню ШІ, а не спеціалізованим інструментам, які можна навчити бути надзвичайно точним у певних питаннях. Натомість ми створили цього самовпевненого брехуна», — вважає Манцарліс.
Він сподівається, що люди побачать, як насправді працює пошук на базі штучного інтелекту, та розчаруються. Вже зараз люди в усьому світі подають до суду на OpenAI, бо ChatGPT каже їм, що вони вбили власних дітей та інші неправдиві й обурливі речі.
«Але я також трохи фаталіст, бо це найбільші, найкраще забезпечені та найрозвиненіші компанії у світі – і це шлях, який вони обрали. Генеративний ШІ нам колективно нав’язують, хочемо ми цього чи ні. І, звичайно, нинішня атмосфера ще більше ускладнює захист безпеки та якості інформації».
Як колишній засновник та директор Міжнародної мережі з перевірки фактів, глобальної коаліції проєктів з фактчекінгу, Манцарліс провів численні години у перемовинах з Google, Meta та іншими представниками індустрії. Він не надто оптимістичний щодо майбутнього.
Favbet Tech – це ІТ-компанія зі 100% украінською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологіи та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: