Наука та космос

Google усунула від роботи інженера, який помітив у штучного інтелекту LaMDA ознаки свідомості

Google усунула від роботи інженера, який помітив у штучного інтелекту LaMDA ознаки свідомості

Інженер-програміст із команди розробників штучного інтелекту Google Блейк Лемуан публічно заявив про те, що зіткнувся з «розумним» ШІ на серверах компанії. Таку заяву він зробив після того, як його усунули від роботи за передачу конфіденційної інформації про проєкт третім особам.

Google відправила Лемуана в оплачувану відпустку на початку минулого тижня у зв’язку зі звинуваченнями у порушенні політики конфіденційності. Програміст пов’язує свою ситуацію з іншим випадком у компанії. Раніше деякі члени групи Google з етики ШІ, такі як Маргарет Мітчелл, були звільнені компанією аналогічним чином після того, як висловили своє занепокоєння.

В інтерв’ю ресурсу Washington Post Лемуан сказав, що, на його думку, штучний інтелект Google, з яким він взаємодіяв, був схожим на особистість. Йдеться про ШІ LaMDA (Language Model for Dialogue Applications), анонсований на торішній конференції Google I/O. Це просунута нейромережна розмовна модель, яка використовується для створення чат-ботів, що взаємодіють із людьми.

Лемуан провів дослідження та підготував звіт, де навів докази існування свідомості у LaMDA.

Курс
Python
Опануйте професію Python-розробника за 4 місяці й отримуйте $1300 уже через рік роботи
РЕЄСТРУЙТЕСЯ!
Python

«Якби я не знав точно, що це було, що це за комп’ютерна програма, яку ми створили нещодавно, я б подумав, що це семирічна або восьмирічна дитина, яка знає фізику», — уточнив Блейк Лемуан.

Однак у Google доводи інженера вважали непереконливими. Лемуан додав, що намагався провести експерименти, щоби довести свою правоту. Однак вище керівництво компанії дало йому відсіч, коли він порушив це питання всередині компанії.

«Дехто в ширшій спільноті ШІ розглядають довгострокову можливість розумного або загального ШІ, але не має сенсу робити це, антропоморфізуючи сьогоднішні розмовні моделі, які не є розумними», — заявив у відповідь представник Google Брайан Гебріел. «Наша команда, включаючи фахівців з етики та технологів, розглянула побоювання Блейка відповідно до наших принципів штучного інтелекту та повідомила йому, що докази не підтверджують його твердження».

Компанія відмовилася коментувати кадрові питання, коли її запитали про усунення Лемуана.

Джерело: Bloomberg


Завантаження коментарів...

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: