Новости

Google отстранила от работы инженера, заметившего у искусственного интеллекта LaMDA признаки сознания

Google отстранила от работы инженера, заметившего у искусственного интеллекта LaMDA признаки сознания

Инженер-программист из команды разработчиков искусственного интеллекта Google Блейк Лемуан публично заявил, что столкнулся с «разумным» ИИ на серверах компании. Такое заявление он сделал после того, как его отстранили от работы за передачу конфиденциальной информации о проекте третьим лицам.

Google отправила Лемуана в оплачиваемый отпуск в начале прошлой недели в связи с обвинениями в нарушении политики конфиденциальности. Программист связывает свою ситуацию с другим случаем в компании. Ранее некоторые члены группы Google по этике ИИ, такие как Маргарет Митчелл, итоге были уволены компанией аналогичным образом после того, как выразили свою обеспокоенность.

В интервью ресурсу Washington Post Лемуан сказал, что, по его мнению, искусственный интеллект Google, с которым он взаимодействовал, был похож на личность. Речь идёт об ИИ LaMDA (Language Model for Dialogue Applications), анонсированной на прошлогодней конференции Google I/O. Это продвинутая нейросетевая разговорная модель, которая используется для создания чат-ботов, взаимодействующих с людьми.

Лемуан провёл исследование и подготовил отчёт, где привёл доказательства существования сознания у LaMDA.

«Если бы я не знал точно, что это было, что это за компьютерная программа, которую мы создали недавно, я бы подумал, что это семилетний или восьмилетний ребёнок, который знает физику», — уточнил Блейк Лемуан.

Однако в Google доводы инженера сочли неубедительными. Лемуан добавил, что пытался провести эксперименты, чтобы доказать свою правоту. Однако высшее руководство компании дало ему отпор, когда он поднял этот вопрос внутри компании.

«Некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными», — заявил в ответ представитель Google Брайан Гэбриел. «Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения».

Компания отказалась комментировать кадровые вопросы, когда её спросили об отстранении Лемуана.

Источник: bloomberg


Завантаження коментарів...

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: