Ученый Microsoft и исследователь Йоркского университета Адриан де Винтер недавно решил протестировать GPT-4, запустив Doom без предварительного обучения. По результатам этого эксперимента был сделан вывод, что GPT-4 может играть в Doom с определенной степенью эффективности без предварительного обучения. Хотя для этого нужен интерфейс GPT-4V для видения искусственного интеллекта и добавление Matplotlib и Python, чтобы сделать возможным ввод искусственного интеллекта.
ИИ GPT-4 во время игры в Doom может открывать двери, сражаться с врагами и стрелять из оружия. Основные функции игрового процесса, включая навигацию по миру, используются почти все. Однако искусственный интеллект не имеет ощущения постоянства объекта — как только враг выходит за пределы кадра, искусственный интеллект больше не осознает этого вообще. Несмотря на то, что включены инструкции, что делать, если за кадром враг наносит урон, модель не может реагировать ни на что за пределами своего узкого визуального диапазона.
Говоря об этических выводах своего исследования, Де Винтер отмечает:
«Очень тревожно, насколько легко мне было создать код, чтобы заставить модель стрелять во что-то, а для модели ─ точно стрелять во что-то, фактически не угадывая указания».
Он считает, что модель фактически не осознает, что она делает, поэтому важно с осторожностью использовать такие модели, чтобы избежать злоупотреблений.
Тот факт, что GPT-4 не колебался стрелять в объекты в форме людей, вызывает беспокойство. Похоже, пришло время внедрить «Законы робототехники» Айзека Азимова во все модели искусственного интеллекта.
Источник: tomshardware