Искусственный интеллект, наделенный любопытством, не смог пройти мимо телевизора

Учeные OpenAI опубликовали исследование, в котором изучили, как любопытство влияет на искусственный интеллект. Тестирование производили при помощи игр и виртуального лабиринта, которые он изучал.

Как сообщается, ИИ предоставили несколько игр, не объяснив ни что делать, ни как победить; также у него не было задач и, соответственно, он не получал наград за выполнение заданий. Любопытство в данном случае заключалось в сравнении алгоритмом окружающей среды до и после. Верным действием считалось такое, которое приводило к максимальным изменениям.

Всего в ходе тестирования исследователи использовали более 50 классических видеоигр. Некоторые из них ИИ успешно прошел: в частности, он сумел освоить 10 уровней Mario Bros. Ученые объяснили это тем, что новое окружение в играх часто означает новый уровень, и здесь «машинного любопытства» оказалось достаточно, чтобы штурмовать один уровень за другим.

Но была и обратная сторона: иногда ИИ хотел выяснить, что бывает при появлении экрана «Game Over», и намеренно выбирал действия, которые приводили к поражению и концу игры.

Поведение «любопытного» ИИ очень похоже на поведение младенца, отмечают экспериментаторы, поскольку он готов исследовать и впитывать информацию без какого-либо вознаграждения. И если создавать роботов без запрограммированной награды за что-либо, то они станут более автономными, чем сейчас. При этом такая система, полагают специалисты, более надежна и лучше контролируется человеком.

Впрочем, у «любопытного» ИИ имеются те же недостатки, что и у людей — их легко отвлечь. Помимо вышеупомянутых тупиковых действий в играх, учeные выявили и другую проблему, когда поместили в лабиринт виртуальный телевизор и предоставили пульт от него искусственному интеллекту. В результате, как только нейросеть нашла телевизор, она осталась смотреть на меняющиеся изображения, переключая «каналы» в случайном порядке. Единственное, что могло бы отвлечь ИИ от экрана — нечто интересное извне, однако найти для него более интересное занятие оказалось невероятно сложно. Теоретически, шанс того, что следующее изображение на экране телевизора будет идентично предыдущему, крайне мал, поэтому любопытный ИИ будет вечно переключать каналы, отметили ученые.

Источник: tproger