Блоги
Ученые MIT разработали нейронную сеть, способную поэтапно показать процесс принятия решения
12

Ученые MIT разработали нейронную сеть, способную поэтапно показать процесс принятия решения

Ученые MIT разработали нейронную сеть, способную поэтапно показать процесс принятия решения

Ученые MIT представили нейронную сеть Transparency by Design Network (TbD-net), отличительная черта которой заключается в прозрачности аргументации при принятии решений.

Как отмечается, Transparency by Design Network состоит из модулей — подсетей, предназначенных для решения конкретной задачи. Работа нейросети похожа на конвейер — запрос пользователя разбивается на отдельные подзадачи.

В ходе эксперимента разработчики научили нейронную сеть распознавать объекты на изображениях по текстовому запросу. При этом TbD-net демонстрировала аргументацию выбора объектов поэтапно, что позволило проконтролировать процесс обучения и внести необходимые правки.

Так, по запросу «подсчитать количество больших металлических цилиндров на изображении» нейросеть обратилась к модулям, работающим с параметрами «размер», «материал», «форма» и «количество». Первая подсистема отметила на картинке все большие объекты. Вторая — выбрала из уже отмеченных металлические, третья — оставила только цилиндры, а четвертая — подсчитала их количество.

Первоначальный результат тестирования показал точность в 98,7%. Вместе с тем, благодаря прозрачности аргументации и возможности корректировать процесс обучения, точность TbD-net в конечном счете удалось повысить до 99,1%.

Напоследок отметим, что для обучения нейросети разработчики использовали набор учебных и тестовых данных CLEVR.

Источник: tproger


Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: