Ученые MIT представили нейронную сеть Transparency by Design Network (TbD-net), отличительная черта которой заключается в прозрачности аргументации при принятии решений.
Как отмечается, Transparency by Design Network состоит из модулей — подсетей, предназначенных для решения конкретной задачи. Работа нейросети похожа на конвейер — запрос пользователя разбивается на отдельные подзадачи.
В ходе эксперимента разработчики научили нейронную сеть распознавать объекты на изображениях по текстовому запросу. При этом TbD-net демонстрировала аргументацию выбора объектов поэтапно, что позволило проконтролировать процесс обучения и внести необходимые правки.
Так, по запросу «подсчитать количество больших металлических цилиндров на изображении» нейросеть обратилась к модулям, работающим с параметрами «размер», «материал», «форма» и «количество». Первая подсистема отметила на картинке все большие объекты. Вторая — выбрала из уже отмеченных металлические, третья — оставила только цилиндры, а четвертая — подсчитала их количество.
Первоначальный результат тестирования показал точность в 98,7%. Вместе с тем, благодаря прозрачности аргументации и возможности корректировать процесс обучения, точность TbD-net в конечном счете удалось повысить до 99,1%.
Напоследок отметим, что для обучения нейросети разработчики использовали набор учебных и тестовых данных CLEVR.
Источник: tproger