Франц Кафка написал свой роман «Процесс» в 1914–1915 годы, когда терминов «робот» и «искусственный интеллект» еще не существовало. Однако писателю удалось точно передать образ бездушной машины бюрократии, которая напоминает современные алгоритмы на базе ИИ, полагает британский исследователь и сотрудник Кембриджского университета Стивен Кейв.
Главный герой «Процесса» Йозеф К. оказывается под арестом, однако он не может выяснить причину произошедшего — бюрократы не в состоянии объяснить решение системы и отказываются брать за него ответственность. В конечном счете причина ареста так и остается неизвестной. Кейв полагает, что по такому же принципу сегодня работают многие алгоритмы. Логику ИИ не зря сравнивают с «черным ящиком» — понять ее зачастую не могут даже сами разработчики, а рассуждения машины остаются «за кадром».
Непрозрачность, редукционизм, безотчетность и упорное следование собственным умозаключениям — вот главные характеристики ИИ, по мнению Кейва. Однако машинный интеллект приобрел их не случайно. Проблема в том, что исторически машинный интеллект служил государству, армии и корпорациям, и именно их ход мыслей и последовательность решений переняли современные алгоритмы.
«Даже сам термин «интеллект» в данном случае указывает не на интеллект отдельно взятой личности — врача или композитора, — а на системный интеллект бюрократической машины, которая обрабатывает огромные массивы данных о людях, а затем классифицирует их и навешивает ярлыки», — пишет исследователь.
Исторические предпосылки, как считает Кейв, объясняют несовершенства современных ИИ. Эксперт приводит в пример рекрутинговый алгоритм Amazon, который отдавал предпочтение резюме мужчин, полагаясь лишь на статистику найма.
«Кафкианский бэкграунд вселил в ИИ предубеждения и предрассудки, сделав его инструментом дискриминации», — утверждает специалист.
Кейв считает, что исправить ситуацию можно, включив в процессы разработки и внедрения ИИ разные группы населения, в частности те, которые обычно подвергаются дискриминации со стороны традиционных властных структур. К ним эксперт относит женщин, жителей развивающихся стран, а также людей с инвалидностью и низким уровнем дохода.
«Кафка сумел увидеть недостатки бюрократической системы лишь потому, что он, будучи пражским немецкоязычным евреем, сам подвергался произволу со стороны чиновников, — резюмирует Кейв. — Следовательно, если разработчики начнут прислушиваться ко мнению тех, кого алгоритмы могут дискриминировать по тем или иным причинам, то ИИ станет не только эффективным, но и этичным инструментом ближайшего будущего».
Источники: The Guardian, hightech.plus