Всемирная организация здравоохранения подготовила руководящий документ, в котором излагаются 6 ключевых принципов этичного использования искусственного интеллекта в сфере медицины. Разработкой этого документа занималось 20 экспертов, которые потратили на это 2 года. Данное руководство стало первым консенсусным отчётом по этике использования ИИ в медицинских учреждениях.
В документе подчеркиваются перспективы ИИ в области здравоохранения и его потенциал для помощи врачам в лечении пациентов, особенно в районах с ограниченными ресурсами. Но он также подчеркивает, что подобные технологии не являются быстрым решением проблем здравоохранения, особенно в странах с низким и средним уровнем доходов, и что правительства и регулирующие органы должны тщательно изучить, где и как ИИ используется в здравоохранении.
Отметим, в последние несколько лет системы искусственного интеллекта начали всё чаще применяться в медицине и соответствующих исследования:
- ИИ-алгоритм компании IBM способен прогнозировать рак молочной железы за год до его появления с точностью 87%;
- ИИ превзошёл квалифицированных докторов в распознавании рака кожи;
- Google Health и Mayo Clinic используют ИИ для дальнейших исследований в области лечения рака;
- Microsoft разработала систему ИИ, которая упрощает диагностику рака шейки матки;
- Система ИИ Google DeepMind доказала свою эффективность в диагностике рака молочной железы.
ВОЗ надеется, что 6 разработанных принципов могут стать основой подхода правительств, разработчиков и регулирующих органов к технологии ИИ. Пока что технологии искусственного интеллекта в здравоохранении всё ещё новы, и многие правительства, регулирующие органы и медицинские учреждения пока не знают, как их оценивать и управлять ими. В публикации ВОЗ говорится, что вдумчивый и взвешенный подход поможет избежать потенциального вреда.
ВОЗ предлагает следующие 6 шесть этических принципов в своём руководстве:
Защита автономии: люди должны иметь надзор и последнее слово за всеми решениями, касающимися здоровья. Решения не должны приниматься исключительно машинами, а врачи должны иметь возможность отменять их в любое время. ИИ не должен использоваться для оказания помощи кому-либо без их согласия, а данные пациентов должны быть защищены.
Обеспечение безопасности человека: разработчики должны постоянно отслеживать любые инструменты искусственного интеллекта, чтобы убедиться, что они работают должным образом и не причиняют вреда.
Обеспечение прозрачности: разработчики должны публиковать информацию об архитектуре инструментов искусственного интеллекта. Системы ИИ критикуют за то, что они представляют собой «чёрные ящики», а исследователям и врачам слишком сложно понять, как они принимают решения. ВОЗ хочет видеть достаточную прозрачность, чтобы системы ИИ могли быть полностью поняты и доступны для проверки пользователям и регулирующим органам.
Стимулирование ответственности: когда что-то идет не так с технологией ИИ, например, если решение, принятое инструментом, приводит к причинению вреда пациенту, должны быть механизмы, определяющие, кто несёт ответственность (например, производители и клинические пользователи).
Обеспечение справедливости: инструменты быть доступны на нескольких языках и обучены работе с различными наборами данных. В последние несколько лет тщательное изучение общих алгоритмов в здравоохранении показало, что некоторые из них имеют расовую предвзятость.
Продвижение устойчивых систем ИИ: разработчики должны иметь возможность регулярно обновлять свои инструменты, а учреждения должны иметь возможность корректировать работу, если инструмент кажется неэффективным. Учреждения или компании также должны внедрять только те инструменты, которые можно отремонтировать, даже в системах здравоохранения с ограниченными ресурсами.
Источник: The Verge