Суперкомпьютер IBM Watson предоставлял небезопасные рекомендации по лечению больных раком в одном из онкологических центров. Судя по данным доклада, Watson, которого рассматривали в качестве передового решения в сфере исследования рака, оправдал далеко не все возложенные на него ожидания.
В 2012 году доктора Мемориального онкологического центра имени Слоуна-Кеттеринга объединили усилия с IBM с целью обучить суперкомпьютер Watson диагностике и лечению пациентов. Но, согласно документам IBM, датированным прошлым летом, суперкомпьютер часто давал плохие рекомендации. Например, он предлагал больному раком с сильным кровотечением назначить препарат, который может вызвать усиление кровотечения. Представитель медицинского учреждения заверил, что это предложение было гипотетическим и не причинило вред реальному пациенту. В то же время один из докторов крайне нелестно отзывался о суперкомпьютере, заявив, что его невозможно использовать в большинстве случаев.
При этом в документах указано, что были выявлены методологические проблемы использования суперкомпьютера. Система Watson for Oncology должна была синтезировать большие объёмы данных и создавать новые идеи. Но оказалось, что большинство поступавших в систему данных являлись гипотетическими, а не данными реальных пациентов. Это означает, что сделанные Watson предложения были основаны на предпочтениях в лечении нескольких врачей, которые предоставляли информацию, а не на фактических данных, полученных при рассмотрении реальных случаев из медицинской практики.
По словам представителя IBM, система Watson for Oncology обеспечивает поддержку более чем 84 тыс. пациентов и при этом продолжает обучаться.
Источник: The Verge