20 November 2023, Hesse, Frankfurt/Main: A camera is installed in the interrogation room of Hesse's first "Childhood House" on the grounds of the University Hospital. Childhood houses are outpatient contact points for children and young people who have been victims or witnesses of sexualized or physical violence and neglect. Photo: Arne Dedert/dpa (Photo by Arne Dedert/picture alliance via Getty Images)
Технология наблюдения на основе искусственного интеллекта проникает в операционные больницы, где она постоянно собирает аудио- и видеоматериалы, жизненные показатели пациента и множество других хирургических данных – и все это ради повышения безопасности и эффективности.
Платформа на базе искусственного интеллекта называется OR Black Box, в честь самописных устройств, используемых в самолетах, чтобы помочь понять происшествия, повлекшие за собой катастрофу или другой инцидент. Но эта технология не является буквальным чёрным ящиком; это набор широкоугольных камер и запатентованных моделей искусственного интеллекта. Она также необязательно предназначена для того, чтобы разобраться в событиях, повлекших хирургическую катастрофу или инцидент постфактум. Скорее, она призвана помочь предотвратить любые несчастные случаи, и ее создателям и пользователям приходилось неоднократно уверять медицинский персонал, что всевидящий искусственный интеллект не будет использоваться для поиска индивидуальных ошибок и возложения вины на персонал, сообщает ArsTechnica.
По словам разработчиков, OR Black Box анонимизирует людей в операционных: модели размывают лицо и мультиплицируют тела. Программное обеспечение агрегирует и анализирует данные и отчитывается больницам, предоставляя информацию о соблюдении протоколов, эффективности, аудите безопасности, контроле качества, а также ключевые видео- и аудиозаписи для просмотра, комментирования и обучения. Через 30 дней все записи должны быть удалены.
К примеру, медицинское учреждение Duke Health в Северной Каролине начало использовать «черный ящик» в операционной четыре года назад и, проанализировав данные, понял, что его хирургические команды не очень тщательно придерживаются протокола подготовки кожи пациента к разрезам. С другой стороны, такое наблюдение нервничает персонал больницы, который не так уж сложно идентифицировать.
Впрочем, первые пользователи сосредотачиваются на положительных сторонах технологии. В клинике Mayo Clinic, установившей Black Box в конце 2021 года, администрация больницы использовала технологию, чтобы выяснить, что ключевое хирургическое оборудование не было оптимально расположено в некоторых операционных комнатах. Благодаря этому они переместили его и повысили эффективность.