Федеральная торговая комиссия США (FTC) заставила компанию HeHealth закрыть свое приложение Calmara, которое обещало использовать искусственный интеллект для выявления заболеваний, передающихся половым путем (ЗППП).
Согласно письмо ФТК от 11 июля, приложение предлагало пользователям отправлять дикпики для проверки на инфекции, передающиеся половым путем, обещая «четкие, научно обоснованные ответы о состоянии сексуального здоровья вашего партнера». В письме есть некоторые опасения агентства относительно информации, на которую опирался HeHealth в своих заявлениях, в частности, о том, что он может обнаружить более 10 инфекций, передающихся половым путем, с точностью до 94 процентов.
Комиссия выяснила, что HeHealth оплачивала работу авторов исследований, на которые ссылалась. Кроме того, главное исследование охватывало только четыре вида ЗППП вместо заявленных десяти. Данные для обучения ИИ-модели содержали изображения от пользователей, которые не проходили диагностических тестов для подтверждения результатов.
Медицинские специалисты выразили сомнения относительно надежности методов приложения, учитывая, что большинство ЗППП не имеют симптомов. Журналисты Los Angeles Times (Лос-Анджелес Таймс) обнаружили, что Calmara не различал даже неодушевленные объекты и не мог идентифицировать типичные признаки ЗППП на изображениях.
HeHealth согласилась прекратить работу обоих своих приложений до 15 июля и удалить всю личную информацию клиентов. Компания также обязалась обратиться к платежным системам с просьбой удалить данные о своих пользователях.
«FTC настолько предана делу защиты потребителей, что даже готова продираться сквозь страницы с дикпиками, чтобы защитить американцев от мошенников с искусственным интеллектом», — сообщил The Verge источник, знакомый с этим вопросом, который пожелал остаться анонимным, поскольку не имеет права комментировать запись о расследовании.
Несмотря на закрытие расследования, FTC предостерегла, что может принять дальнейшие меры, если этого потребуют интересы общественности. Комиссия отметила незаконность рекламных заявлений о пользе для здоровья без надежных научных доказательств.
Источник: TheVerge