ИИ в здравоохранении: надежность, безопасность и подотчетность

Доктор Джон Халамка, президент Mayo Clinic Platform, подчеркнул значительные потенциальные преимущества и потенциальный вред искусственного интеллекта (ИИ) в здравоохранении во время HIMSS 2024 .

Доктор Джон Халамка, президент Mayo Clinic Platform, подчеркнул значительные потенциальные преимущества и потенциальный вред искусственного интеллекта (ИИ) в здравоохранении во время HIMSS 2024 . Он подчеркнул проблему доверия к ИИ в здравоохранении из-за отсутствия прозрачности и подотчетности в моделях ИИ. Халамка подчеркнул важность стратегий, обеспечивающих безопасность приложений ИИ в клинических условиях.

Надежные данные о состоянии здоровья должны быть разнообразными и репрезентативными.

Одним из важнейших аспектов, которые он обсуждал, было качество данных, используемых для обучения алгоритмов ИИ. Он отметил, что важны тщательно подобранные и нормализованные данные с четким пониманием их источников и целей. Однако он выделил такие проблемы, как плохая целостность данных в электронных медицинских записях и неадекватность социальных детерминант данных о здоровье, что может привести к предвзятым результатам. Халамка поднял вопросы о разнообразии и репрезентативности данных, подчеркнув необходимость в комплексных наборах данных для разработки устойчивых моделей ИИ. Он предложил учитывать мультимодальные элементы данных и широту данных, а также учитывать неоднородность различных групп населения. Более того, он подчеркнул необходимость устранения предубеждений в моделях ИИ, особенно в отношении таких чувствительных факторов, как раса и этническая принадлежность. Он выступал за осторожное включение таких данных, чтобы избежать непреднамеренных ошибок в прогностических моделях. Халамка также настаивал на важности тестирования моделей ИИ на различных наборах данных для оценки справедливости и эффективности. Он подчеркнул роль таких организаций, как Коалиция за ИИ в сфере здравоохранения, в определении стандартов и рамок для оценки моделей ИИ.

Подход клиники Мэйо к проблемам искусственного интеллекта

Новые задачи ставит генеративный ИИ, который требует более сложной оценки из-за его способности генерировать ответы на основе подсказок. Появляются новые потенциальные риски, связанные с генеративным ИИ, например, ошибочный диагноз на основе неоднозначных подсказок. Решая эти проблемы, Халамка поделился идеями о подходе клиники Мэйо к искусственному интеллекту, включая деидентификацию данных, создание моделей, проверку и развертывание. Он признал неравенство в ресурсах между системами здравоохранения и призвал организации использовать имеющиеся ресурсы и знания для создания ответственного жизненного цикла ИИ.

Доктор Джон Халамка подчеркнул важность уделения приоритетного внимания безопасности пациентов при разработке и внедрении ИИ в здравоохранении. Он призвал организации здравоохранения перенимать лучшие практики, сотрудничать с глобальными партнерами и использовать доступные ресурсы, чтобы максимизировать преимущества ИИ, минимизируя при этом потенциальный вред.

Источник: HIMSS 2024