Коалиция за ИИ в здравоохранении опубликовала проект концепции ответственного ИИ в здравоохранении

Коалиция за ИИ в здравоохранении (CHAI) опубликовала проект своей структуры, призванной направлять ответственную разработку и внедрение искусственного интеллекта (ИИ) в здравоохранении. Эта инициатива направлена ​​на установление консенсусных стандартов и предоставление практических рекомендаций для обеспечения того, чтобы технологии ИИ приносили пользу всем слоям населения, включая представителей недостаточно обслуживаемых и недостаточно представленных сообществ. Проект структуры, состоящий из руководства по стандартам и ряда контрольных списков, теперь открыт для 60-дневного периода публичного обзора и комментариев.

Функциональные компоненты структуры

Выпуск этой структуры является важным шагом на пути к обеспечению этичного и эффективного использования ИИ в здравоохранении. CHAI, запущенная в декабре 2021 года, ранее опубликовала в апреле 2023 года «План надежного искусственного интеллекта», разработанный на основе консенсуса с участием экспертов из академических медицинских центров, региональных систем здравоохранения, защитников интересов пациентов, федеральных агентств и других заинтересованных сторон. Новое руководство сочетает в себе принципы предыдущего проекта с федеральными рекомендациями, а контрольные списки предлагают практические шаги по внедрению стандартов обеспечения качества в повседневную деятельность.

Руководство по стандартам обеспечения в рамках описывает согласованные в отрасли стандарты для внедрения ИИ в здравоохранении. Оно объединяет принципы из различных авторитетных источников, включая Кодекс поведения ИИ Национальной академии медицины, Проект Белого дома по Биллю о правах ИИ и рамки Национального института стандартов и технологий. Руководство обеспечивает общий язык и понимание жизненного цикла ИИ, исследуя передовые практики для проектирования, разработки и внедрения ИИ в рабочих процессах здравоохранения.

Руководство сопровождается контрольными списками отчетов по обеспечению, которые помогают в определении вариантов использования, разработке продуктов ИИ для здравоохранения и обеспечении их эффективного, действительного и безопасного развертывания с минимизацией предвзятости. Эти контрольные списки поддерживают независимую проверку решений ИИ для здравоохранения на протяжении всего их жизненного цикла, гарантируя, что они остаются эффективными и справедливыми.

Демонстрация лучших практик через примеры использования

Для иллюстрации применения принципов фреймворк представляет шесть вариантов использования:

• Прогнозирование риска в электронных медицинских картах: борьба с обострением астмы у детей.
• Визуальная диагностика: улучшение маммографической диагностики.
• Генеративный ИИ: улучшение запросов и извлечения электронных медицинских карт.
• Амбулаторное лечение на основе претензий: оптимизация управления медицинским обслуживанием.
• Клинические операции и администрирование: упрощение предварительного разрешения с помощью медицинского кодирования.
• Геномика: развитие прецизионной онкологии с помощью геномных маркеров.

Эти варианты использования иллюстрируют, как рекомендации структуры могут быть применены к различным аспектам ИИ в сфере здравоохранения, демонстрируя лучшие практики и соображения по эффективному внедрению.

Обеспечение прозрачности и инклюзивности

Публичное сообщение результатов применения контрольных списков обеспечит прозрачность использования ИИ в здравоохранении. CHAI подчеркивает важность общественного обзора и комментариев для совершенствования структуры, делая ее эффективной, полезной, безопасной, надежной, справедливой и равноправной. Этот шаг рассматривается как решающий для поддержки инноваций и укрепления доверия к способности ИИ обслуживать различные группы населения.

Участие разнообразных и многосекторных голосов пациентов подчеркивается как необходимое условие защиты от предвзятости и непреднамеренных вредных последствий. Изабель Дюрон, основатель и исполнительный директор Latina Cancer Institute, подчеркнула необходимость включения латиноамериканских пациентов и медицинских работников в эти обсуждения, чтобы гарантировать, что ИИ решает, а не усугубляет неравенство в здравоохранении.

Более широкие последствия и нормативные соображения

Выпуск фреймворка совпадает с ростом законодательного интереса к регулированию ИИ. Законодатели изучают использование и надзор за ИИ в здравоохранении, а недавние слушания касались регулирования медицинских устройств и биопрепаратов Управлением по контролю за продуктами и лекарствами США (FDA). Высказывались опасения по поводу разнообразия и потенциального захвата регулирования в таких группах, как CHAI. Однако FDA разъяснила свою роль федерального посредника, а не рецензента заявок, в своем взаимодействии с CHAI и аналогичными организациями.

Проект структуры CHAI представляет собой значительный шаг к установлению надежных, справедливых и прозрачных стандартов для ИИ в здравоохранении. Он будет способствовать созданию среды, в которой технологии ИИ могут продвигать здравоохранение, гарантируя при этом их безопасность и пользу для всех слоев населения.

Источник:  CHAI