Изучает ли здравоохранение правильные аспекты административной роли GenAI?
Генеративный ИИ (GenAI) приобрел значительную популярность в здравоохранении, особенно в административных функциях, таких как оптимизация рабочего процесса и вовлечение пациентов. Хотя отрасль здравоохранения известна своим осторожным подходом к внедрению новых технологий, особенно тех, которые напрямую влияют на уход за пациентами, ее энтузиазм по поводу внедрения GenAI в административные контексты быстро растет. Однако растет обеспокоенность по поводу того, действительно ли здравоохранение вкладывает достаточно средств в понимание и оценку этих административных приложений, прежде чем погружаться слишком глубоко. Без тщательного изучения организации рискуют внедрять инструменты, которые могут непреднамеренно создавать новые проблемы или риски для результатов лечения пациентов.
Природа здравоохранения, направленная на избежание риска
Медицинские организации по праву известны своей культурой неприятия риска из-за потенциально изменяющих жизнь последствий неудачи. Этот осторожный подход в основном гарантировал, что новые технологии будут тщательно протестированы и проверены, прежде чем станут неотъемлемой частью клинической практики. GenAI, как и другие инновации на основе ИИ, представляет уникальные риски, особенно в областях, где точность, справедливость и надежность имеют первостепенное значение. В принятии клинических решений ставки высоки, из-за чего поставщики медицинских услуг и регулирующие органы не решаются полагаться на инструменты GenAI, которые могут не иметь обширной проверки или надежных реальных доказательств.
Однако осторожная позиция здравоохранения в отношении административных функций GenAI, похоже, ослабевает. Такие административные задачи, как документация, кодирование, выставление счетов и общение с пациентами, все чаще поручаются GenAI. Эти области воспринимаются как относительно малорискованные, поскольку они в основном связаны с функциями бэк-офиса или задачами, которые врачи выполняют вдали от прямого взаимодействия с пациентами. Тем не менее, отсутствие непосредственных последствий для пациента не исключает возможности неблагоприятных исходов, особенно во взаимосвязанных системах, где ошибки бэк-офиса могут привести к клиническим осложнениям.
Ограниченное внимание к исследованиям в области административных приложений
Значительное несоответствие возникает при рассмотрении объема исследований, посвященных клиническим и административным приложениям GenAI. Исследование, изучающее литературу, опубликованную в период с 2022 по 2024 год, показало, что значительная часть исследований GenAI сосредоточена на проверке его клинической проницательности, причем почти половина рассмотренных исследований была сосредоточена на оценке способности моделей имитировать медицинский опыт. Исследовательские усилия также тяготели к диагностике состояний и улучшению образования пациентов.
В резком контрасте с этим, только несколько исследований изучали административные задачи, такие как автоматизация кодов выставления счетов или обобщение клинических заметок. Акцент на клинических оценках указывает на предвзятость в понимании возможностей GenAI, что потенциально оставляет административные приложения недостаточно изученными. Этот упущение может быть связано с предположением, что административные функции несут меньший риск, что приводит к меньшим требованиям к строгой академической валидации. Однако, поскольку системы ИИ все больше влияют на операции, включая циклы доходов и рабочие процессы соответствия, отсутствие всесторонних исследований может оставить пробелы в понимании потенциальных рисков.
Незамеченная взаимосвязь операций здравоохранения
Здравоохранение — это экосистема, в которой административные и клинические процессы тесно переплетены. Несмотря на предполагаемую безопасность административных приложений GenAI, каждый аспект операций здравоохранения в конечном итоге вносит вклад в результаты для пациентов. Например, ошибки в предварительной авторизации или неправильное кодирование под влиянием ИИ могут задержать оказание необходимой помощи или повлиять на выставление счетов пациентам, что скажется на их опыте оказания медицинской помощи и благополучии.
Интересно, что даже при изучении административных инструментов ИИ критерии, используемые для измерения их успешности, часто узкие. Точность остается основной метрикой, в то время как соображения справедливости, предвзятости и развертывания получают значительно меньше внимания. Этот узкий фокус на точности может быть недостаточным для выявления рисков, которые выходят за рамки отдельных задач и распространяются на более широкий континуум ухода. Неспособность учесть справедливость и предвзятость может привести к непреднамеренным последствиям, особенно в рабочих процессах, которые напрямую или косвенно связаны с уходом за пациентами.
Быстрое внедрение GenAI для административных задач в здравоохранении поднимает важные вопросы о том, проводится ли достаточно исследований для того, чтобы по-настоящему понять риски и преимущества. Хотя административные функции могут показаться менее рискованными, чем принятие клинических решений, взаимосвязанная природа систем здравоохранения означает, что каждое операционное изменение может повлиять на результаты для пациентов. Ограниченное внимание к административным приложениям в существующих исследованиях указывает на то, что заинтересованные стороны могут упустить из виду ключевые области, в которых могут возникнуть риски. Поскольку инвестиции в GenAI продолжают расти, отрасль должна расширить сферу своих исследований и принять более целостный подход к оценке инструментов ИИ. Поступая так, организации здравоохранения могут гарантировать, что их административные инновации будут безопасными, надежными и справедливыми для всех заинтересованных сторон.
Источник: Digital Health Insights
