바이오인

미국, 보건의료 분야에서 생성형 AI의 활용가능성을 검토한 기사 발표

◈본문

■︎ 브루킹스연구소(Brookings)는 보건의료 분야에서 생성형 AI의 기회와 활용가능성, 정책적 제언을 제시한 기사 발표

*(’24.1.)* Generative AI in health care: Opportunities, challenges, and policy

◎︎ 생성형 AI의 등장으로 비공식 정보(특히 인터넷)에 대한 환자의 의존도가 더욱높아졌을 뿐만 아니라 의사를 비롯한 의료서비스 제공자에게까지 빠르게 확대

- 생성형 AI 시스템은 새로운 콘텐츠를 생성하고 이를 사용자 친화적인 인터페이스를통해 제공하여 편의성과 접근성이 높아 전문가의 활용이 급증하는 추세

- 그간 환자들이 자신의 상태를 더 잘 이해하기 위해 디지털 정보에 의존해 왔으나현재는 의료서비스 제공자들도 AI에 기반한 의사결정에 크게 의존

- 그러나 생성형 AI를 모든 의료환경에 적용하기는 어렵고, 반복이 많아 패턴파악･예측이 가능하며 오류에 따른 위험도가 낮은 상황에서 신중한 활용이 필요

◎︎ 이러한 맥락에서 일반적인 정보 수집, 진단, 치료 등을 포함한 다양한 의료 활동에서 생성형 AI의 적합성을 평가해 볼 수 있음

1) 일반적인 정보 수집

- 생성형 AI는 이해하기 쉬운 언어로 환자와 대화하고 불확실성을 해결하며,의료 제공자를 위해 데이터를 요약함으로써 정보 수집･보고의 효율성 제고 가능

- AI 시스템은 대화형 방식으로 특정한 질문을 던져 의료진이 환자의 병력을수집하는 것을 도울 수 있으며, 건강정보교환(HIEs)*을 활용해 환자의 의료기록을검색･분석하여 의료배경에 따른 적절한 문진을 구성할 수 있음**

* 건강정보교환(HIEs, health information exchanges)은 의사, 간호사 또는 기타 의료진이환자의 의료정보를 전자적으로 공유하거나 배포하는 것을 의미

** 가령, AI는 환자의 약물 목록과 건강 문제를 상호 참조하여 환자들이 처방 요법을 준수하고있는지 혹은 새로운 처방에서 상충되는 약물을 복용 중단했는지 등 확인 가능

- 이러한 AI 시스템이 수행하는 작업은 반복적이며 상대적으로 위험도가 낮아현재 AI의 기술 역량을 활용하면 만족할 만한 수준의 성능 발휘가 가능

2) 진단

- AI는 상당한 데이터 가용성이 있는 상황에서 진단 절차를 개선할 수 있으나,특히 제한적인 데이터를 가진 흔하지 않은 질병의 경우에는 정확한 진단을내리고 편견을 완화하는 것이 여전히 과제*로 남아 있음

* 희귀질환 진단 시에는 데이터가 부족하여 AI가 효과적이지 않을 수 있으며, 학습 샘플이충분하지 않아 AI가 제대로 작동하지 않을 수 있음

- 데이터가 충분한 일반 질환의 경우에도 AI 시스템의 성능을 개선하고 대형의료시스템이 소규모 의료시스템보다 우위를 점하는 분열된 AI 환경을 피하기위해서는 종합적인 데이터 세트에 접근하는 것이 중요

- 현재의 생성형 AI 기술은 공개적으로 사용가능한 데이터만 학습하기 때문에의료기록의 통합 없이 진단을 위해 일반적인 AI 모델에 의존하는 것은 시기상조임

- 의료서비스 제공자는 광범위한 의료 데이터 세트로 AI를 학습시키기 전까지는진단을 위해 생성형 AI를 배포하는데 주의해야 하며, 충분한 데이터를 학습시킨경우에도 잠재적인 위험을 완화하는 것이 중요

3) 치료

- 치료에 AI를 활용할 경우, 책임과 의무 문제, 환자의 신뢰와 수용의 문제,기술적 한계 등으로 인해 심각한 문제를 야기할 수 있음

- 의료 제공자는 치료에 대해 궁극적인 책임을 지는데, 법적 체계를 변경하여치료 책임을 AI 개발자에게 전가하는 것은 불가능하며 매우 큰 위험을 초래

- 현재 AI는 단순한 약물 관리 외에 의사들이 수행하는 세밀한 작업을 복제할수 있는 첨단 기술 역량은 부족하며, AI의 치료에 대한 환자의 신뢰 수준도 낮음

4) 치료 후 모니터링 및 후속 조치

- 치료 후 의료진의 권고사항을 준수하는 것이 중요하지만 이를 보장할 수 있는수단이 제한적인 상황에서 웨어러블 기술, 스마트기기, 센서가 장착된 스마트폰의확산은 진료 현장 밖에서 환자의 행동을 모니터링 할 수 있는 기회를 제공

- AI는 이러한 데이터를 활용하여 실시간 모니터링이나 개인화된 권고사항을제공할 수 있으며, 즉각적인 의료조치가 필요할 때 의료진에게 경고를 보내환자의 건강 악화를 예방할 수 있도록 지원 가능

5) 국민 건강 관리

- 의료제공자는 전자의료기록(EHRs)과 건강정보교환(HIEs)의 광범위한 데이터세트를 활용하여 환자 관리를 크게 개선할 수 있음

- 예측 분석을 통합하여 AI를 활용한 적시의 의료 개입을 통해 가장 위험한환자를 식별함으로써 더욱 효과적으로 환자를 관리*할 수 있음

* 환자 특성을 조사하여 퇴원 후 병원 재입원 가능성을 평가하도록 AI 알고리즘을 학습시킬 수 있으며, 이러한 예측에 따라 심각한 건강 문제 예방에 필요한 지원 가능

- 이러한 AI 애플리케이션을 구현하는 것은 광범위한 데이터 세트의 가용성에달려있는데, 체계적으로 수집된 데이터가 부족*하기 때문에 현재의 예측 모델의성능은 최적의 상태가 아님

* 환자의 사회적 결정요인, 라이프스타일, 일상적 활동 등 전자의료기록(EHRs)이나 건강정보교환(HIEs)에서 수집되는 것 이상의 정보가 환자의 건강 결과에 중요

- 대중 건강 관리를 목적으로 하는 예측 AI 모델의 성능 향상을 위해서는 AI시스템이 보다 광범위하고 다양한 데이터 세트에 접근･분석하는 것이 중요하며,이는 스마트기기나 웨어러블 기술을 통해 수집한 정보를 통합함으로써 실현 가능

◎︎ 보건의료 분야에서 생성형 AI의 이점을 활용하는 동시에 위험을 완화하기 위해정책입안자는 다음의 사항을 고려해야 함

- (투명성) AI가 제안하는 내용의 의학적 타당성과 정확성을 검토하고 잘못된데이터나 편향된 알고리즘에서 발생하는 오류를 최소화하기 위해서는 AI 개발자들사이의 투명한 분위기 조성, 의료전문가와 기술전문가 간의 협력관계가 중요

- (사전 동의) 환자에게 의료과정에서 AI가 수행하는 역할에 대한 정보를 제공해야하며 개인정보보호 조치, AI 관련 서비스의 이점과 위험에 대해 설명하여정보에 입각한 의사결정이 가능하도록 해야 함

- (건강정보교환(HIEs)를 통한 데이터 독점 해소) 많은 데이터를 보유한 대형의료제공자와 소규모 의료제공자 간의 격차 완화를 위해 의료데이터에 대한접근을 개방하는 이니셔티브가 필요하며, 이때 데이터의 수집･통합에 HIEs를 활용

...................(계속)

☞ 자세한 내용은 내용바로가기 또는 첨부파일을 이용하시기 바랍니다.