본문으로 바로가기

기술동향

의료 인공지능의 신뢰성과 안전성

  • 등록일2021-11-04
  • 조회수4449
  • 분류기술동향 > 레드바이오 > 의약기술
  • 자료발간일
    2021-10-28
  • 출처
    한국보건산업진흥원
  • 원문링크
  • 키워드
    #의료인공지능#인공지능#가이드라인
  • 첨부파일


KHIDI 디지털 헬스케어 리포트

의료 인공지능의 신뢰성과 안전성


◈목차

I. 의료인공지능 신뢰성
 1. 블랙박스 인공지능 
 2. 신뢰성이 필요한 이유 
 3. 설명 가능한 인공지능 
 4. 견고한 인공지능 
 5. 공정한 인공지능
II. 의료인공지능 안전성
 1. 인공지능의 안전성 이슈 
 2. 안정성 평가방법
III. 신뢰성/안전성 주요국 대응 동향
 1. 미국  
 2. 유럽연합(EU) 
 3. 일본  
 4. 대한민국
IV. 신뢰성/안전성 평가 가이드라인


◈본문


I. 의료인공지능 신뢰성

 1.블랙박스 인공지능
인공지능(여기서는 추론에 기반을 둔 왓슨보다는 딥러닝을 지칭함)은 이제 연구를 시작한 지가 10년 정도 된(인공지능의 효시를 1970년부터 볼 수도 있고, 딥러닝으로 Auto-encoder를 사이언스에 출간한 2006년으로 볼수 있지만1), 여기서는 ImageNet의 결과를 10%이상 향상하여 전 세계에 딥러닝을 알린 Alexnet이 발표된 2012년으로 보겠다.2)) 기술이다. 인류 역사와 같이 존속하는 의학 같은 전통학문과 비교해보면, 아직 유아기라고 할 수 있다. 또한, 딥러닝이 이론이 나오고 기술적으로 구현된 것이 아니라 인간의 뇌를 모사한 시스템을 경험적으로 실증하는 식으로 발전하고 있고 많은 새로운 시도를 통해 빛의 속도로 발전 중이다. 딥러닝 기술적 특성인 네트워크와 매개변수(weights)로 실제 딥러닝이 무엇을 보고 어떻게 판단하는지 이해하기 어렵다는 측면에서 이것을 블랙박스(Black-box)라 한다.

딥러닝은 지금까지 컴퓨터로 잘 처리하기 어려운 비정형 데이터(unstructured data)에 특별한 장점이 있다. 딥러닝이 의료를 포함한 일반적인 음성과 시각에서 인간의 인식(recognition 또는 perception)수준까지 되었다는 많은 보고가 이어지고 있다. 딥러닝은 기존 컴퓨터 시스템의 기본적 장점인 무한한 데이터를 다 기억할 수 있다는 점, 단순 반복적인 일에 싫증을 내지 않는다는 점, 매우 빠르고 지치지 않는다는 점 등과 시너지를 내서 기존의 프로그램을 유연하고 지능적으로만들 수 있다. 따라서, 기존에는 사람만이 할수 있다고 여겨진 많은 분야를 대체할 수 있다고 생각한다. 뿐만아니라, 인공지능은 바둑이나 게임과 같이 제한적 공간에서 강화학습 등을 통해서 많은 성과를 내었다. 또한, 랜덤한 숫자를 기반으로 적대적으로 학습하는 GAN과 같은 방식으로 어떤 문제의 잠재 인자(latent factor)를 모델링 하는 방법도 많은 성과를 내고 있다. 인식문제를 컴퓨터로 인간 수준만큼 하는 것을 가능하게 함으로써, 데이터를 정리하거나 처리하여 새로운 정보를 생산 해내는 기자, 법률가, 경제 분석가와 의사 등만이 할 수 밖에 없다고 여겨진 일의 일부분을 대체하고 있거나 할 것으로 기대된다. 이미 자동차, 드론 및 로봇기술 등과 결합하여 자율주행차, 지능형 드론, 또는 유연하고 적응적인 로봇이 구현되고 있고, 실제로 몇몇 분야에서는 쓰고 있다. 인간의 한계를 극복할 수 있어서 생산성을 폭발적으로 향상 시킬 수 있으므로 제4차 산업혁명의 핵심이 될 것이라 생각한다.

 

...................(계속)



☞ 자세한 내용은 내용바로가기 또는 첨부파일을 이용하시기 바랍니다.


관련정보

자료 추천하기

받는 사람 이메일
@
메일 내용