제도동향
[글로벌 보건산업 동향 Vol.523] 유럽연합 AI 시스템 규정(Regulation (EU) 2024/1689)과 의료AI 산업 전망
- 등록일2024-09-02
- 조회수1172
- 분류제도동향 > 종합 > 종합
-
자료발간일
2024-08-20
-
출처
한국보건산업진흥원
- 원문링크
-
키워드
#글로벌보건산업동향#유럽연합#의료AI
유럽연합 AI 시스템 규정(Regulation (EU) 2024/1689)과 의료AI 산업 전망
[글로벌 보건산업 동향 Vol.523]
◈ 목차
FOCUS
유럽연합 AI 시스템 규정(Regulation (EU) 2024/1689)과 의료AI 산업 전망
의료서비스
디지털헬스케어
제약·의료기기·화장품
고령친화산업
◈본문
유럽연합 AI 시스템 규정(Regulation (EU) 2024/1689)과 의료AI 산업 전망
유럽연합 AI 규정(Regulation (EU) 2024/1689) 개요
제정 배경 및 필요성
● 유럽연합은 AI 기술을 규제하는 세계 최초 포괄적인 AI 규정(Regulation (EU) 2024/1689)을 제정함. 이는 최근 AI 기술의 급격한 발전과 확산으로 AI 시스템의 잠재적 위험이 크게 증가함에 의함이며, 특히 고위험 AI 시스템이 사회적, 경제적, 법적 문제를 야기할 수 있는 가능성이 높아짐에 따라 변화에 대응하기 위해 제정됨
●Ÿ 이 규정은 유럽연합에 진출하려는 비유럽연합 기업에도 적용되어 국제적 영향력을 가지게 되며, AI 기술의 혁신을 장려하면서도 위험을 관리해 AI 시스템이 사회에 미치는 영향을 최소화하고 인간의 기본 권리와 자유를 보호하는 것을 목적으로 함
❶ 위험관리: AI 시스템 위험 수준을 평가하고 관리하기 위한 규제 기준 확립
❷ 투명성과 책임성 강화: AI 시스템 개발 및 사용에 대한 투명성 보장과 책임성 강화
❸ 혁신 촉진: AI 기술의 혁신을 촉진하면서도 윤리적 사용 장려
주요 내용
● AI에 대한 인공지능 시스템의 개발, 배포 및 사용과 관련된 전반적인 사항에 대해 규정하고 있음
❶ AI 시스템 분류: AI 시스템의 위험 수준에 따라 분류하여 규제
❷ 투명성 및 안전성 요건: AI 시스템이 투명하고 안전하게 작동하도록 하기 위한 구체적인 요건을 규정
❸ 감독 및 집행: 각 국가에서 AI 시스템을 감독하고 집행할 당국을 명시
AI 시스템의 위험 수준에 따른 분류
● 허용할 수 없는 위험(Unacceptable Risk): 인간의 안전이나 기본권에 심각한 위협을 가하는 AI 시스템은 금지됨. 예를 들어, 신용점수 시스템에 적용되는 AI는 인간의 기본권이나 개인정보의 안전에 심각한 위험을 초래할 가능성이 있으므로 전면적으로 금지됨. 이러한 AI 시스템은 어떠한 형태로도 EU 내 개발, 배포, 사용이 허용되지 않음
● 고위험(High Risk): 고위험으로 분류된 AI 시스템은 엄격한 규제를 받으며, 개발자와 사용자 모두에게 의무사항이 부과됨. 주로 의료, 교육, 법 집행, 고용 등에서 사용되며, 높은 규제 요구사항을 준수해야 함. 위험 평가와 관리체계, 높은 품질의 데이터 사용, 투명성, 설명 가능성, 사람의 직접 감독 등을 요구하며 기술명세서 작성, 시스템 운영 기록 보관, 이용자에 대한 정보 제공 등의 의무를 포함함
● 제한적 위험(Limited Risk): 제한적 위험 수준 AI 시스템은 상대적으로 낮은 위험을 갖지만, 사용자가 이용하는 시스템이 AI에 의해 구동된다는 사실을 인지할 수 있게 하는 투명성을 제공해야 함. 예를 들어, 챗봇*이나 자동화된 고객서비스 시스템은 사용자가 AI와 상호작용하고 있음을 명확히 고지해야 함
* 챗봇은 컴퓨터 프로그램으로, 사람처럼 대화하는 것처럼 보이지만, 실제로는 미리 설정된 규칙이나 인공지능 기술을 사용해 대답을 생성함
● 최소 위험(Minimal Risk): 최소 위험 범주에 속하는 AI 시스템은 일반적으로 규제대상이 아니며, 자유롭게 개발 및 배포될 수 있음. 그러나 기본적인 안전과 윤리 기준을 준수하는 것이 권장되며, 대부분의 AI 애플리케이션에 해당됨
[자료] European Commission
...................(계속)
☞ 자세한 내용은 내용바로가기 또는 첨부파일을 이용하시기 바랍니다.
-
이전글
- [NRF R&D Brief 2024-31호] 과학기술 국제협력 수요발굴을 위한 조사분석
-
다음글
- EU, AI법 시행과 한국의 대응: AI 산업육성과 규제 간의 철학 재정립 및 대응체계 조속히 구축해야