바이오인

과기정통부, 사람이 중심이 되는 「국가 인공지능 윤리기준」(안) 공개

- 학계·기업·시민단체 등 전문가 의견수렴 거쳐

‘인간성(Humanity)을 위한 인공지능(AI)’의 3대 원칙·10대 요건 담아 -

- 12월 7일 공청회 등 공개 의견수렴 거쳐 12월 최종 발표 예정 -

□ 과학기술정보통신부(장관 최기영, 이하 ‘과기정통부’)와 정보통신정책연구원은 2020년 11월 27일 인공지능 시대 바람직한 인공지능 개발·활용 방향을 제시하기 위한 「국가 인공지능 윤리기준」(안)을 발표했다.(‘붙임1’)

ㅇ 이는 윤리적 인공지능을 실현하기 위해 정부·공공기관, 기업, 이용자 등 모든 사회구성원이 함께 지켜야 할 주요 원칙과 핵심 요건을 제시하는 기준으로, 인공지능·윤리학·법학 등 학계·기업·시민단체를 아우르는 주요 전문가들이 자문과 의견수렴 과정에 참여했다.

□ 그간 인공지능 기술의 발전·확산과 함께 인공지능 기술의 윤리적 개발·활용 역시 세계 각국과 주요 국제기구의 관심 대상이 되어 왔으며,

ㅇ 지난해 우리나라가 주도적으로 참여한 경제협력개발기구(OECD) 인공지능 권고안(‘19.5)을 비롯하여 OECD, 유럽연합(EU) 등 세계 각국과 국제기구, 기업, 연구기관 등 여러 주체로부터 다양한 인공지능 윤리 원칙이 발표되었다.

ㅇ 이에 과학기술정보통신부는 이러한 글로벌 추세에 발 맞추어 지난해 발표된 「인공지능 국가전략(’19.12)」 주요 과제로 ‘국가 인공지능 윤리기준’ 마련을 추진해왔다.

□ 그간 과기정통부는 인공지능·윤리 전문가로 구성된 인공지능 윤리연구반을 통해 국내외 주요 인공지능 윤리원칙을 분석하고, 그 결과를 윤리철학의 이론적 논의와 연계하여 ‘인간성을 위한 인공지능(AI for Humanity)’를 목표로 하는 윤리기준 초안을 마련하였으며, 3개월에 걸쳐 학계·기업·시민단체 등 각계의 다양한 전문가로부터 의견을 수렴하였다.

□ 이러한 과정을 거쳐 마련된 「국가 인공지능 윤리기준」(안)은 ‘사람 중심의 인공지능’을 위한 최고 가치인 ‘인간성(Humanity)’을 위한 3대 기본원칙과 10대 핵심요건을 제시하고 있으며, 주요내용은 다음과 같다.

ㅇ (목표 및 지향점) ① 모든 사회 구성원이 ② 모든 분야에서 ③ 자율적으로 준수하며 ④ 지속 발전하는 윤리기준을 지향한다.

- ①인공지능 개발에서 활용에 이르는 전 단계에서 정부·공공기관, 기업, 이용자 등 모든 사회 구성원이 참조하는 기준

- ②특정 분야에 제한되지 않는 범용성을 가진 일반원칙으로, 이후 각 영역별 세부 규범이 유연하게 발전해나갈 수 있는 기반 조성

- ③구속력 있는 ’법‘이나 ’지침‘이 아닌 도덕적 규범이자 자율규범으로, 기업 자율성을 존중하고 인공지능 기술발전을 장려하며 기술과 사회변화에 유연하게 대처할 수 있는 윤리 담론을 형성

- ④사회경제, 기술 변화에 따라 새롭게 제기되는 인공지능 윤리 이슈를 논의하고 구체적으로 발전시킬 수 있는 플랫폼으로 기능

ㅇ (최고 가치) 윤리기준이 지향하는 최고가치를 ’인간성(Humanity)’로 설정하고, ‘인간성을 위한 인공지능(AI for Humanity)’을 위한 3대 원칙·10대 요건 제시

ㅇ (3대 기본원칙) ‘인간성(Humanity)’을 구현하기 위해 인공지능의 개발 및 활용 과정에서 ❶ 인간의 존엄성 원칙, ❷ 사회의 공공선 원칙, ❸ 기술의 합목적성 원칙을 지켜야 한다.

ㅇ (10대 핵심요건) 3대 기본원칙을 실천하고 이행할 수 있도록 인공지능 개발~활용 전 과정에서 ⓵ 인권 보장, ⓶ 프라이버시 보호, ⓷ 다양성 존중, ⓸ 침해금지, ⓹ 공공성, ⓺ 연대성, ⓻ 데이터 관리, ⓼ 책임성, ⓽ 안전성, ⓾ 투명성의 요건이 충족되어야 한다.

□ 과기정통부 최기영 장관은 “이번 「국가 인공지능 윤리기준」(안) 공개가 국가 전반의 인공지능 윤리 이슈에 대한 인식과 논의를 활성화함으로써 ‘사람 중심의 인공지능’으로 나아가는 기반이 되기를 기대한다”고 밝혔으며,

ㅇ “앞으로 「국가 인공지능 윤리기준」이 새롭게 제기되는 인공지능 윤리이슈에 대한 토론과 숙의의 토대가 되고 현장에 정착할 수 있도록 노력하고, 윤리기준의 사회 확산을 위한 주체별 체크리스트 개발 등 실천방안도 마련해나가겠다”고 밝혔다.

□ 과기정통부는 12월 7일 공개 공청회를 통해 「국가 인공지능 윤리기준」(안)을 소개할 예정이며, 12월 15일까지 시민들의 자유로운 의견을 이메일로 접수(aiethics@kisdi.re.kr)할 계획이다.(‘붙임2’)

ㅇ 공개 의견수렴을 거쳐 보완된 최종 「국가 인공지능 윤리기준」은 12월 중순경에 대통령 직속 ‘4차산업혁명위원회’ 심의를 거쳐 확정될 예정이다.

붙임1: 「국가 인공지능 윤리기준」(안)

붙임2: 「국가 인공지능 윤리기준」(안) 공청회 등 의견수렴 계획

...................(계속)

☞ 자세한 내용은 내용바로가기 또는 첨부파일을 이용하시기 바랍니다.