기술동향
인공지능 편향성 이슈와 신뢰성 확보 방안
- 등록일2021-11-30
- 조회수3830
- 분류기술동향 > 종합 > 종합
-
자료발간일
2021-10-27
-
출처
정보통신기획평가원
- 원문링크
-
키워드
#인공지능#디지털#창의성
- 첨부파일
file1115809106327185365-202002.pdf
인공지능 편향성 이슈와 신뢰성 확보 방안
◈목차
I. 서론
II. 인공지능 정의 및 개발 프로세스
1. 인공지능 정의 및 최신 동향
2. 인공지능 개발 프로세스
Ⅲ. 인공지능 편향성 이슈와 신뢰성 확보 방안
1. 인공지능 편향성 이슈
2. 인공지능 신뢰성 확보 방안
IV. 결론
◓ 참고문헌
◈본문
인공지능은 거의 모든 산업과 인간의 미래에 영향을 미치고 있다. 인공지능은 스마트기기, 자동차, 의료시스템, 빅데이터, 로봇공학, 앱, IoT와 같은 4차 산업혁명의 핵심 기술을 견인 하고 있으며, 인공지능의 영향력이 다른 많은 산업에 더 깊숙이 스며들어 가까운 미래에도 계속해서 기술 혁신의 역할을 할 것으로 예상되고 있다.
<자료> Gartner, “2021 Hype Cycle for Emerging Technologies,” 2021. 8.
[그림 1] 2021년 신기술 하이프 사이클
[그림 1]과 같이 가트너의 2021년 신기술 하이프 사이클에서는 기존의 디지털 인공지능 모델은 훈련된 데이터 이상으로 일반화할 수 없기 때문에 다양한 분야에서의 적응이 제한적일 수밖에 없었다. 그러나, 최근의 인공지능은 시스템이 작동하는 상황과 조건을 보다 유연하게 표현하여 개발자가 보다 탄력적인 체계를 개발할 수 있도록 하고 있다. 또한, 더욱 더 강력하고 적응력이 뛰어난 비즈니스 시뮬레이션 시스템을 생성할 수 있을 뿐만 아니라 광범위한 시나리오에 대해 보다 안정적으로 발전하고 있다.
인공지능은 컴퓨터 학습의 기초를 형성하기 때문에 앞으로의 미래에 매우 중요하다. 인공지능을 통해 컴퓨터는 방대한 양의 데이터를 활용하고 학습된 지능을 사용하여 인간에 의해 소요되는 시간보다 훨씬 짧은 시간 안에 결과물을 낼 수 있다. 인공지능은 암 연구에 의해 의학적 혁신에서 최첨단 기후 변화 연구에 이르기까지 모든 것을 책임지고 있다고 해도 과언이 아니다.
이처럼 인공지능은 인간이 지능을 나타내는 것으로 인식하는 학습 시스템이 보여주는 능력을 총칭하는 용어로 정의할 수 있다. 뿐만 아니라 이러한 지능형 기능은 [그림 2]와 같이 일반적으로 머신 비전 및 감지, 자연어 처리, 예측 및 의사 결정, 행동 및 자동화로 분류할 수도 있다. 인공지능의 다양한 응용 프로그램에는 이미지, 오디오 및 비디오 처리, 자율차량, 자연어 이해 및 생성, 대화 에이전트, 원근 모델링, 증강된 창의성, 지능형 프로세스 자동화, 고급 시뮬레이션, 복잡한 분석 및 예측이 포함된다.
<자료> Capgemini Technnology(www.capgemini.com), “AI and the Ethical Conundrum,” 2020. 10.
[그림 2] 인공지능 기능과 주요 활용 분야
이러한 애플리케이션을 가능하게 하는 기술에는 빅데이터 시스템, 딥러닝, 강화 학습 및 인공지능 가속 하드웨어가 포함된다. 그러나 인공지능이 우리 주변에 활용 범위가 확대됨에 따라 유용함보다는 악용 우려의 목소리도 높아지고 있다. 얼마 전 스캐터랩이 개발한 인공지능 챗봇 서비스인 ‘이루다’가 개인정보 유출 및 성차별 문제로 많은 이슈 속에 서비스를 중단하였으며, 2016년 3월에는 미국의 컴퓨터 소프트웨어 회사인 마이크로소프트가 ‘테이’라는 인공지능 챗봇을 공개했지만 테이가 인종차별적 발언을 하는 등 막말을 내뱉기 시작하여 많은 논란이 커지자 마이크로소프트는 서비스를 종료했다. 이를 계기로 인공지능 편향성에 대한 문제가 수면 위로 본격적으로 떠올랐으며 인공지능을 도입하기 위해서는 안전하고 신뢰할만한 개발과 알고리즘의 중요성이 높아지게 되었다.
인공지능과 관련되어 제기되는 윤리적인 이슈 중 하나가 바로 편향성(bias)의 문제이다. 실제로 편향성의 문제를 편견(prejudice, vorurteil)이나 고정관념의 문제와 혼동하는 경우가 많은데, 전자가 통계적, 기술적인 용어(technical term)라고 한다면 후자는 윤리적인 용어(ethical term)라고 할 수 있다. 이와 같이 데이터를 수집, 가공하는 과정에서 편향성의 문제가 항상 제기되곤 한다[2]. 인공지능은 비즈니스의 판도를 바꿀 수 있는 혁신적인 기술이지만 잘못될 수도 있다는 점을 간과해서는 안 된다. 인공지능 기반 시스템이 비즈니스에 더욱 중요해짐에 따라 우리 모두는 인공지능의 편향성 문제를 이해해야 하며 이를 극복하기 위한 많은 노력이 필요하다.
따라서 본 고에서는, 먼저 II장에서 인공지능의 정의 및 최신 동향, 인공지능 개발 프로세스를 살펴보고, III 장에서는 인공지능 편향성 이슈와 인공지능 신뢰성 확보 방안 위주로 살펴본다. 끝으로 IV장에서 본 고의 결론을 제시하고자 한다.
...................(계속)
☞ 자세한 내용은 내용바로가기 또는 첨부파일을 이용하시기 바랍니다.
관련정보
지식
동향