정부, AI 실현 3대 전략 10대 실행과제 수립

정부가 ‘누구나 신뢰할 수 있는 AI, 모두가 누릴 수 있는 AI 구현’이라는 비전 아래

인공지능(AI) 실현 3대 전략 및 10대 실행과제를 수립했다.

민간의 AI 서비스 구현을 정부가 체계적으로 지원하고, 이용자가 믿고 안전하게 사용할 수 있도록 제도를 보완하며, 사회 전반에 건전한 인공지능 윤리를 확산하는 것이 중점 방향이다.

과학기술정보통신부는 13일 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 이 같은 내용을 골자로 한 사람이 중심이 되는 인공지능을 위한 ‘신뢰할 수 있는 인공지능 실현전략‘을 발표했다.

■ 세계 각국 고위험 AI 대응 위한 제도 정립 중

4차 산업혁명을 견인하는 범용기술인 인공지능이 전 산업･사회에 빠르게 도입･확산되며 혁신을 창출하고 있으나, 확산에 따른 예상하지 못한 사회적 이슈와 우려도 함께 대두되고 있다.

올해 초 국내에서는 AI 챗봇 ‘이루다’가 사회적 이슈로 떠올랐으며, 미국에서는 2018년 7월 오바마 전 대통령의 딥페이크, 같은 해 6월에는 MIT가 개발한 사이코패스 인공지능이 사회적 문제가 됐다.

이에 따라, 주요국은 인공지능에 대한 사회적 신뢰 확보를 인공지능의 사회적·산업적 수용의 전제요소로 인식하고, 인공지능의 신뢰성을 강조하며 그 실현을 위한 적극적인 정책을 추진 중이다.

특히, 유럽(EU)은 사람에게 부정적 영향을 미칠 수 있는 고위험 인공지능을 중심으로 한 제도 정립을 선도 중이며, 미국은 기술개발과 민간 자율규제를 중심으로 인공지능에 대한 신뢰성 확보를 추진 중에 있다.

김경만 과기정통부 인공지능기반정책과장은 “이러한 흐름 속에서 사람이 중심이 되는 AI 강국으로 도약하기 위해 신뢰할 수 있는 지원 정책이 조속히 필요하다는 판단에 따라 이번 전략을 마련했다”며 “지난해 연말 AI 윤리기준 실천방안을 구체화하고, 민간 자율적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하며, 재정·기술력이 부족한 스타트업 등에 대한 지원책을 담았다”고 설명했다.

■ 2025년까지 3대 전략 10대 실행과제 추진

이번 전략은 ‘누구나 신뢰할 수 있는 AI, 모두가 누릴 수 있는 AI 구현’을 비전으로, 기술･제도･윤리 측면의 3대 전략과 10대 실행과제를 통해 2025년까지 단계적으로 추진된다.

민간의 AI 서비스 구현을 체계적으로 지원하고, 이용자가 믿고 안전하게 사용할 수 있도록 제도를 보완하며, 사회 전반에 건전한 인공지능 윤리를 확산하는 것이 중점 방향이다.

먼저, 인공지능 제품·서비스 구현단계별 신뢰 확보 체계를 마련하기 위해 민간에서 인공지능 제품･서비스를 구현하는 단계(개발→ 검증→ 인증)에 따라, 기업, 개발자, 제3자 등이 신뢰성 구현을 위해 참조할 수 있는 신뢰 확보 기준과 방법론을 제시하고 지원한다.

‘개발’ 단계에서는 국내･외 신뢰성 관련 법･제도･윤리･기술적 요구사항을 한 번에 확인할 수 있는 ‘개발 가이드북’을 제작･보급한다.

‘검증’ 단계에서는 개발 가이드북을 준수한 신뢰성 확보 여부와 그 수준을 확인하고 평가할 수 있는 검증절차･항목･방법 등의 ’검증체계’를 마련하고 제시될 예정이다.

‘인증’ 단계에서는 기술·윤리적 요구사항을 충족해 검증체계를 통과한 제품·서비스에 대해 민간 자율 인증과 공시를 추진할 계획이다.

■ 민간 AI 신뢰성 확보 지원

기술･재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 ‘데이터 확보→ 알고리즘 학습→ 검증’을 통합 지원하는 플랫폼이 운연된다.

학습용 데이터와 컴퓨팅 자원을 지원 중인 인공지능 허브(AI Hub) 플랫폼에서 검증체계에 따른 신뢰 속성별 수준 분석, 실 환경 테스트 등의 기능을 추가 개발·연계해 일괄적으로 지원한다.

AI 신뢰성을 확보하기 위한 원천기술도 개발된다. 이미 구현된 시스템에 AI가 판단기준 등을 설명할 수 있는 기능을 추가할 수 있고, AI가 스스로 법･제도･윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록, AI의 설명가능성, 공정성, 견고성 제고를 위한 원천기술 개발을 추진한다.

■ 안전한 AI 활용 위한 기반 마련

정부는 AI 학습용 데이터의 신뢰성을 제고를 위해 민･관이 AI 학습용 데이터 제작공정에서 공통적으로 준수해야할 신뢰 확보 검증지표 등의 표준 기준을 민간과 함께 마련해 통일성 있게 구축 될 수 있도록 확산시킬 예정이다.

국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 AI의 범주를 설정하고, 서비스 제공 전에 해당 AI의 활용 여부를 이용자에게 ‘고지’할 계획이다.

고지 이후, 해당 AI 기반 서비스에 대한 ‘이용 거부’, AI의 판단 근거에 대한 ‘결과 설명’과 이에 대한 ‘이의제기’ 등의 제도화에 대해서는 글로벌 입법･제도화 동향, 산업적 파급력, 사회적 합의･수용성, 기술적 실현 가능성 등을 고려하여 종합적으로 중장기 검토할 계획이다.

■ AI 영향평가‧윤리 교육 강화

정부는 AI가 국민생활 전반에 미치는 영향을 종합･체계적으로 분석하고 대응하기 위해 지능정보화기본법 제56조에 규정된 사회적 영향평가를 도입한다는 계획이다

신뢰성 요소(안전성, 투명성 등)를 토대로 AI의 영향력을 종합 분석하여 향후 AI 관련 정책이나 기술･관리적 조치방안 수립 시 활용할 계획이다.

AI 신뢰 강화를 위한 제도도 개선된다. 지난해 연말 ‘AI 법･제도･규제 정비 로드맵을 통해 발굴된 과제 중 AI에 대한 신뢰 확보, 이용자의 생명·신체보호 등과 관련된 과제인 ▲업계 자율적 알고리즘 관리･감독환경 조성 ▲플랫폼 알고리즘 공정성･투명성 확보 ▲영업비밀 보장을 위한 알고리즘 공개기준 마련 ▲고위험 기술기준 마련 등 관련 제도를 개선할 계획이다.

AI 윤리 교육도 강화된다. AI가 사회에 미치는 영향, 인간-AI 간 상호작용 등 사회·인문학적 관점과 윤리 기준의 사회 실천을 인식할 수 있는 내용을 담은 AI 윤리교육 총론을 마련하고, 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시할 예정이다.

주체별 체크리스트를 마련･배포된다. AI 윤리기준에 대한 구체적인 행위지침으로, 연구･개발자, 이용자 등이 업무, 일상생활 등의 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트를 개발해 보급할 계획이다.