AI, 인간에게 피해 끼치면 안된다

정부, AI 3대 윤리기준 마련...사회 공공선 원칙도

인공지능(AI) 윤리 문제가 세계적으로 이슈인 가운데 정부가 '국가 인공지능(AI) 윤리 기준(안)'을 만들었다. 인공지능 개발부터 활용까지 모든 과정에 적용될 이 안은 3대 기본원칙과 10대 핵심 요건으로 구성됐다. 

이 초안은 다음달 7일 공청회와 시민 의견을 수렴, 다음달 중순경 대통령 직속 4차산업혁명위원회에서 심의, 확정된다.

27일 과기정통부는 윤리기준이 지향하는 최고가치를 인간성(Humanity)으로 설정하고 인공지능 개발~활용 시 지켜야 할 3대 원칙과 10대 요건을 발표했다.  

3대 원칙은 ▲인간의 존엄성 원칙 ▲사회의 공공선 원칙 ▲기술의 합목적성 원칙 등이다. 이들 원칙을 실천하고 이행할 10대 요건은 ▲인권 보장 ▲프라이버시 보호 ▲다양성 존중 ▲침해금지 ▲공공성 ▲연대성 ▲데이터 관리 ▲책임성 ▲안전성 ▲투명성 등이다. 인공지능 개발부터 활용시 이들 10대 요건을 충족시켜야 한다는 것이다. 

문재인 대통령이 25일 일산 킨텍스에서 열린 '한국판 뉴딜 대한민국 인공지능을 만나다'에서 모두발언을 하고 있다.

과기정통부는 "이번 안은 윤리적 인공지능을 실현하기 위해 정부 및 공공기관, 기업, 이용자 등 모든 사회구성원이 함께 지켜야 할 주요 원칙과 핵심 요건을 제시한 기준"이라면서 "인공지능·윤리학·법학 등 학계·기업·시민단체를 아우르는 주요 전문가들이 자문과 의견수렴 과정에 참여했다"고 설명했다.

인공지능 기술 발전 및 확산과 함께 인공지능 기술의 윤리적 개발 및 활용 역시 세계 각국과 주요 국제기구의 관심 대상이 되어 왔다. 지난해 우리나라가 주도적으로 참여한 경제협력개발기구(OECD) 인공지능 권고안(‘19.5)을 비롯해 OECD, 유럽연합(EU) 등 세계 각국과 국제기구, 기업, 연구기관 등 여러 주체로부터 다양한 인공지능 윤리 원칙이 발표됐다.

이러한 글로벌 추세에 발 맞춰 과기정통부는 지난해 발표한 '인공지능 국가전략(’19.12)' 주요 과제로 ‘국가 인공지능 윤리기준’ 마련을 추진해왔다. 이에 과기정통부는 인공지능 및 윤리 전문가로 구성한 인공지능 윤리연구반을 통해 국내외 주요 인공지능 윤리원칙을 분석하고, 그 결과를 윤리철학의 이론적 논의와 연계, ‘인간성을 위한 인공지능(AI for Humanity)’를 목표로 하는 윤리기준 초안을 마련, 3개월간 학계·기업·시민단체 등 각계의 다양한 전문가로부터 의견을 수렴, 이번 안을 내놓게 됐다.

과기정통부는 다음달 7일 공개 공청회를 통해 '국가 인공지능 윤리기준 안'을 소개하고 이어 다음달 15일까지 시민들의 자유로운 의견을 이메일(aiethics@kisdi.re.kr)로 접수, 보완한 최종안을 다음달 중순 대통령 직속 ‘4차산업혁명위원회’ 심의를 거쳐 확정할 예정이다.

최기영 과기정통부 장관은 “이번 국가 인공지능 윤리기준안 공개가 국가 전반의 인공지능 윤리 이슈에 대한 인식과 논의를 활성화함으로써 ‘사람 중심의 인공지능’으로 나아가는 기반이 되기를 기대한다”면서 "앞으로 '국가 인공지능 윤리기준'이 새롭게 제기되는 인공지능 윤리 이슈에 대한 토론과 숙의의 토대가 되고 현장에 정착할 수 있도록 노력하고, 윤리기준의 사회 확산을 위한 주체별 체크리스트 개발 등 실천방안도 마련해나가겠다”고 밝혔다.