인간 지식 넘보는 AI...‘사람 중심’ 윤리 기준 필수

[신년기획 : AI시대③] 보안·일자리 등 역기능 대책 수립해야

"성공적으로 안전한 인공지능(AI)을 만들 확률은 단 5~10%뿐이다...사람의 지능을 훨씬 뛰어 넘는 울트라 인텔리전트 AI가 등장했을 때 기대할 수 있는 가장 자비로운 상황은 그들이 우리를 애완동물처럼 대하는 것뿐이다." (일론 머스크 테슬라 대표)

"AI는 전세계적으로 적용되는 큰 영향력을 가진 기술이다. 이 기술은 매우 빠르게 성장하고, 또 강력하게 영향을 미치고 있다. 인류가 합심해서 AI가 인간의 경험을 개선하는 올바른 목적에 쓰이도록 노력해야 한다." (MS 스티븐 A, 크라운 인권 법률 자문 담당 부사장)

세계 각국이 AI 기술 연구개발(R&D)에 뛰어든 가운데, 미래의 AI가 인간의 존엄성을 해치지 않고 공생할 수 있는 윤리와 법제도 마련이 필요하다는 목소리가 높아지고 있다. 또 기계가 사람의 일자리를 대체할 가능성이 높아지게 되는 만큼, 안정적인 고용 정책의 필요성도 커지고 있다.

이에 우리 정부는 AI를 국가 전략 핵심 중 하나로 세움과 동시에, AI 확산과 함께 따라 커지는 불안을 선제적으로 없애기 위한 정책을 추진하기로 했다. 신기술 분야 중심으로 직업훈련을 전면 개편해 고용 가능성을 높이고, 역기능과 보안 위협에 대비한 AI 윤리규범을 확립한다는 방침이다.

■ AI 진흥과 역기능 대책 세우는 정부... AI와 '인간 중심' 조화 공존 필수

정부는 지난 달 17일 'AI 국가전략'을 통해 AI를 가장 잘 활용하는 국가 건설을 위해 ▲AI 경쟁력 혁신 ▲AI 활용 전면화 ▲AI와 조화 공존을 핵심 키워드로 내세웠다.

이 중 AI 기술 발전이 가져올 일자리 변화, 그리고 기계(AI)가 인간의 지능과 능력을 뛰어넘으면서 발생될 수 있는 윤리적인 문제들을 해결하려는 정부의 정책에도 적지 않은 관심이 쏠릴 전망이다.

왜냐하면 AI는 과거 자동차가 마차를 대체하고, 기계가 인간의 노동력을 대체했던 수준을 넘어 인간 자체를 대체하는 수준까지 발전할 것으로 전망되고 있어서다. 특히 인간이 AI의 알고리즘을 설계하는 것이 아니라, 멀지 않은 미래에 AI가 스스로 자신을 재설계함으로써 초AI가 되는 특이점이 온다는 전문가들의 예측이 설득력을 얻고 있는 상황이다. 아울러 보안 위협과 실제와 구분이 어려운 딥페이크(딥러닝+페이크) 영상 또는 사진이 사회적 혼란을 야기할 위험이 커지면서 이에 대한 안전대책 마련에도 필요성이 커지고 있다.

유튜브 채널 1분 과학 '다함께 만드는 신' 동영상 캡처. 일론 머스크가 AI 발전의 위험성에 대해 말하는 내용.

질병 예측과 치료에 도움을 주고 고된 단순 노동에서 해방시켜줄 수 있는 도구로서 AI 기술 발전에 속도를 높이되, AI가 인간의 존재와 존엄성을 해치지 않는 쪽으로 기술 발전을 이뤄야 한다는 게 전문가들의 중론이다. AI를 개발하는 기업과 개발자, 이를 활용하는 사용자 모두의 윤리 의식이 특히 더 중요한 이유다. 이를 위해서는 AI 개발 초기 단계 때부터 관련된 윤리 규범 정립과 정부의 적절한 정책과 규제가 필요한 것이 사실이다.

이에 우리 정부는 AI 등 지능형 기술을 기반으로 사이버 위협 대응시스템을 고도화하고, 역기능 대응을 위한 기술개발 및 범부처 협업체계를 구성하기로 했다. 사람 중심의 AI, 인간다운 AI 구현을 위해 사회적 공론화와 공감대 형성을 바탕으로 글로벌 수준의 AI 윤리규범을 정립한다는 방침이다.

먼저 새해부터 AI 기반 사이버 침해사고 탐지, 대응에 나선다. 지능형 기술 기반 사이버 침해사고 탐지, 분석, 대응체계를 구축하고 다양한 기기, 네트워크의 취약점 자동분석, 암호 안전성 검증 등 AI 기반 정보보호 기술개발에도 착수한다. 아울러 민간의 정보보호 AI 머신의 종합적 검증 및 컨설팅 제공을 위한 '정보보호 AI 학습지원 센터'도 구축할 계획이다.

또 정부는 AI 발전에 따른 새로운 서비스 분야의 개발과 역기능 방지를 병행하기 위한 R&D 추진 및 범부처 협업체계를 마련하기로 했다. 이를 통해 딥페이크 등 영상합성을 통한 명예훼손, 신원도용, 금융 사기 등의 부작용을 최소화 한다는 방침이다. 이 밖에 AI 제품, 서비스 확산에 대응해 신뢰성과 안전성 등을 검증하는 품질관리체계도 연내에 구축, 추진하기로 했다.

각 국 AI 윤리 규범 및 논의 동향

정부는 AI 윤리기준과 실천방안도 마련한다.

지난해 5월 마련된 OECD AI 권고안의 후속조치를 마련하는 등 AI 윤리 관련 국제적 논의를 선도한다는 구상이다. 이를 위해 국제기구, 주요국 등의 AI 윤리 규범 및 논의 동향을 파악, 분석해 글로벌 규범과 정합하는 AI 윤리기준 확립과 실천방안을 올해 마련한다는 계획이다. 사회 구성원들 간의 자율적인 규율 또는 입법화 등 다양한 방식을 고려 중이다.

향후에는 이용자 보호를 위한 중장기적 정책 수립 지원체계를 마련하는 한편, 대상별 AI 윤리교육 커리큘럼을 개발하고 보급할 예정이다.

■ 포용적 일자리 안전망 구축...직업훈련과 교육에 선도적 투자

기술 발전으로 포용적 일자리 안전망 구축이 더욱 중요해지고 있다.(사진=픽사베이)

정부는 또 AI가 사람의 일자리를 대체하게 되면서 포용적 일자리 안전망을 구축하기로 했다. 노동시장 급변으로 인한 사회적 충격 완화와 일자리 변화에 취약한 계층 지원을 위해 생계유지, 취업지원 등 일자리 안전망을 강화한다는 전략이다. 또한 산업 현장인력의 AI 활용 역량 제고와 일자리 이동성 확대를 위해 직업훈련 체계를 AI 중심으로 개편한다는 방침이다.

특히, 예술인 등 다양한 유형의 노동자 보호를 위한 사회보험 적용을 확대하고 중장기적으로 보험 대상을 ‘근로자’에서 ‘피보험자’로 변경한다. 실업급여의 지습 수준, 지급기간을 확대하는 등 보장성 강화에도 힘을 쏟는다.

아울러 고용안전망 사각지대 해소를 위한 ‘국민취업지원제도’를 연내에 도입한다. 이는 저소득 구직자, 폐업 영세자영업자 등 취업 취약계층에게 취업지원서비스를 제공하고, 구직활동을 전제로 소득지원을 강화하는 내용이다.

AI가 사람의 노동을 대체하게 되면서 일자리가 줄어들 전망이다. 이에 정부는 신기술 중심의 직업훈련과 교육 등에 투자할 계획이다.사진=이미지투데이)

나아가 AI, 직무 빅데이터 기반 국가 일자리정보플랫폼 고도화 및 일자리 매칭시스템을 구축한다. AI가 일자리 상황을 실시간으로 분석하고, 직무 빅데이터를 기반으로 기업의 수요와 구직자 역량을 매칭해 맞춤형 고용서비스를 제공한다는 구상이다.

정부는 또 신기술 분야 직업훈련을 통해 구직자의 고용가능성을 높이고, 재직자의 신기술 적응력을 향상해 국민의 평생고용 보장을 추진한다. 구직, 전직 지원을 위한 신기술(AI, 핀테크 등) 직업훈련 비중은 2019년 4% 수준에서 2022년 15%까지 끌어올린다는 계획이다. 직업훈련 교사, 강사의 첨단 신산업 분야 역량 강화도 지원한다.

여기에 모든 국민에게 ‘국민내일배움카드’를 제공해 실업자, 중소기업재직자 위주의 직업훈련 대상을 일반 국민으로 전면 확대한다. 직업훈련 접근성 향상을 위해 현재 서울에 1곳만 있는 이노베이션스퀘어를 올해 지역 거점별로 4개소까지 확대한다는 계획도 세웠다.

과기정통부는 “AI 기반 지능형 기술을 기반으로 사이버 위협 대응시스템을 고도화하고, 역기능 대응을 위한 기술개발 및 범부처 협업체계 구성할 계획”이라며 “AI 확산으로 생길 수 있는 역기능과 보안 위협에 대비해 AI 윤리 규범을 확립하고 가장 안전한 AI 이용환경을 조성할 것”이라고 강조했다.