"딥 페이크 대응 기술 개발하고 AI개발 헌장도 마련"

인공지능(AI) 기술이 확산되고 AI를 기반으로 한 제품 및 서비스가 속속 나오고 있다. 이에 따라 AI역기능과 새로운 보안 위협이 현실 문제로 대두됐다. 사진과 구분이 어려운 리얼리스틱 얼굴 생성 기술 발전으로 사람이 판별하기 어려운 가짜 사진(딥페이크)이 등장했고, 종단(End-to-End) 학습으로 사람과 사물을 인지하는 과정을 구분하지 못해 중간 판단에 악의적 개입이 가능, 문제를 일으킬 가능성도 있다.

지난 2016년 미국 대통령 선거때 SNS의 가짜 뉴스 영향력(공유, 좋아요, 댓글 수 등)이 진짜 뉴스를 능가한 것은 기술의 대표적 역기능이다. 다행히 AI 기술과 함께 프라이버시 침해, 오남용 등 부작용을 막기위한 기술적, 제도적, 문화적 노력도 함께 이뤄지고 있다.

AI 원동력인 데이터만 봐도 보호 와 활용이라는 '양립'을 가능하게 하기 위해 국제적으로 개인정보 보호 규정 정비가 이뤄지고 있다. 특히, 프라이버시 침해에 대비하기 위한 동형암호화 기술 기반 암호화 데이터 처리와 블록체인 기반 플랫폼 활용이 주목받고 있다. 또 개인정보 위·변조 방지 등 데이터 활용도 제고를 위한 개인정보 보호 기술도 빠르게 발전하고 있다.

신뢰할 수 있는 AI 시스템을 보장하기 위한 윤리적, 정책적 노력도 국제적으로 이뤄지고 있다. OECD는 신뢰 가능한 AI를 위한 포용성과 지속가능성, 인간중심 가치 및 공정성, 투명성과 설명 가능성, 견고성 및 안전성, 책무성을 보장하는 일반 원칙을 마련했고, 이는 지난해 6월 인간 중심 AI를 위한 권고안으로 G20 정상회의에서 채택된 바 있다.

ICT 분야 세계적 단체인 국제전기전자학회(IEEE, Institute of Electrical and Electronics Engineers)와 세계경제포럼(WEF, World Economic Forum)은 윤리적 AI 시스템을 구현하기 위한 실무적 기준을 마련 중이기도 하다.

믿을 수 있고 누구나 활용할 수 있는 AI 기술 및 서비스 구현을 위해서는 AI의 기술·사회적 역기능 방지를 위한 구체적이고도 실효성 있는 정책이 추진돼야 한다. 특히, AI로 인한 새로운 보안 위협과 우려 증대에 대처하기 위해 허위정보 탐지 기술, AI 기반 해킹 방지 기술, 보안 위협 자율대응 기술 등 관련 보안 기술 개발도 요구된다.

개인정보, 민감정보의 폭발적 증가에 따른 과활용 과 오활용을 방지하려면 초신뢰 자동거래를 가능케 하는 블록체인 기술과 암호화된 통합 데이터 사용, 프라이버시 보호 및 기밀 유지가 가능한 동형암호화 기술 등이 필요하다. 또 AI가 갖는 편향성 과 불공정(차별성) 문제, AI의 악의적 오용 가능성 방지를 위한 믿을만한 AI 개발이 필수적이다.

ETRI가 개발한 '엑소브레인(Exobrain)'의 언어분석 API는 2017년 공개된 이후 사용량이 2600만 건(일 평균 2만 6000건)에 달할만큼 널리 사용되고 있다. ETRI는 2019년에는 단답형 답변뿐 아니라 서술형 답변이 가능한 심층 질의응답 기술도 개발, 한컴오피스 2020에 탑재했다. 이어 올해는 구어체 언어분석 API도 공개, 사람의 대화까지 이해할 수 있는 AI 서비스 구현에 도움을 줬다.

ETRI는 '감염병 재난에 대응하기 위한 의료AI의 기술표준 동향 보고서(2020년)' 보고서에서 감염병 대응 체계와 이를 위한 ICT 및 표준화 체계를 제안하기도 했다. 보고서는 감염병 주요 방역 단계(탐지, 예방, 대응, 회복)별 AI 활용 및 응용사례를 통해 표준화 체계를 만들었다. 또한, 의료 데이터 활용에 대한 규제 요구사항과 개인 정보 보호 메커니즘도 적용, 개발된 모든 AI 응용 프로그램이 윤리 원칙을 준수하고 인권 침해 요소가 없는지 충분히 고려했다. ETRI는 K방역 사례들의 표준화 연계 활동을 지원하는 감염병 대응을 위한 의료AI 표준 정립의 가이드라인도 제시하면서 이를 토대로 감염병 재난 대응 AI기술의 국제 표준도 개발할 계획이다.

이외에도 ETRI는 허위정보, 사이버 공격, 편향된 알고리즘, 편향된 AI 접근성 등 AI로 인한 기술 및 사회적 역기능을 방지하기 위한 실행전략을 수립하고 대응 분야별 연구 및 정잭 과제를 추진한다.

특히, 역기능 방지와 허위 정보 대응을 위해 'AI 보안관' 기술 분야에서 가짜뉴스 식별 추론 기술, 블록체인을 활용한 신뢰 기반 정보유통 플랫폼 기술 등을 개발한다. 또 악성 공격과 프라이버시 침해 대응을 위해 화이트 해커, AI 백신, 암호화 기술과 암호화된 상태에서 원데이터 처리분석 가능한 데이터 암호화(Chiper DB) 기술도 연구한다.

한편, ETRI는 AI 윤리 강화를 위해 윤리적 AI 개발 헌장(가이드라인)을 공포하며 AI의 인간중심 가치, 공정성, 투명성, 설명 가능성도 확보해나갈 계획이다. 오픈플랫폼 등을 통한 국내·외 개발자 생태계 배포도 추진한다.

특히, ETRI는 AI 시스템 개발 전 주기에 걸쳐 신뢰 가능한 인간존중의 개념을 구현하기 위한 맞춤형 전략을 마련하는 한편 최종 AI 시스템의 윤리적 적합성을 보장할 수 있게 전략을 마련, 추진한다. 즉, AI 시스템 기획단계부터 글로벌 규범 및 국내 AI 윤리기준을 반영, 공정하고 투명한 AI 개발을 위한 윤리적 AI 개발 가이드라인을 준수하며 AI 알고리즘 개발 및 서비스 기획에 반영할 예정이다.

AI 기술 및 서비스 개발에 원천이 되는 데이터에 대해서도 자가 지도 및 성장을 위한 복합인지 기술을 통해 스스로 성장하는 Trustworthy AI기술 기반 AI 보안관 기술을 개발하고 허위 데이터를 판별하고 제거할 방침이다.

이에 더해 암호화 증명으로 원본과 가짜 구별 및 초신뢰 거래 매개가 가능한 블록체인 기술을 활용해 가짜뉴스 및 페이크를 방지함으로써 신뢰 사회 기반을 마련한다. 데이터 보호 측면에서도 민감정보, 개인정보 등 프라이버시 침해 방지를 위한 데이터 암호화 기술을 고도화해 암호화된 데이터를 학습 가능케 함으로써 데이터 활용성을 확대한다.

기술보급 및 확산 단계에서는 사물인터넷(IoT) 관련 실시간 데이터 처리와 클라우드 기반 서비스 구현과 악의적 공격 위협에 대응하기 위한 AI 화이트 해커 기술 및 AI 클라우드 백신 기술을 개발, 사이버 위협 공격 방어를 위한 실증 프레임워크를 구축할 예정이다.