2013년 개봉한 미국 영화 ‘허(Her)’는 인공지능(AI) 미래를 그려 주목받았다. 영화에는 음성AI 비서 ‘바네사’가 사람과 자연스럽게 소통한다. 사람의 음성 지시에 따라 메일을 읽어주고 스케줄도 관리해준다. 나아가 '바네사'는 스스로 사고하며 인간과 감정까지 교류한다. 딥러닝 이후 AI기술 발전이 빨라지면서 '바네사'처럼 AI와 인간이 교류하는 게 먼 미래의 일이 아니라는 인식이 높아졌다. 반면, AI기술이 발전하면서 부작용도 잇달았다.
2018년 7월 미국에서 발생한 오바마 전 대통령의 딥페이크(deep fake) 사건이 대표적이다. 이 사건은 미국과 유럽 등 각국에서 AI의 '신뢰성'에 의문을 갖게 했고, 각국은 잇달아 AI 지침(가이드라인)과 규정(레귤레이션)을 마련했다. 특히 개인 프라이버시에 민감한 유럽은 AI 레귤레이션 마련에 더 적극적이다. 하지만 이러한 레귤레이션은 기업 입장에서는 '수출 허들'이고 장벽이 될 수 있다. 유럽이 마련하거나 마련중인 AI 레귤레이션은 국내 기업의 해외에 진출에 장애가 될까? 된다면 언제쯤 일까? 이에 대해 10일 서울시립대 이재호 교수는 "생각보다 빨리 올 것 같다"며 기업에게 경각심을 일깨웠다.
이날 이 교수는 지능정보산업협회(회장 장홍성)와 지능정보기술포럼, 지디넷코리아가 주최 및 후원한 'AIIA(AI is Anywhere) 5월 조찬 포럼'에서 강사로 나와 이 같이 밝혔다. 서울 JW메리어트호텔 서울 3층에서 열린 행사에서 이 교수는 '인공지능 신뢰성과 설명가능성 표준화 동향'을 주제로 발표했다. 유럽연합(EU)은 2019년 4월 AI에 적용할 7가지 요구사항(requirements)를 만들었다. 이어 일년뒤인 2020년에 이를 기반으로 한 체크리스트를 선보였고 2021년에는 법제화(act)도 시도했다. 이 교수는 "(AI에 대한 요구사항이) 개념적으로 나오다가 강제화와 법제화 되는게 빠르게 일어났다"면서 "(AI) 개발단계부터 이런 걸 고려해야 한다"고 제안했다. 법제화 이후에는 검증과 인증이라면서 이 교수는 "무역 등에서 강제 조항이 될 수 있다"고 조심스레 전망했다.
'신뢰할만한 AI'를 영어로 표현하면 'Trustworthy AI'다. 그는 Trust와 Trustworthiness를 한글로 표현하면 비슷하지만 객관성 면에서는 트러스트워디(trustworthy)가 양적, 질적 측정이 가능하므로 더 객관적이라고 해석했다. 이어 인공지능 신뢰성(Trustworthy AI)이 필요한 이유에 대해 "시스템이 갖는 자율성 때문"이라면서 "자동화시스템과 자율시스템을 구별해야 한다"고 진단했다. 즉, 자동화(automated)는 제어나 기계에 의해 작동하는 것이고, 자율(autonomous)은 혼자 작동하거나 독립적, 혹은 셀프 거버닝(self governing)을 의미하므로 자율시스템은 일정한 제어가 필요하다는 것이다.
이 교수는 세계적으로 일어나고 있는 AI 표준화 동향도 설명했다. ISO산하 표준화 기구인 JTC 1/SC 42라는 곳에서 AI 표준을 다루고 있는데 현재 다섯개 워킹그룹(WG)과 1개 조인트워킹그룹(JWG)이 운영되고 있다. 워킹그룹1(WG1)은 기반 표준을 다룬다. 인공지능 개념 정의와 모델 정의를 주로 논의한다. 워킹그룹2는 작업반 명칭이 '데이터'로 빅데이터, 인공지능 데이터 정의, 데이터 시각화, 데이터 품질 표준을 다룬다. 인공지능 신뢰성은 워킹그룹3에서 표준을 논의한다. 워킹그룹3의 명칭 자체가 트러스트워디니스(Trustworthiness)다. 이 곳에서 인공지능 시스템의 신뢰성 확보 방안과 위험 요소, 위험회피 기술과 방법을 논의한다. 이밖에 워킹그룹4는 사례 및 응용을, 워킹그룹5는 AI시스템의 계산적 접근법 및 특성을 다룬다.
이 교수는 AI에서 다루는 어슈어런스(assurance)와 어베일러빌러티(availavility), 릴라이어빌러티(reliability) 등이 갑자기 언급된 게 아니라 이미 오래전 표준에서 나온 단어들이라면서 "AI가 전 산업분야에 영향을 미치기 때문에 표준 연구가 중요하다"고 밝혔다.
이날 이 교수에 이어 대화형 인공지능(AI) 스타트업 포티투마루(42MARU) 김동환 대표가 '언어지능 기술 트렌드 및 유스케이스(Use Case)'를 주제로, 에듀테크 기업 인튜브 이대현 대표가 '인공지능과 에듀테크'를 주제로 각각 발표했다. 특히 김동환 대표는 기계가 사람처럼 지문을 읽고 이해한 후 주어진 질문에 답을 하는 '기계독해(MRC)' 기술이 점점 진화하고 있음을 들려줘 시선을 모았다. 또 김 대표는 대우조선해양, 현대로보틱스, 현대자동차, 하나은행 같은 자사의 고객 사이트를 설명하며 "학습 데이터 자동 생성을 위한 질의생성(Question Generation) 기술을 세계 최초로 상용화하기 위한 연구 개발을 진행중"이라고 밝혔다.
이대현 대표는 이러닝의 협의적 정의에 대해 "유무선 방송통신망을 통해 시간과 공간 제약없이 학습하는 교육"이라면서 이러닝이 M러닝(모바일 러닝)->U러닝(유비쿼터스 러닝)->스마트러닝->에듀테크 순으로 발전했다고 해석했다. 에듀테크와 이러닝은 사용하는 기술을 비롯해 교육형식, 기대효과, 적용 법위 등에서 차이가 난다면서 "에듀테크는 교육 효과 극대화와 일과 학습 결합, 교육 대중화 등 세 가지를 지향한다"고 진단했다. 2019년 10월 설립한 인튜브는 교육플랫폼 '튜브런(Tube Learn)'과 학급분석 솔루션 '튜브 애널리틱스(Tube Analytics)', 실시간 영상강의 솔루션 '튜브 미트(Tube Meet)' 등을 보유하고 있다.
한편 'AIIA 조찬 포럼'은 과기정통부 산하 AI기업 협회인 지능정보산업협회가 지능정보기술포럼, 지디넷코리아와 함께 매월 둘째주 화요일 개최하는 행사다. 코로나19로 그동안 열리지 않다가 이날 오프라인 모임을 재개했다. 다음달에는 정보통신산업진흥원(NIPA) 허성욱 원장과 LG AI연구소 배경훈 소장 등이 강연할 예정이다.
