[인공지능 칼럼] 2020년의 인공지능, 이런 인재를 키워야 하다(하)

■인공지능 엔지니어링의 필요성

딥러닝을 산업현장에서 본격적으로 활용하기에는 공학적 기법이 아직은 부족하다. 아직도 대학 실험실의 도구라는 냄새를 지울 수 없다. 단순한 부품들을 조합해 복잡한 시스템을 만드는 모듈화 기법은 정착되지 않았다. 디버깅 용이성, 견고성(Robustness), 재현성에서 고전적 기계설계는 물론 소프트웨어 공학기법에도 한참 못 미친다.

이러한 상황은 딥러닝 시스템의 현장 배치나 확장 가능성을 심각하게 제한한다. 일반적인 소프트웨어 시스템 개발의 절차가 딥러닝 시스템 개발에도 필요하다. 즉 요구 사항을 모아서 현재의 문제를 식별하고, 계획을 세우고, 설계하고, 구현하며, 테스트를 거쳐서, 현장에 배치하고, 유지관리를 하는 것이다. 이 절차는 반복된다.

이에 더해 딥러닝 시스템 개발에는 특별한 업무가 추가로 필요하다. 학습데이터 수집, 데이터 정리, 반복 학습 관리, 학습결과의 일반화 능력 검증, 안정성 점검, 컴퓨팅자원 관리 등의 업무다. 현재는 이런 작업흐름의 공학적 관리기법을 갖고 있지 못하다. 그러나 현장에서의 요구가 강하기 때문에 데이터 기반 기계학습에서 엔지니어링 업무의 정형화는곧 정립될 것이다.

딥러닝으로 훈련된 인공지능시스템은 통상적으로 커다란 시스템의 일부다. 소프트웨어 시스템의 한 모듈일 뿐이다. 독자적으로 사용되는 인공지능은 현장에서 발견하기 어렵다. 이런 이유로 딥러닝 시스템을 개발하는 엔지니어는 소프트웨어 공학 철학과 기술의 깊은 이해가 필요하다.

■윤리적 엔지니어

모든 엔지니어는 책임감 있게 기술을 사용해야할 의무가 있다. 인공지능 엔지니어는 더욱 많은 윤리적 책임 의식을 가져야 한다. 인공지능은 자율적으로 판단하고 행동하기 때문이다. 인공지능 시스템은 항상 합법적이고, 윤리적이며 도덕적으로 행동한다는 것이 보장돼야 한다.

안전하고 신뢰할 수 있는 시스템을 설계하고 개발하는 것은 모든 엔지니어가 가져야 할 사명이지만 인공지능 시스템을 위해서는 더욱 높은 기준을 요구한다. 현재의 인공지능 기술, 특히 딥러닝은 안전성에서 많은 약점이 있다는 것을 인식하고 더 많은 검증과 안전장치를 마련해야 한다.

특히 자율학습 시스템은 오늘 의도대로 작동한다고 해도 내일도 잘 작동한다는 보장이 없다. 개방된 세상에서 새로운 데이터로 학습하여 어떤 상태로 진화할지 모르기 때문이다. 따라서 항상 감시와 통제를 놓치지 않도록 설계해야 할 것이다.

인공지능이 내린 결론은 인간의 해석이 가능해야 한다. 블랙박스 시스템에 중요한 의사결정을 맡길 수 없다. 인공지능은 항상 의사결정 과정을 사용자가 이해할 수 있도록 설명할 수 있어야 한다. 딥러닝으로 만들어진 의사결정 시스템에는 편견이 내재되어 있을 개연성이 있다. 학습 데이터에 내재된 편견이 그대로 인공지능 시스템에 전이되기 때문이다. 이는 딥러닝의 약점이기 보다는 데이터 기반 시스템의 태생적 한계다. 엔지니어는 인공지능의 판단이 편견이 없고 공정해야 한다는 것을 보증해야 한다.

인공지능 엔지니어를 양성하는 대학에서는 그들이 사회적 책임감과 높은 윤리적 감수성을 갖추도록 교육해야 할 의무가 있다. 컴퓨팅과 인공지능이 인간과 사회에 미치는 영향의 심대함을 이해하고, 항상 책임있게 인공지능을 사용하도록 교육해야 할 것이다.

또한 인공지능이 가져오는 사회 변화와 이에 적응하는 법-제도를 연구하는 인력도 양성해야한다. 이들은 기술을 이해하는 정책, 행정,법률 전문가로 공공영역에 진출하거나 기업에서 사업 기획, 법률 상담, 감사업무 등을 담당할 수 있을 것이다.

■결론

35년간 여러 기업을 창업한 후에스탠포드(Stanford)대학에서 인공지능 정책을 가르치는 제리 카플란(Jerry Kaplan)교수와 이야기를 한 적이 있다. 그에게 한국은 인공지능 글로벌 경쟁에서 무엇을 해야하느냐고 물었다. 그의 대답은 명쾌했다. "한국은 신기술을 활용하는데 아주 우수하지 않느냐? 인공지능을 활용해서 잘 하는 것을 더 잘 하도록 집중하라"는 것이었다.

올해초 'CES 2020'에서 한국 기업들은 인공지능 기술에서 선두는 아니었지만 여러 돋보이는 기술을 선보였다. 인공지능을 활용해서 각자 자기사업 분야에서 경쟁력 있는 제품과 서비스를 만들어 출품했다.