"AI기업 미래는 신뢰성 확보에 달렸있어"

인공지능(AI)이 전 산업에 빠르게 확산되면서 신뢰성(Trustworthness) 확보가 화두로 부상했다. EU, 미국 등 주요국은 이미 사회적, 산업적 수용을 전제로 AI 신뢰성 정책을 펼치고 있다. 우리나라도 AI강국 도약을 위해 지난달 13일 '신뢰할 수 있는 인공지능 실현전략'을 발표했다. 이에 와이즈넛, 알체라, 뷰노 등 국내 대표 AI기업 3개사를 통해 국내 AI기업들이 AI 신뢰성을 어떻게 인식하고 있는 지, 또 어떤 대비를 하고 있는 지 살펴봤다. <편집자 주>

와이즈넛(대표 강용성)은 인공지능 챗봇 및 빅데이터 검색 및 분석 SW 기업이다. 2000년 설립됐다. 지난 21년간 언어처리기술 기반 빅데이터 검색과 수집, 분석, AI 챗봇 등 빅데이터 및 인공지능 기술 근간이 되는 핵심 기술인 자연어처리와 머신러닝, 텍스트마이닝, 의미분석, 검색 같은 자체 원천 기술을 확보에 주력해왔다.

와이즈넛의 대화형 인공지능 챗봇 '와이즈 아이챗(WISE iChat)'은 구축형과 서비스형 두 유형이 있다. 고객이 비즈니스 환경, 인력, 예산, 운영, 활용 목적에 따라 택하면 된다. 강용성 와이즈넛 대표는 "우리는 인공지능 챗봇 분야에서 공공기관,지자체, 금융, 제조, 유통, 교육, 여행 등 전 산업분야에서 약 170여 건의 챗봇 상용화 레퍼런스를 구축했다"면서 "국내 최다 인공지능 챗봇 구축 사례를 보유하고 있다"고 설명했다.

지난해 이슈가 된 AI 챗봇 '이루다'에 대해 강 대표는 "대화형 학습데이터를 선정하고 사용하는 과정에서 편향성이 있는 데이터를 정제하지 않은 채 인공지능 학습에 그대로 활용해 발생한 문제"라며 "2016년 미국 마이크로소프트가 개발해 오픈한 서비스 챗봇 '테이(Tay)'에서도 이미 발생한 사례인데, 이루다 개발사가 학습 데이터 선정 및 정제 단계에서 이런 점을 충분히 고려하지 않아 발생했다"고 해석했다. 이를 막으려면 어떻게 해야 할까. 강 대표는 "인공지능 서비스에 활용하는 데이터를 선정하고 정제하는 과정에서 데이터를 검증하는 기술, 즉 텍스트마이닝과 언어분석, 검색 등의 기술을 적용한 ‘대화 데이터 검증 도구’를 만들어 선제적으로 대응하는 것이 하나의 대안"이라고 말했다.

정부는 '이루다' 같은 사건이 다시 일어나지 않기 위해 지난달 '신뢰할 수 있는 인공지능 실현전략'을 발표했다. 앞서 지난해 12월에는 ‘사람이 중심이 되는 인공지능 윤리기준'도 발표하기도 했다. 또 최근 개인정보보호위원회는 AI 자율점검표를 마련해 AI 설계 및 개발, 운영에 지켜야 할 개인정보보호법상의 주요 의무 및 권장사항을 기업이 자율적으로 점검토록 한 바 있다.

정부의 이런 노력에 대해 강 대표는 "인공지능 산업 성장에 따라 발생할 부작용을 방지하기 위한 것으로 생각한다"면서 "동시에 고려할 점은 AI 윤리 규범이 인공지능 산업의 지나친 규제가 되지 않도록 자율적 환경에서 이뤄져야 한다는 것"이라고 요청했다. 도를 넘는 세밀한 법적 규제로 신 산업에 해당하는 인공지능 산업이 위축되면 안된다는 거다. 강 대표는 "정부 차원의 강력하고 세밀한 표준 규제가 아니라 업계가 수용 가능한 수준의 기업 내 자발적인 윤리 기준에 따라 기준을 마련했으면 좋겠다"고 덧붙였다.

와이즈넛이 AI 신뢰성 확보를 위해 하고 있는 노력도 밝혔다. 강 대표는 "수많은 데이터를 확보 및 활용하는 과정에서 우리 회사가 보유하고 있는 각종 언어처리기술을 조합해 대화 데이터 전처리를 검증하는 프로세스를 구축해 고객 시스템에 적용하고 있다"면서 "자연어 분석 및 처리 원천기술을 보유하고 있는 우리 강점을 최대한 활용하고 있다"고 밝혔다. 이어 "와이즈넛은 편향 데이터 사용을 방지하고 개인 정보에 해당하는 내용을 미리 필터링, 정제된 데이터만 인공지능 학습 데이터로 활용할 수 있게 하고 있다"면서 "향후 AI 신뢰성 확보를 위해 설명가능한 인공지능(eXplainable AI, XAI)을 도출하는 한편 윤리적 기준을 충족하기 위한 노력을 계속 해 나갈 계획"이라고 말했다.

실제 와이즈넛은 설명가능한 인공지능(XAI)을 도출하기 위해 SOTA (State-of-the-art, 최고 기술) 기술을 내재화, 기술 완성도를 높이기 위한 노력을 하고 있다. 또 지난 21년간 자연어 기반 솔루션 사업을 수행하면서 축적한 테스트 전처리 및 정제 기술도 십분 활용하고 있다. 특히 제품과 서비스에 따라 불필요한 정보(성희롱, 혐오, 차별 발언 등) 적용 기준을 마련하고, 이를 정제(필터링) 할 수 있는 기술을 개발, 정부의 AI 윤리 가이드라인에 부합하는 서비스를 제공할 수 있게 연구개발을 진행하고 있다.