AI 같은 AI, AI스럽지 않은 AI

[김익현의 미디어 읽기] 설명 가능한 알고리즘

작고한 농구 스타 김현준 선수는 현역 시절 ‘컴퓨터 슈터’로 통했다. 한치 오차 없이 정확한 슈팅 때문이었다.

물론 ‘컴퓨터 슈터’는 김현준 선수 같은 슈터에겐 최고의 찬사였다. 라이벌이던 이충희 선수의 ‘슛도사’보다 더 그럴듯하게 들렸다.

하지만 곰곰 따져보면 ’컴퓨터 슈터’란 별명은 김현준 선수의 장기를 정확하게 묘사한 건 아니었다. 전성기 시절 김현준 선수는 수비수에 따라 변화무쌍한 임기응변에 능했다. 도저히 슛을 쏠 상황이 아닌 때에도 멋진 뱅크슛을 성공시키곤 했다. 1980년대 컴퓨터는 도저히 수행하기 힘든 능력을 보여줬다.

그 사이에 세월이 많이 변했다. 이젠 그 누구도 ‘컴퓨터 같다’는 말을 칭찬으로 받아들이지 않는다. 정해진 알고리즘을 벗어난 작업은 잘 하지 못한다는 컴퓨터의 한계를 잘 알게 된 때문이다.

IBM 왓슨[사진=ZDNet]

요즘 관심의 대상으로 떠오른 인공지능(AI)도 마찬가지다. 어떤 사람에게 “AI 같다”고 하면 칭찬만은 아니다. 주어진 일은 잘 처리할 지 모르지만, 섬세한 인간적인 감정엔 다소 서툴다는 의미도 조금은 내포돼 있기 때문이다.

AI의 한계는 또 있다. 분석은 잘 하지만, 설명엔 서툴다. 알파고조차, 이세돌 선수를 궁지에 몰아넣은 ‘신의 한수’를 왜 선택했는지는 제대로 설명하지 못했다.

물론 이런 한계는 AI만의 문제는 아니다. 우리 인간도 마찬가지다.

“우리는 말할 수 있는 것보다 훨씬 더 많이 안다.”

널리 회자되는 ‘폴라니의 역설’이다. 우리는 일상적으로 반복하는 행동에 대해 제대로 설명하지 못한단 의미다. 이를테면 자전거는 능숙하게 타지만, 왜 그렇게 탈 수 있는지 잘 설명하지 못한다. 얼굴은 잘 인식하지만, 어떻게 그렇게 구분할 수 있는지 물어보면 대답이 궁해진다.

인간에겐 ‘폴라니의 역설’이 큰 문제는 아니다. 그런데 AI에겐 이게 좀 심각할 수도 있다. 왜 그럴까?

인간 소통에선 정보량(엔트로피) 못지 않게 군더더기(리던던시)가 중요한 역할을 한다. 예를 들어 "참 잘했다"는 말을 했다고 가정해보자. 이 말은 잘했다는 의미이지만, 억양에 따라선 살짝 비꼬는 의미도 될 수 있다.

마주 보고 대화하는 인간들은 이런 뉘앙스를 비교적 쉽게 극복할 수 있다. 얼굴 표정이나 그 동안의 관계 같은 '리던던시'를 활용하기 때문이다.

하지만 AI는 다르다. '잘 했다'는 정보가 모든 것이나 다름 없다. 리던던시를 활용할 여지가 별로 없다. 그러다보니 ‘폴라니의 역설’은 AI에겐 만만찮은 제약 요건이 될 수도 있다. “AI스럽다”는 말이 칭찬만으로 받아들여지지 않는 건 그 때문인지도 모른다.

그런데 최근 들어 ‘폴라니의 역설’을 뛰어넘으려는 연구가 꽤 성과를 거두고 있다. 설명 가능한 AI(XAI)란 개념이 바로 그것이다. AI가 “왜 그런 선택을 했는지” 설명해준다는 의미다.

XAI는 ‘폴라니의 역설’을 뛰어넘으려는 시도인 동시에, AI와 인간의 거리를 더 좁히져는 시도라고 해도 크게 그르진 않다. 특히 비즈니스 세계에선 XAI가 갈수록 중요해질 가능성이 많다.

최근 IBM을 비롯한 많은 기업들이 XAI에 관심을 갖는 건 이런 배경 때문이다. 좀 더 신뢰할 수 있는 AI로 가는 또 다른 관문이나 다름 없기 때문이다.

오는 12월12일 지디넷코리아 주최로 ‘ATS 2018’이 열린다. 알파고의 산실인 포시즌스호텔에서 열린 ATS2018의 큰 주제는 'AI, 이제는 플랫폼'이다. 플랫폼으로서의 AI에서 중요한 테마 중 하나가 설명할 수 있는 AI다. 플랫폼의 신뢰도와 알고리즘 투명성을 확보하는 데 중요한 개념이기 때문이다.

ATS 2018이 XAI란 조금은 새로운 개념을 접하는 좋은 기회가 될 것으로 믿는다. (☞ATS 2018 사전등록 바로가기)