"AI, 제대로 쓰려면 알고리즘 신뢰·투명성 필수"

인공지능(AI) 플랫폼이 신뢰를 얻기 위해선 알고리즘을 제대로 설명할 수 있어야 한다는 주장이 제기됐다. 또 컴퓨터가 인간과 좀 더 가까워짐에 따라 AI 인력 채용 기준에도 큰 변화가 생기고 있는 것으로 나타났다.

지디넷코리아 주최로 12일 서울 광화문 포시즌스호텔에서 열린 'ATS 2018'에선 현대기아자동차와 마이크로소프트(MS), IBM 등 국내외를 대표하는 기업 임원들이 한 무대에 올라 'AI, 이젠 플랫폼이다'는 주제로 열띤 토론을 펼쳤다.

김익현 지디넷코리아 미디어연구소장 사회로 진행된 이날 토론에는 체탄 쿠마 크리슈나무르티 IBM 왓슨 아태 총괄과 스티브 크라운 마이크로소프트(MS) 본사 부사장, 서정식 현대기아자동차 ICT 본부장이 패널로 참석했다.

ATS2018 패널토의 참석자들. (왼쪽부터) 김익현 지디넷코리아 미디어연구소장(사회), 체탄 쿠마르 크리슈나무르티 IBM 왓슨 총괄, 서정식 현대기아자동차 ICT본부장, 스티브 크라운 MS 부사장.

■ AI 핵심 전략…”더 나은 삶 지향”

김익현 연구소장(이하 사회) : AI가 이용자와의 접점 역할을 한다는 데에는 큰 이견이 없을 것 같다. 'AI가 플랫폼이다'는 명제를 내세운 건 그 때문이다. 그런데 AI라고 통칭하지만, 사실 비즈니스에 따라 지향점은 굉장히 다른 편이다.

그래서 먼저 AI 전략 핵심이 어느 쪽을 향하고 있는지에 대한 얘기로 토론을 시작했으면 한다.

체탄 쿠마 크리슈나무러티 IBM 아태총괄(이하 체탄 쿠마 크리슈나무러티) : AI 플랫폼을 비즈니스에 활용하고자 한다. AI 가치를 높여나가서 비즈니스적으로 성과를 내는 것이 목표다. AI를 오픈 인텔리전스 플랫폼으로 제공해주고, 전문성을 확보하고 의사 결정을 좀 더 강화하는 것이다.

서정식 현대자동차 ICT 본부장(이하 서정식) : 그동안 대부분의 기업들은 AI를 실험적으로 활용하는 단계였다면 지금은 실질적인 가치를 만들어가고 있다고 할 수 있다. 생산이나 판매, R&D, 설계 등 AI 활용 분야가 넓어지고 있다는 얘기다. 이제는 차 자체가 지능적인 기계가 되고 있다. 자동차가 세상에서 가장 많은 양의 데이터를 만들어내고, 우리 생활에 밀접한 기계기 때문이다. 차가 지능적으로 변하는데 AI가 큰 역할을 하고 있다.

스티브 크라운 MS 부사장(이하 스티븐 크라운) : MS는 세상 모든 사람과 기관에 권한을 부여해 많은 것을 달성할 수 있도록 하는 데 초점을 맞추고 있다. 기술의 혜택을 모든 사람에게 제공하도록 노력하고 있다. MS는 비즈니스 지능화에 많은 투자를 하고 있다. 이미 윈도, 오피스, 엔터프라이즈 제품 등 다양하게 기업에 툴을 제공 중이다.

AI는 새로운 기술이다. 'AI for Earth'라는 조직이 있는데, 환경문제나 과학 문제 등을 해결하고자 한다. 동물들이 어떤 부분에 스트레스 받고 있는지 데이터를 활용해 확인할 수 있다. 또한 다른 파트너들과 협력해서 솔루션을 만들고 있다. 사람들이 더 좋은 삶을 살 수 있도록 하는 것이다. AI는 강력한 툴이 될 수 있다.

사회 : AI는 전통 비즈니스를 획기적으로 바꿀 것으로 기대되고 있다. 그렇다면 실제 비즈니스를 어떻게 바꾸고 있는지, 혹은 어떤 역할을 하고 있는지에 미래 전망적인 이야기를 해보자.

서정식 : 지금은 데이터를 분석해서 몰랐던 것을 알아내고, 인간이 할 수 없는 것을 활용하는 등 초보적인 단계다. 향후 AI가 비즈니스를 만들어내는데 핵심적인 역할을 하는 자산이 될 수 있다고 생각한다.

사회 : MS는 최근 8년 만에 시가총액 1위에 등극했다. MS의 부활을 얘기하는 사람들도 있다. 사티아 나델라 최고경영자(CEO)가 부임하면서 클라우드 퍼스트 전략을 펼친 것이 부활 원동력으로 꼽힌다. 클라우드를 중심으로 한 MS의 향후 전략에서 AI는 어떤 역할을 하는가?

스티브 크라운 : 클라우드 전략이 곧 AI 전략이다. AI를 신뢰할 수 있어야 한다. 신뢰할 수 없다면 의미가 없다. 방대한 데이터를 통해 진정으로 사람들에게 도움 되는 서비스를 제공하고, 어떤 디바이스로 어떻게 전달할지 고민해야 한다. MS는 클라우드에 투자할 때 AI를 최고의 방식으로 활용한다는 확신이 있어 투자했다. 항상 신뢰받는 기업이 되자고 하며, 특별한 가치 있는 모델을 제공하고자 한다. 신뢰는 너무 쉽게 잃을 수 있다는 것을 안다. 때문에 데이터 센터 건립을 할 때 높은 수준의 보안을 유지하고 있다.

사회 : IBM 왓슨은 어떤 점에 주력하고 있나? 최근 AI 분야에서 핫한 곳에 자율주행차인데, 왓슨은 자율주행차에 관심이 있는지 궁금하다.

체탄 쿠마 크리슈나무러티 : 오늘 언급했던 것처럼 우주 산업이나 에너지 유틸리티에도 주력하고 있고, 은행이나 보험사와도 협업하고 있다. 특정 산업이라고 할 순 없고 다양한 분야라고 생각하면 된다. 저희는 엔터프라이즈 플랫폼 기업으로, 안정적으로 앤드투앤드 서비스를 제공할 수 있다. 자율주행차도 마찬가지로 전세계 차 제조업과 협력 중이다. 궁극적으로는 다양한 소스를 통합하려 한다. 운전자 행동 등 여러 데이터가 합쳐져야 성공할 수 있다. 테라바이트가 넘는 정보를 통합하고, 저장하고, 접근하고, 어떻게 활용할지가 핵심이다.

■ 신뢰받은 AI 중요…성과 입증할 수 있어야

사회 : AI가 플랫폼이라고 했을 때 중요한 것 중 하나는 알고리즘의 신뢰성과 공정성, 투명성이다. 설명 가능한 AI나 윤리적 AI 모두 이런 점에서 중요한 의미를 갖는 것 같다. 그런데 알고리즘을 설명한다는 게 생각처럼 쉽지 않다. 알파고 때는 신기의 수를 뒀지만, 정작 왜 그 수를 뒀는지 설명이 안됐다. 오해 가능성은 없을까? 또 활용하는 사람이 납득하지 못할 경우 어떻게 되나?

체탄 쿠마 크리슈나무러티 : AI를 성공적으로 구축하기 위해선 성과를 내야 한다. 또 그 성과에 대한 공고한 설명도 중요하다. 공고하다는 것은 얼마나 안전하고, 확장성 있게 가져갈 수 있는지에 대한 것이다. 애플리케이션과 데이터 보안도 제공해야 한다. 보험을 청구한다고 했을 때, AI를 적용하는 과정에서 의사결정 뒤에 있는 요소를 이해할 수 있어야 한다. 공정성은 중요하다.

사회 : AI의 위험요소를 감안할 때 국제 윤리 표준이 필요하단 지적엔 깊이 공감한다. 그런데 AI를 주도하는 건 이익을 추구하는 기업들이다. 국제표준이 말처럼 쉽진 않아 보이는데? 또 아직은 시기상조라는 비판도 있을 것 같다. 이런 부분에 대해선 어떻게 생각하는가?

스티브 크라운 : 규모가 큰 기업들과 작은 기업들은 다르다. 대기업의 경우 장기적으로 보는 경향이 있다. 앞으로 10년 후에 무엇을 달성하고자 하는가, 어떤 서비스를 제공할 것인지 살펴봐야 한다. 신뢰를 한 번 잃으면 다시 회복하는 게 어렵다. 신뢰를 얻을 수록 더 많은 기회 얻을 것이고, 그게 맞는 방향이라고 생각한다. 국제 표준은 사람들이 이 문제에 대해서 먼저 고려하도록 해야 한다.

■ AI 플랫폼 알고리즘 신뢰성, 어떻게 확보해야 할까

사회 : 비즈니스 측면의 결정과 달리 자동차는 생명과 직결되기 때문에 알고리즘 신뢰성이 더욱 중요할 것으로 보인다. 서정식 본부장께선 네트워킹을 강조했는데 AI 신뢰성 제고와 네트워킹이 어떻게 관계가 있는 건지 궁금하다.

서정식 : 오늘 주제를 'AI, 이젠 플랫폼이다'로 정한 것은 잘한 선택으로 본다. AI 플랫폼에 소속된 공급자와 참석자, 응용자들 중 특정 사람들만 득을 본다든지, 혹은 모두 득을 보는지가 아니라 모두의 가치 합이 커지는 쪽으로 플랫폼 운영자와 참여자가 가야 성공한 플랫폼이 될 것으로 본다.

사실 현대는 AI 플랫폼으로 당장은 손해를 보고 있다. 왜냐하면 사람들은 내비게이션이 다 있고 휴대폰이 있다. 현대차 입장에서는 자동차는 돌아다니는 기계이자 컴퓨터다. 특히 자동차는 생명, 안전과 직결됐다. 다른 기계가 경험한 것을 공유하고 사회 인프라, 공공적 정보와 교신하면서 점점 더 신뢰성이 생기겠다. 바뀐 제도와 관습, 법을 따라주면서 좀 더 합의된 알고리즘을 내려주고 받을 수 있는 측면에서 네트워킹을 위한 AI 신뢰성은 자동차에게 필수적이다. 휴대폰은 3년인데 자동차는 10년으로 체력이 더 길어졌다. 향후에는 15년도 탈 텐데 15년 된 차도 안전해야 할 것이다. 시대와 관습, 법, 지역에 최적화되기 위해서는 네트워크의 신뢰성과 품질이 중요한 것이다.

■ 길고 긴 AI 책임소재, 어떻게 해결할 수 있을까

사회 : 약간 논쟁적인 질문을 드리겠다. AI의 핵심 쟁점은 책임이다. 이를테면 IBM 왓슨이 추천한 대로 의사가 진료를 해서 의료 사고가 날 경우 누가 책임질 것이냐는 부분이 중요한 쟁점이 될 수도 있다. 마찬가지로 현대자동차가 다른 시스템을 채택한 상황에서 오작동으로 사고가 났을 때 누가 책임질 것이냐는 문제도 오래된 AI 쟁점이다. 우선 법률 전문가인 스티븐 크라운 부사장께서 먼저 말씀해주시면 좋겠다.

스티브 크라운 : 사고 났을 때 어떻게 하면 책임을 부여할 수 있을까라는 문제는 중요하다. 자동차 사고의 경우 예컨대 부품 고장이라면 공급업체가 책임을 져야 할 것이다. 다른 경우에는 다른 사람이 책임자가 될 것이다. AI는 경험을 통해 배울 필요가 있다. 제품에 대한 책임, 안전하지 않은 환경으로 인한 낙상 문제 등 다양한 상황이 있다.

미국은 법에 의하면 피해를 본 사람이 주의 의무를 충실하게 이행했는가를 먼저 물어본다. AI를 다양한 시나리오에서 고려해야 하는 이유다. 최선의 의무에 부응해야 하고, 그렇지 않으면 책임지게 된다. 결론적으로 AI 시대에 완전하게 새로 바뀐 법은 필요하지 않다고 생각한다. 기존 법이 담긴 책자를 통해 책임을 확인할 수 있다.

서정식 : 2008년 클라우드를 처음으로 소개했을 때도 데이터 관리 등에 대한 질문이 많았다. 20대 초반 사람들은 이해하기 어려울 수 있지만 데이터 소유에 대한 문제도 제기됐다. 법, 사회, 정계 등에서 이러한 논의는 활발하게 있을 수 있다. 최근 KT 사고가 있었고 통신 장비와 부품 문제에 있어서 책임 소재가 갈리기도 했다.

하지만 그런 것들은 각계 전문가들이게 맡기고 지금은 경험을 해야 할 때라고 생각한다. 기술, 규제, 법, 금전 등 각계에서 준비를 지속한다면 개선될 거라고 생각한다. 자동차는 규제 당국에서의 의사결정이 큰 비중을 차지한다. 기업이 의사결정을 한다고 해서 책임지게 되는 건 아니다. 생태계의 모두가 큰 가치를 보는 방향으로 협력, 개발, 테스트를 하는 게 저희가 할 수 있는 일이라고 생각한다.

ATS2018 패널토의 참석자들. 김익현 지디넷코리아 미디어연구소장(사회), 체탄 쿠마 크리슈나무르티 IBM 왓슨 총괄, 서정식 현대기아자동차 ICT본부장, 스티브 크라운 MS 부사장.

체탄 쿠마 크리슈나무러티 : 아주 좋은 질문이다. 데이터가 있어야 의사결정 솔루션을 만들 수 있다. 그다음 프로세스를 거쳐 믿을 수 있는 전문가가 알고리즘을 훈련시켜야 한다. 양질의 데이터 관리 전문가가 있고 강력한 거버넌스(국가경영)가 있으면 해결될 것이다. 트레이닝이 끝나면 성능을 보고 충분히 설명할 수 있는지, 신뢰가 있는지 살펴봐야 할 것이다. 최종 사용자가 의사결정하고 AI가 권고하는 방향으로 가야 할 것으로 생각한다.

■ AI의 윤리성·공정성 대두…인력 채용에 미치는 영향은?

사회 : 오늘 참석한 현대자동차, MS, IBM은 많은 사람들이 입사하고 싶어 하는 최고 직장으로 꼽힌다. 그래서 오늘 참석한 분들께 정보도 드릴 겸, 어떤 AI 인력을 필요로 하는지 말씀해주시면 좋겠다. 크라운 부사장께 먼저 질문드리겠다. 올해 초 MS가 출간한 ‘인공지능으로 변화될 미래(The Future Computed)’에 보면 “컴퓨터가 인간을 닮아감에 따라 사회과학과 인문학의 중요성이 더 커지고 있다”는 부분이 있다. 실제로 AI 인력 채용에도 이런 부분이 작용하는가.

스티브 크라운 : 사회 과학자는 컴퓨터 사이언스 경험 없으면 고용하지 않는다. MS는 기술과 인류학의 접점을 중요시한다. 윤리에 관심 많은 기술자를 선호한다. 법무팀, 정책팀의 경우에는 기대하는 바는 다르다. 아까 AI 윤리 관련한 ATHER라는 그룹을 언급했다. 앞으로 선보일 기술에 대해서 찾아가는 곳이기도 하다. MS가 채용할 때 이들의 가장 큰 장점을 이용해서 도전과제를 해결하도록 한다. 컴퓨터 사이언스, 인권 등 측면에서 역량을 조합해 해결해야 한다. 저희는 솔루션을 제시하고 있지만 완벽하진 않다.

의학 전공자는 히포크라테스 선서를 한다. 의사가 됐을 때 환자의 안전을 최우선 한다는 선언이다. 컴퓨터 과학은 그런 선서가 없다. 토목 공사하면 교량 이용하는 사람들이 안전하게 사용할 수 있도록 재료 공학에 대한 이해가 필요하다. 컴퓨터 과학은 어떨까. 회사에서 시켜서 하는 것만으로는 부족하다. 컴퓨터 과학자도 윤리, 사회, 도덕 등 인권적인 측면에서 고려해야 하고 사회과학에 있는 사람들이 컴퓨터와 관련된 역량을 강화해야 한다고 생각한다. 컴퓨터 과학이 어떻게 이뤄지는지 서로 알려줘야 한다.

체탄 쿠마 크리슈나무러티 : 비즈니스를 이해할 수 있어야 하고 그 결과를 어떻게 활용해 AI 모델을 만드는 과학자, 통합자 모두 필요할 것이다. 크라운 부사장님 말씀처럼 생태계도 필요하다. 확장성을 가져가기 위해서는 협업이 핵심이다. 대학과의 협력도 하고 있다. 미국, 아시아 상위권 대학 협력 중이다. AI를 핵심 기술과 어떻게 연결할지 살펴보고 있다. 이를 통해 인력을 육성하고 있고 제품 서비스 상용화를 지속하고 있다. 생태계에서 오픈 기술을 갖고 넓은 관점으로 파트너와 협력해야 한다.

사회 : 현대자동차는 서드파티 협업에 관심이 많다고 했다. 오늘 행사 참석하신 분들 중에도 현대차와의 협업에 관심이 있는 분들이 많을 것 같다. 현대자동차가 어떤 분야에 서드파티 협업 수요가 있는지 말씀해주시면 오늘 오신 분들에게 큰 도움이 될 것 같다.

서정식 : 요즘 행동경제학 관련 인력에 대한 수요가 높다. 3~4년 뒤가 되면 가장 많은 데이터, 컴퓨팅을 가진 업체는 현대자동차가 될 수밖에 없다. 그렇게 돼야만 한다. 이런 큰 변화에 관심 있는 모든 IT 분들은 환영한다. 중국에 AI 빅데이터 센터는 생긴 지 2년 됐고 또 한 군데 더 추진하고 있다. 부품 업계에서 현대차 벤더들은 쉽지 않다고 말한다. 한 번 들어가면 5~10년 가기 때문에 운명을 같이 하는데 IT와는 좀 다른 부분이기도 하다. 저희는 자동차의 데이터와 네트워크 비즈니스 하고 싶은 업체와 협업을 생각하고 있다. 택배, 전자상거래 회사들과도 협업을 논의하고 있다. 카드, 보험, 물류, 택배, 커머스, 정유 등 분야 대기업들과 협업을 하고 있는데 새로운 비즈니스 모델을 다양하게 갖고 있는 스타트업 포함해서 업체들을 모두 환영하고 이를 위한 장을 만들어나갈 예정이다.

■ IBM·현대차·MS 각사의 AI 경쟁우위를 꼽자면?

사회 : AI 경쟁이 치열하다. 현대자동차는 기존에 자동차 업체와 경쟁했지만 이제는 구글 등 IT 기업도 경쟁자로 됐다. MS나 IBM도 마찬가지로 페이스북 같은 신흥 강자들과 치열한 경쟁을 하고 있다. 이런 상황에서 자사만의 AI 강점은 무엇이라고 생각하는가.

체탄 쿠마 크리슈나무러티 : 저희는 새 인사이트를 찾으면 고객의 것으로 보호해준다. 개인의 데이터 분석을 비즈니스 프로세스에 녹일 수 있는데 그러면 제대로 된 생태계를 만들 수 있을 것이고 자부심을 가질 수 있을 것이다.