"인공지능(AI) 특별법이 필요하냐고요? 법학자 입장에서 예스(yes) 노(no)로 답하기 힘든 부분입니다. 법 보다 더 필요한 건 청사진입니다. 인공지능은 신뢰할만(trustworthy)하고 인간중심적(human centric)이여야 합니다. 그러자면 데이터가 중요합니다. 데이터3법이 통과됐지만 정부가 내놓은 인공지능 정책은 데이터와 관련한 청사진 면에서 아쉬움이 있습니다."
고학수 서울대학교 법학전문대학원(로스쿨) 교수는 "우리나라가 AI강국이 되려면 데이터 드리븐(data driven, 데이터 주도) 사회가 돼야 한다"며 이 같이 밝혔다. 고 교수는 한국인공지능법학회장과 서울대 AI연구원 부원장을 맡고 있다.
서울대서 경제학으로 학사와 석사 학위를 받았고 미국 컬럼비아대학교에서 로스쿨 박사(JD, Juris Doctor)와 경제학 박사(Ph.D.)를 받았다. 미국 월스트리트 로펌 휴즈 허바드 앤드 리드 변호사(2000~2004)와 법무법인 세종 미국변호사(2004~2005), 연세대 법과대학 교수(2005~2007)를 거쳐 2007년부터 서울대서 일하고 있다.
법경제학과 개인정보보호 및 프라이버시, 빅데이터, 인공지능, IT 정책 등을 연구하고 강의한다. 새로운 기술이 사회와 경제에 미치는 영향은 무엇인지, 제도(institution)는 어떻게 대응하고 변해야 하는 지에 관심이 많다.
AI시대를 맞아 법제도가 어떠해야 하는 지를 듣기 위해 서울대 로스쿨에 위치한 그의 사무실을 찾았다.
-회장을 맡고 있는 한국인공지능법학회는 어떤 단체인가요
"2018년 5월에 설립했다. 인공지능 기술이 21세기 들어 급속한 발전을 이루며 우리 삶에 커다란 영향을 미치고 있다. 법제도와 법률 서비스도 마찬가지다. 이에 대응하려면 여러 분야 전문가들이 모여 융합적으로 접근해야 한다. 선진국은 이미 오래 전부터 인공지능과 법의 상호작용을 연구하기 위해 각 분야 전문가들이 교류하는 장을 마련, 운영하고 있다. 경제학 용어에 GPT(General Purpose Technology)라는 말이 있다. 번역하면 범용기술이다. 세상의 패러다임을 바꿀만한 중요한 기술을 말한다. 대표적인 게 인터넷이다. 인공지능도 마찬가지다. 인공지능이 우리 사회에 들어오면 사회 전반이 바뀔거고, 법도 거의 모든 영역에서 재검토가 필요한 상황이 된다. 이런 문제를 체계적으로 들여다보기 위해 학회를 만들었다. 회원은 아무래도 법률가들이 많다. 금융, 의료, 예술 등 각 도메인 쪽 사람들도 있다. 학회 이메일을 받아 보는 사람은 500명 정도 된다. 나는 2대 회장이다. 1대 회장은 이상용 건국대 법학전문대학원 교수다."
-올해 계획하고 있는 학회 활동은
"오는 8월에 '인공지능 윤리와 거버넌스'를 주제로 단행본을 출간한다. 논문 10편이 실린다. 이 책은 일반인에게도 판매한다. 몇 차례 학술대회도 열 예정이다. 오는 25일에 한국정보화진흥원(NIA)과 공동으로 코로나19와 관련한 IT 및 프라이버시를 주제로 행사를 한다. 10월에는 한국법률가대회에 참여해 인공지능 빅데이터의 법적 현안을 주제로 발표한다. 11월에는 개인정보보호위원회가 주관하는 행사에 참여해 인공지능과 개인정보보호를 주제로 컨퍼런스를 한다."
-인공지능 스펙트럼이 넓다. 회장님이 생각하는 AI는
"AI를 논의할때, AI가 이거다 하고 말하는 건 논의에 별 도움이 안된다. 기술이 계속 변하고 있기 때문이기도 하고 자칫 일반인에게 AI를 오해하게 할 수 있기 때문이기도 하다. 예를 들어 현장에는 지도학습 형태 머신러닝이 많은데, 일반인들은 영화나 공상 소설에서 나오는 AI를 생각한다. 나한테는 AI가 사회에 도움이 돼야 하고, 트러스트워디(신뢰할 수 있는)해야 한다. 이게 내가 생각하는 AI 키워드다. AI 기술이 발전하고 사회에 도입될때, 사람들이 이 기술을 믿을만하다고 생각하지 않으면 본격적인 도입이 어렵다. 신뢰가 형성이 안되면 기술이 아무리 좋아도 대중화가 안된다."
-서울대 법학전문대학원에서 올해 처음으로 AI 과목을 개설했다. 무엇을 가르치며 학생들 반응은
"이번 학기에 처음으로 정규 과정에 개설했다. 과목 이름은 '인공지능과 데이터법'이다. 나 외에 교수 한명이 더 가르친다. 15명이 듣는데 반응이 좋다. 과목을 개설할때는 이 영역을 모르는 학생들이 왔으면 했는데, 오히려 배경 지식이 있는 학생들이 많다. 관련 분야 직장을 다녔거나, 학부 전공을 하면서 뉴럴 네트워크로 뭘 만들어 봤거나, 이런 학생들이 꽤 있다. 수강생들 학부 전공은 제각각이다. 학생들이 질문을 굉장히 많이 한다. 질문을 많이 하는건 강의자한테 좋은 신호다. 2학기에도 관련 과목을 운영한다."
-AI에 관심을 갖게 된 계기는
"초등학교때 공상과학 소설을 좋아했다. 남들이 세계 명작을 읽을 때 나는 공상과학 책을 많이 읽었다. 처음 PC가 나왔을때 청계천에서 부품을 사다가 조립해보곤 했다. 중학교까지는 이과를 갈 생각이었다. 희망사항에 우주공학을 하겠다고 쓰곤 했다. 고등학교에 들어와 문과쪽으로 진로를 바꿨다. 경제학과 법학을 전공했는데, 내가 걸어온 길에 아쉬움은 없다. 주전공은 아니지만 경제학에 계량경제학이 있다. 경제학 시각에서는 인공지능이 계량경제의 응용 내지 확장인 것으로 이해해 접근할 수도 있다. 다시 전공을 선택하라고 한다면 인공지능과 관련한 공학과 경제학을 공부할 것 같다. 공통점이 있다. 둘 다 베이스가 데이터다. 지금의 인공지능은 결국 데이터를 통해 유용한 정보를 추출하는 거다. 단순하게 말하면, 공학은 추출해내는 방법론을 다양하게 배우는 거고, 경제학은 사회적 시각에서 의미있는 걸 추출하는 걸 배우는 거다. 데이터를 통해 의미있는 걸 끌어낸다는 점에서 둘은 비슷하다. 수십년간 나의 연구 화두는 정보 내지 데이터다. 경제학에도 정보경제학이 중요한 영역인데, 경제학에서는 1960년대에 본격적으로 나타난 신생 영역이고, 급성장한 영역이다. 정보경제학을 공부한 이후 자연스레 개인정보, 빅데이터, 인공지능에 관심을 갖게 됐다. 이들 영역의 공통 키워드는 데이터다."
-법조 분야에도 AI가 많이 들어와 있다. 법조인들이 보는 AI는 어떤가
"내가 관심을 두는 AI는 이미 상용화했거나 조만간 상용화할 AI다. 강(强) 인공지능 같은 먼 미래에 나타날수도 있는 AI에는 관심이 없다. 판사가 하는 작업중 단순 반복 작업이 꽤 있다. AI가 이를 대신할 수 있다. 단순반복형 작업은 AI에 맡기면 된다. 대신 판사는 더 많은 생각과 고민을 할 수 있도록 해야 한다. AI와 사람간 역할 분담이 가능하다. 변호사도 마찬가지다. 변호사 업무는 서류 검토가 많은데 이를 AI가 도울 수 있다. 예컨대 기업 인수합병(M&A) 업무를 보면 검토해야 할 관련 서류가 사과 상자로 50~100개나 된다. 그보다 많을 때도 있다. 이렇게 많은 서류를 빠르게 검토할 때는 AI가 유용할 것이다."
-2012년에 '구글 리서치 어워드'를 받았다. 어떤 상인가
"구글은 기본적으로 엔지니어링 회사다. 리서치 어워드는 주로 공대 교수에 주는 연구비 지원이다. 그런데도 내가 받았다. 내가 가진 연구 계획과 어젠다를 보고 준 것 같다. 구글은 이 어워드를 통해 연구비를 주면서 "알아서 하세요" 한다. 뭘 지시하거나 간섭하지 않는다. 연구 리포트를 제출할 의무도 없다. 1년간 관심있는 영역이 이거다 정도만 구글에 알려주면 된다."
-AI가 저작권을 가질 수 있을까? 궁금해하는 사람들이 많다
"한마디로 예스 노하기 힘들고, 전제조건이 있다. 이 영역은 기술이 급변하니, 지금 기술을 기준으로 뭐라 결정해도 1~3년 뒤에는 "그때 좀 이상하게 판단했네" 할 가능성이 있다. AI 저작권은 개념적으로 두 가지를 나눠 봐야 한다. 첫째, AI가 스스로 창작성이 있는 지와 둘째, 데이터다. AI가 무언가를 만들어내는 건 결국 데이터에서 비롯되는 것이라 데이터가 중요하다. 인풋 데이터를 구하거나 이를 처리하는 과정에서 많은 노력과 경험이 필요한 것이 현실이라면 이걸 추출해서 무언가를 만들어내는 사람한테 권리를 인정해주는 게 필요하다. 노력과 시행착오에 대한 보상이 중요하기 때문이다. 반대로 사방에 널려 있는 데이터를 활용해 새로운 결과를 만들어 내는 것이 손쉬운 상황이라면 권리를 인정해주면 곤란하다. 후발주자가 들어가기 어렵기 때문이다. AI저작권은 데이터를 구하고 정제하는 게 얼마나 어렵고 고통스러운지를 감안해 판단해야한다. 인풋 데이터를 구하는 과정이 얼마나 어려운지, 또 정제하는 과정이 얼마나 복잡한지가 AI저작권의 중요한 기준이 된다."
-AI와 윤리 문제는 어떻게 보나
"AI가 인간과 맞먹는다는 강(强)AI를 전제하지 않고 현재의 기술을 전제하더라도 윤리 이슈가 크다. AI가 우리 사회에 깊이 들어오려면 기술에 대해 신뢰할 수 있어야 한다. 신뢰의 개념 그리고 이와 함께 등장하는 키워드가 인간중심(human centric)이다. AI와 무관한 전통적인 윤리 판단에서는 이해상충에 관한 고려가 핵심이다. 하지만 AI윤리는 이해 관계가 초점이 아니다. 어떻게 이 기술이 사회에, 또 인간에 유익한 결과를 가져올 수 있게 할 것이냐가 핵심이다."
-엔지니어도 AI를 개발할 때 윤리 문제를 생각해야 할까
"가비지 인 가비지 아웃(garbage in, garbage out)이라고 흔히 말한다. 쓰레기를 넣으면 쓰레기가 나온다. 남성용 구두로 학습한 AI는 여성용 구두는 못알아 본다. 학습용 데이터로 이용되는 표본이 모집단의 통계적 특징을 정확히 반영하고 있는지 개발자도 고민해야 한다. 엔지니어 뿐 아니라 법률가가 초기부터 함께 고민하는 게 필요하다. 법적 이슈가 생기면 나중에 법률가가 처리할 거야 이렇게 생각하면 안된다. 처음 개발단계에서부터 끝까지 같이 고민하는 프로세스가 필요하다."
-잘못을 저지른 인공지능을 처벌할 수 있을까
"이것도 질문을 나눠 생각해야 한다. 인공지능이 잘못을 하면 당연히 책임 추궁을 해야 한다. 하지만 인공지능이 잘못했다고 했을 때 누가 잘못 한 거냐, 뭘 잘못했느냐를 정확히 따져봐야 한다. 현재의 기술을 전제로 하면 인공지능이 잘못했다고 하는 건 사람이 잘못 한 거다. 아니면 데이터 문제일 수도 있다. 인공지능 잘못에 대해 인공지능을 처벌한다는 건 현실적이지 않다. 인공지능 개발자한테 책임을 물을 거냐, 아니면 회사한테 책임을 물을 거냐, 이런 식의 질문이 더 현실적이다. 기술발전에 따라 개별 영역에서는 새로운 법체계가 필요할 수도 있다. 자동차를 예로 들면, 자동차에 복잡한 알고리즘이 도입되고 센서가 점점 많이 들어감에 따라 책임 소재를 따지는게 더 어려워지고 있다. 칼로 두부모 자르듯이 딱 자를 수 없는게 많다. 하나의 명쾌한 답이 나오기 어려운 영역이다. 그래서 해당 생태계 구성원들이 같이 고민을 해야 한다. 하나의 공통적인 정답이 있을 것이라고는 처음부터 기대하지 않는게 좋다."
-최근 미국 의사협회지에 코로나19 감염자 추적에 따른 프라이버시 이슈를 게재해 화제가 됐다. 어떤 내용인가
"정식 출간은 6월이다. 시의성이 있어 온라인 버전이 4월말 먼저 공개됐다. 나를 포함해 3명이 같이 썼다. ICT를 이용한 코로나 동선 추적과 이와 관련한 프라이버시 이슈를 다뤘다. 우리나라가 전반적으로 잘했지만 프라이버시 면에서 개선할 점이 있다는 걸 지적했다. 정보가 중앙집중식으로 질본에 모였고, 이중 일부를 다시 국민에게 전송하는 방식인데, 중앙에 정보가 모이는 건 역학조사를 위해 필요한 면이 있지만, 모인 정보가 다시 국민에게 갈때 문제가 있다고 봤다. 방역 당국이 가진 정보를 국민 개개인이 상세하게 알 필요는 없다. 국민한테 갈때는 국민이 경각심을 가지고 조심하도록 유도하는데 필요한 수준의 정보만 가면 된다. 양방향으로 정보가 흐르는데 서로 목적이 다른 것이다. 그런데 지금 스킴(구조)은 이에 관한 고려가 세밀하지 않은 것 같다. 이걸 지적했다."
-프라이버시 면에서는 중앙집중식이 문제가 있다는 건가
"코로나를 보면 미국이 프라이버시에 민감함을 알 수 있다. 동선 추적을 통해 정보를 수집하는 스킴은 크게 두가지다. 중앙집중형과 분산형이다. 우리는 중앙집중형이다. 분산형 방식을 택한 대표적인 나라는 싱가폴이다. 구글과 애플도 분산형 시스템을 개발하고 있다. 분산형은 누가 이태원 클럽에 갔는지에 관한 정보가 한 곳에 모이는게 아니고, 내가 마주친 사람중에 확진자가 있는지만 알게 해주는 것이다. 분산형은 어떤 사람이 클럽에 갔는지에 관한 정보가 한 곳에 모이지 않는다. 분산형은 프라이버시 보호에 도움이 되는 반면 방역 효율성은 떨어진다."
-인공지능에서 프라이버시를 고려한 방법으로 연합학습(federated learning)이 부상했다고 말했는데, 이건 무엇인가
"재래식 방식은 개별 디바이스에서 데이터를 중앙 서버로 보내 모은 후 인공지능 학습을 하는 방식이다. 연합학습은 그렇지 않다. 모바일 기기에서 데이터를 처리해 학습을 하고, 필요한 것만 선별해 서버에 보낸다. 우리나라는 아직 본격적인 시도가 거의 없는 걸로 알고 있다. 차분 프라이버시(differential privacy) 방법도 프라이버시를 고려한 AI 기법중 하나다. 구글 등은 자기네 제품에 일부 사용하고 있는 걸로 알고 있다. 이 방법은 개념은 우수하지만 이런저런 현실적인 제약이 있어 몇몇 세계적 규모 기업 위주로 활용하고 있다. IT 기술에 어떻게 프라이버시 개념을 적용할 지는 계속 중요한 화두가 되고 있다. 구글이 캐나다에 조성하려던 스마트시티가 규모를 줄이다 실패한 것도 기본적으로는 프라이버시 문제 때문이다."
-우리나라가 AI강국이 되기 위해서는 법제도 정비가 필요하다. 어떤 것이 있을까. 과거 정보화시대처럼 특별법도 필요할까
"이것도 지금으로는 애매한데, 크게 두가지다. 현재의 인공지능은 '데이터 드리븐(data driven)'이다. 데이터와 관련한 법제도와 인공지능 기술에 관한 법제도를 구분해 생각할 수 있다. 그런데 국가적인 방향과 세팅이 약간 불확실해 보인다. 데이터 3법에 관한 디테일이 논란인데, 이 데이터를 가지고 인공지능 패러다임에 어떻게 맞춰 갈 건지, 이런 그림이 좀 더 뚜렷하면 좋겠다. 인공지능 기술에 관한 법제도는 법을 만들건지를 말하기 전에 신뢰할 수 있는 인공지능과 인간 중심 인공지능에 관해 우리나라가 그리는 청사진이 어떤 것인지 좀 더 분명한 구상을 마련할 필요가 있다. 예를 들면, 유럽은 이미 3~4년전에 EU 전체 차원에서 50명이 참여하는 전문가(엑스퍼트) 그룹을 만들어 청사진을 그렸다. 엑스퍼트 그룹에는 공학자는 물론 법학자, 철학자, 인공지능 기업인 등이 들어갔다. 이들이 1년 넘게 작업해 작년초에 한번, 또 최근에 한번, 총 두 번 보고서를 냈다. 우리도 이런식의 청사진을 좀 더 명확히 그리는 작업이 필요하다."
-정부가 지난해말 AI국가 전략을 발표했는데...
"시간적으로 부족했다. 예를 들어 인공지능 전문가가 적다고 하는데, 어떤 수준의 전문가가 더욱 필요한 것인지 더 상세한 논의가 필요하다. 한국 사람이 잘하는게 있다. 질문이 있으면 답을 찾는 건 잘한다. 주입식 교육때문이다. 교과서나 참고서에 나오는 문제 풀이는 잘 한다. 그런데 문제를 만들어보라고 하면 못한다. 이게 훨씬 더 어렵다. 우리는 문제풀이는 잘하는데 문제를 만들고 내는 건 잘 못한다. AI에도 이런 측면이 있다. 사회 패러다임이 바뀌고 있는데, 뭐가 이슈고 뭐가 문제인지, 이걸 어떻게 정리할지에 관해서는 우리 사회가 취약하다."
-AI강국을 위한 제언을 한다면
"마인드가 바뀌어야 한다. 데이터 드리븐 사회가 돼야 한다. 데이터를 가지고 분석하고, 인공지능 툴을 만들어보고, 이런게 일상화돼야 한다. 예를 들어보겠다. 외국의 앞서가는 회사는 회의 중 불명확한 게 나오면 두 가지로 대처한다. 첫째, 지금은 답이 명확하지 않은 것 같다 둘째, 우리가 가지고 있는 데이터를 이용해 분석이 가능하게 한번 해보자, 이렇게 반응을 한다. 그런데 우리나라는 답이 안보이면 거기서 멈춘다. 혹은 윗 사람 눈치를 보고 윗 사람 결정에 맡긴다. 데이터 드리븐 문화가 아닌 거다. 데이터에 기초한 의사결정이 일상화돼야 하는데 우리는 체화가 안돼 있다."
-----------------------------------------------------------------------------------------------------------------------------------------
■고학수 한국인공지능법학회장은....
◇학력
서울대학교 경제학 학사(1989년 졸) 및 석사(1991년 졸) 미국 컬럼비아대학교 로스쿨 JD (Juris Doctor) (1998년 졸) 미국 컬럼비아대학교 경제학 박사 (PhD) (2001년 졸)
◇이력
-서울대학교 법과대학·법학전문대학원 교수(2007~현재)
-서울대학교 법과대학·법학전문대학원 부학장·부원장(학생담당) (2011~2012)
-독일 프라이부르크 고등연구원(FRIAS) 방문학자 (2019)
-벨기에 브뤼셀 프라이버시 허브 방문학자 (2016)
-미국 버클리 (UC Berkeley) 로스쿨 방문학자 (2015~2016)
-독일 함부르크대학교 방문교수 (2011~2012; 2013)
-싱가포르국립대학교 법과대학 방문교수 (2008)
-연세대학교 법과대학 교수 (2005~ 2007)
-법무법인 세종 미국변호사 (2004~ 2005)
-뉴욕 휴즈 허바드 앤드 리드 로펌 변호사 (2000 ~2004)
◇현 직책
- 아시아법경제학회 회장, 한국인공지능법학회 회장, 서울대학교 아시아태평양법연구소 소장, 서울대학교 법과경제연구센터 센터장, 서울대 인공지능정책 이니셔티브 공동디렉터, 서울대학교 AI연구원 부원장, 서울대학교 AI위원회 위원, 대법원 양형위원회 자문위원, 보건복지부 의료정보정책 자문위원, 방송통신위원회 법령해석위원, 신용정보원 자문위원, 금융보안원 자문위원, 비식별조치 전문위원 등 다양한 공공 및 민간자문
◇수상 경력
-대통령표창 (2014)
-독일 훔볼트재단 펠로우 (2011~ 2012)
-한국법경제학회 위공법경제학상 (2011)
-구글 리서치 어워드 (2012)
관련기사
◇저술
데이터 오너십, 개인정보보호의 법과 정책, 개인정보 비식별화 방법론, 데이터 이코노미, 핀테크 시대, 경제적 효율성과 법의 지배 외 논문 및 편저서 다수
