AI 개발자 '히포크라테스 선서' 필요할까

MS 스티브 크라운 부사장, ATS 2018서 관련원칙 소개

히포크라테스는 '현대 의학의 아버지'로 통한다. 그가 고대 그리스 시대에 남긴 '히포크라테스 선서'는 1948년 세계의사협회의 '제네바 선언'과 그보다 더 구체화된 형태로 만들어져 1949년 채택된 '국제의사의 윤리강령'으로 이어지고 있다.

이 윤리강령은 이후에도 개정돼 각 나라 의사윤리강령에 반영됐다. 히포크라테스 학파 의사가 만든 고대 윤리선언이 현대 의술 보급과 실현에 직접적인 영향을 주고 있는 셈이다.

의사들에게 '히포크라테스 선서'란 상징적인 직업윤리강령이 있는 것처럼 인공지능(AI) 개발 전문가들에게도 윤리 원칙이 적용될 가능성이 있다는 시각이 있다. 다국적 IT회사 마이크로소프트(MS)가 이런 움직임을 대표한다.

MS는 올초 출간한 '인공지능으로 변화될 미래(The Future Computed)'란 책을 통해 AI 윤리 강령 문제를 정면으로 제기했다.

마이크로소프트 게임 시리즈 '헤일로' 등장인물 코타나. 마이크로소프트 운영체제에 음성비서형 인공지능(AI) 소프트웨어 이름도 코타나로, 게임과 동일한 성우의 목소리를 지원해 이 캐릭터에서 따 왔다는 인상을 주고 있다. [사진=마이크로소프트]

이 책은 MS 고위 임원과 AI 기술관련 연구원 등 전문가들이 쓴 것이다. 브래드 스미스 사장 겸 최고법무책임자와 해리 셤 인공지능연구소 수석 부사장이 공동 집필한 서문에는 AI 분야에도 '히포크라테스 선서'가 필요하다는 내용이 담겨 있다. 그 부분을 직접 옮겨 봤다.

"… 컴퓨터과학 분야에서 AI의 영향력에 대한 우려는, 컴퓨터 프로그래머와 연구자들에게 윤리연구(the study of ethics)가 필수요건이 되리라는 의미일까? 우리는 틀림없이 그렇게 될 거라 여긴다. 우리가 의사들에게 주어진 것처럼 개발자를 위한 '히포크라테스 선서'를 볼 수 있을까? 그럼직한 얘기다. 우리는 모두 함께 강한 의지를 품고 광범위한 사회적 책임을 배워야 한다. 궁극적인 질문은 컴퓨터가 뭘 할 수 있느냐가 아니다. 컴퓨터가 뭘 해야하느냐다. …" (출처: 'The Future Computed: Artificial Intelligence and its role in society')

이런 얘기다. AI의 사회적 영향은 과거 다른 기술에 비해 훨씬 크다. AI를 인류에게 보편적으로 혜택을 줄 수 있는 기술로 삼으려면, 기술을 만들고 다루는 사람들부터 책임 범위를 명확하게 인식해야 한다. 이 인식은 결국 윤리원칙에 기반한 이해와 판단을 토대로 형성된다. 그래서다. MS는 최근 몇년간 애저 클라우드 기반의 '코그니티브 서비스'라는 이름으로 다양한 AI 기술과 관련 도구를 출시하고 윈도에 '코타나'라는 AI 음성비서를 선보인데 이어, 윤리적 AI(Ethical AI) 또는 AI 윤리(Ethics of AI)를 강조하고 있다.

마이크로소프트 최고법률책임자(CLO) 브래드 스미스 사장과 AI 리서치 수장 해리 셤 총괄부사장(EVP)이 서문을 작성한 책 'The Future Computed' 표지. 마이크로소프트가 홈페이지에서 PDF 파일로 배포하고 있다.

MS가 강조해 온 윤리적 AI에 대해 자세하게 접할 수 있는 기회가 마련됐다.

MS 본사의 스티브 크라운 부사장은 오는 12일 지디넷코리아 주최로 서울 광화문 포시즌스호텔에서 열리는 제2회 '아시아테크서밋(ATS)'에서 'AI를 위한 윤리'를 주제로 기조 발표를 할 예정이다.

ATS 2018 행사는 'AI, 이제는 플랫폼이다'를 주제로, AI를 플랫폼 삼아 비즈니스 기회를 극대화하고 디지털트랜스포메이션을 가속하려는 기업들에게 필요한 기술 업계 동향과 최신 정보를 제공하기 위해 기획됐다. [☞ATS 2018 연사소개 바로가기]

MS는 그 동안 AI 비서와 AI를 탑재한 플랫폼 및 제품을 꾸준히 출시해 왔다. 또 개발자 및 기업을 대상으로 한 AI 개발도구와 서비스도 선보였다.

이런 MS가 윤리적 AI를 강조하면서 전달하려는 메시지는 명확하다. 이제 AI 기술을 다루는 개발자, 디자이너, 이들이 속해 있거나, 만들어진 AI 시스템을 운영하고 활용하는 조직에게, 윤리적 AI가 당면한 화두라는 것. 이런 얘기도 있으니 들어보라는 정도가 아니라, 그들에게 꼭 필요한 얘기라는 것이다. MS가 AI 개발에 적용돼야 할 6대 윤리원칙을 제시한 배경도 마찬가지다. [☞]

다시 MS가 출간한 책 얘기로 돌아가보자. 책의 서문에는 이런 대목도 나온다. 지금은 개인정보보호나 정보주체의 자기결정권을 정의하고 그 권리를 보호하려는 '프라이버시법' 개념이 널리 보급돼 있다. 하지만 20년전에는 이게 매우 생소한 개념이었다. 다만 그 때에도 프라이버시법과 같은 취지로 작용하는 조항들이 여러 법률에 편재돼 있었다. 같은 맥락을 미래 인간 사회에도 적용할 수 있다. 지금은 'AI법'이라는 이름의 별도 법이 체계화돼 있지 않다. 하지만 각국 산업분야에 자율주행차(driverless cars)를 규율하는 규제가 발달하는 모습을 볼 수 있다.

20년 뒤엔 어떻게될까? '인공지능으로 변화될 미래'의 저자들은 서문에서 이런 전망을 제시한다. 20년이 지나서 한 2038년쯤 되면, AI법이 당연히 만들어져 있을 것이라고. 여기저기 흩어진 조항으로 자율주행차의 AI를 규율하는 게 아니라, 보편적인 AI의 규율을 목적으로 한 제도가 정착될 것이라고. 또한 그 시대에는 아직 존재하지 않는 'AI 변호사'가 활동하고 있을 것이라고. AI 변호사가 AI법을 다루고, 그 법률가들과 다른 모든 일반인들은 활동을 도와주는 AI에 모두 의존하고 있을 것이라고.

마이크로소프트는 20년뒤 AI법이 보편적으로 제정돼 있을 것으로 전망하고 그런 시대로 나아가는 과정에서 AI를 개발하고 이용하는 사람들에게 적용될 윤리적 원칙을 연구해야 한다고 강조한다. [사진=Pixabay]

책의 서문은 MS의 고위 임원 2명이 썼다고 특별히 명시돼 있다. 한 명은 MS 본사의 최고법률책임자(CLO)인 브래드 스미스 사장이다. 그는 연례 사이버보안컨퍼런스 RSA에서 참석자들에게 기조연설을 통해 공공안전과 프라이버시같은 주제로 발표할만큼 기술 분야에도 인지도가 있는 인물이다. 또 한 명은 MS AI 리서치그룹의 수장인 해리 셤 총괄부사장(EVP)이다. 직책에서 알 수 있듯이, 그는 MS의 글로벌 AI 연구개발 총책임자다. 두 임원의 배경은 MS가 갖는 기술업계 영향력과 맞물려 AI 윤리란 화두를 붙잡게 만든다. [☞ATS 2018 프로그램 바로가기]

어찌보면 AI 윤리란 화두가 말이 되더라도 당장 제기하기엔 너무 때이른 감이 있다는 반발도 예상된다. 산업계 AI 활용은 빠르게 확산되고 있지만 그중에도 널리 알려진 특정 사례를 제외하면 아직 걸음마 수준이라는 이유에서다.

하지만 MS는 소프트웨어 라이선스를 파는 회사에서 클라우드서비스를 파는 회사로 변신하면서, AI라는 분야를 클라우드의 유망한 활용처로 제안하면서 기술의 확산도 함께 장려하고 있다. AI를 통해 클라우드서비스 수요를 견인하는 MS의 전략이 산업계에 잘 먹혀들수록 AI 윤리란 화두도 활발히 다뤄져야 하는 셈이다.

AI 윤리라는 화두를 연구함으로써 풀 수 있는 문제는 기업들의 클라우드와 AI 기술 활용 자체에도 긍정적인 피드백을 줄 수 있다. MS의 6가지 윤리 원칙은 공정성, 포괄성, 신뢰성 및 안전, 투명성, 프라이버시 및 보안, 책임성으로 구성돼 있다. 각각의 키워드는 현대 인간사회가 작동하고 있는 방식에 AI란 기술이 끼어들었을 때의 어려움이 단순히 도덕률이나 가치판단의 범주에 그치지 않음을 방증한다. 말이 '윤리'지, 실은 공정한 AI, 포괄적인 AI, 신뢰할 수 있는 AI, 투명성을 띤 AI, 프라이버시를 보장하는 AI, 책임을 지는 AI의 정의와 구현 문제다.

예를 들어 보자. 채용서류를 검토하는 AI 면접관, 대출심사를 결정하는 AI 신용평가담당자, 탑승자를 보호하려다 도로상의 사물이나 인명 피해를 가중시킬 수 있는 자율주행 AI 시스템, 범죄자의 검거 전 일상활동이나 나이, 성별, 인종 등 인구통계학적 정보를 바탕으로 재범률을 추정하고 교정이나 보석 결정을 내릴 수 있는 형사사법 AI 시스템이 만들어질 것이다. 이런 AI가 오작동하거나 악용됐을 때, 책임소재는 누구에게 있을지, 피해를 어떻게 산정하고 배상할 것인지, 그걸 사람들 앞에서 어떻게 규명하고 이해시킬지, 이게 앞으로 제기될 문제다.

심각한 문제가 발생하기 전에 어느정도는 사회적 고민과 합의가 필요하다. 그 토대를 제시하려는 국제적 움직임이 이미 진행중이고 MS도 그 중 한 기업에 해당한다. MS의 AI와 윤리를 둘러싼 고민과 최근의 결과물에 담긴 내용은 산업계의 적절한 AI 활용 흐름을 앞당길 수 있다.

12일 수요일 ATS 2018 컨퍼런스에 참가할 스티브 크라운 부사장은 MS의 인권법률자문 임원이자 '엔지니어링 및 리서치 분야 AI와 윤리(AETHER)' 위원회 멤버로서, 빠르게 발전해가는 AI 활용의 잠재 피해를 낮춰줄 국제적 원칙을 제시할 전망이다. [☞ATS 2018 등록페이지 바로가기]