AI에게도 법적 권리? 언제·왜 필요해질까

인공지능(AI)에게도 사람에게 부여되는 법적 권리가 필요할까? AI가 재산을 소유하거나 손해배상을 청구하고, 더 나아가 선거나 입법 같은 사회 합의 과정에도 참여하게 할 필요가 있을까. 법 해석의 모호함을 줄이고, 기술 발전을 촉진하기 위해 이런 제도가 필요해질 수 있다는 전문가들의 분석이 나왔다. AI가 고도화되면 현행법이 변화된 사회상을 충분히 반영하지 못할 것이라는 이유다.

지난 23일 온라인으로 개최된 '인공지능 법·제도 공개 토론회'에서는 이런 주제를 둘러싼 전문가 논의가 이뤄졌다. 이번 토론회에는 김진우 한국외대 법학전문대학원 교수가 발표를 맡고, 강태욱 법무법인 태평양 변호사와 김대원 카카오 정책팀장, 송호영 한양대 법학전문대학원 교수가 참석한 가운데 오병철 연세대 법학전문대학원 교수 사회를 봤다.

토론회에서 학계와 산업계, 법조계 전문가들은 AI에 대한 '법인격' 부여 필요성을 두고 의견을 주고받았다. 현행법은 사람(자연인)과 회사(법인)에게만 법인격을 부여하고 그에 따른 권리와 책임을 규정하고 있다. AI가 법적 권리를 직접 행사할 수 있을 정도로 자율성이 발달되면, 이를 뒷받침하는 법제도 자연히 필요해질 것이란 게 전문가들의 대체적인 분석이다.

■AI에 필요한 법인격은? "EU, 연말 민사책임 규정안 낼 듯"

발표자로 나선 김진우 한국외대 교수는 AI 활용이 점차 확대되면 법적으로 보호 영역에 빈틈이 발생하고, 불안정성이 나타날 것으로 전망했다. 현행법이 AI 활용을 염두하고 만들어진 것이 아니기에, AI로 발생하는 갈등을 두고 책임을 AI 제품 또는 서비스의 제조사나 AI 개발자, 사용자 중 어떤 주체에게 돌려야 할지가 불명확하다는 주장이다.

김진우 교수는 "예를 들어, MS가 네덜란드 공학자들과 공동 개발한 AI가 렘브란트 화풍 그대로의 작품을 그려냈는데 이 작품의 소유 주체가 누구일지 생각해보라"며 "많은 고민이 생겨나는 지점"이라고 첨언했다.

해외에서도 관련 논의가 이어지고 있다며, 동향을 소개했다. 유럽연합(EU)의 경우 지난 4월 AI 법제에 대한 규정안을 공표하고 AI 시스템의 위험도에 따라 의무사항을 달리 규정한 바 있다.

김 교수는 "EU가 AI의 민사 책임에 대한 별도 규정안을 연말 제시할 것으로 예상된다"며 "다만 현재는 AI가 주어진 역할 수행을 넘어, 실제로 어떤 문제에 대해 사고하고 행동할 수 있는 '강AI' 수준에 이르지 않은 만큼, 법인격을 부여하는 '전자인 제도'는 도입되지 않을 것으로 보인다"고 전망했다.

그러면서 AI로 인한 법적 불명확성 문제는 우리나라도 예외가 아닌 만큼, 법인격 부여 논의를 지속해야 한다고 봤다.

■AI로 재산 피해 발생하면 누가, 어디까지 책임져야 할까

AI에 대한 재산권 부여가 필요한지 언뜻 와닿지 않을 수 있다. 그러나 향후 AI가 크고 작은 재산 피해를 유발하면, 이에 대한 책임 소재 및 범위를 명확히 하기 위해 이런 법적 개념 도입이 필요해질 것이란 게 학계 전망이다.

김진우 교수는 "AI 서비스를 사용하는 과정에서 어떤 결정이 사용자에 의해 이뤄진 것인지, AI에 따른 것인지 애매한 경우들이 있다"며 "현행법 상 어떤 의사를 표시하기 위해서는 일정한 법률 효과를 발생하는 '효과의사'가 필요한데, AI가 결정한 내용에 대해서는 이런 부분이 충족되지 않는다"고 설명했다.

이어 "AI가 고도화되면서 자율성이 강화되고 있는데, AI는 독자적인 알고리즘에 따라 움직이기 때문에 행동을 예측하기 쉽지 않다"며 "운영자 상상 이상의 피해가 발생할 경우 이 책임을 운영자가 전부 져야 하는지에 대한 문제가 발생할 수 있다"고 덧붙였다.

사람만을 피해 책임 주체로 둘 경우, 예상치 못한 막대한 피해를 우려해 AI 활용이 저해될 가능성이 있고 결과적으로 산업 발전이 더뎌질 수 있다고 분석했다. 이에 AI 명의로 재산을 소유할 수 있게 하고, 피해가 발생할 경우 이 재산 범위 내에서 책임지게 하는 것이 바람직하다는 의견이다.

다만 AI에게 재산권을 부여하는 데 있어 고려해볼 문제들도 산적해 있다. 송호영 교수는 "법인격을 부여한다는 것은 권리뿐만 아니라 의무 능력도 부여하는 것"이라며 "가령 AI가 파산하는 경우에는 자연인처럼 대해야 할지, 법인처럼 취급해야 할지 고민스러운데 장기적으로 이런 법적 과제들을 판단해야 할 것"이라고 말했다.

■AI가 명예훼손 소송 제기한다면?

향후 AI의 자율적 의사결정 능력이 향상된다면, 법적 소송을 제기하는 AI도 상상해볼 수 있다. 이에 대해 소송 권리를 인정해야 하는지도 논의가 이뤄졌다.

김진우 교수는 "법인격을 토대로 한 권리 능력이 인정된다면 소송 능력도 인정되는 게 자연스럽고, AI를 상대로 한 악성 댓글에 손해배상을 청구하는 상황도 가정할 수 있지 않을까 싶다"고 봤다.

다만 AI 제품의 일환인 자율주행차에 대해서는 예외로 봐야 한다고 주장했다. 김 교수는 "자동차에 대해서는 '자동차손해배상보장법'이라는 강력한 피해보상 제도가 마련돼 있고, 여기에 많은 사람들이 익숙해져 있다"며 "자율차에 대해 법인격을 별도로 인용하게 되면 생각치 못한 법적 보호에 흠결이 발생할 수 있기 때문에, 드론처럼 타인에게 피해를 야기하기 쉬운 AI 탑재 이동체에 대해 별도로 법인격을 부여하는 것이 바람직할 것"이라고 언급했다.

송호영 교수는 "법적 권리가 부여된다면, 이를 지키기 위한 소송 능력도 인정하는 것이 타당하며, 재산적 손해는 물론 초상권과 명예권 등 인격권도 충분히 배상받을 수 있는 여지가 있다"면서도 "극복할 난관들이 많은데, 그 중 하나는 AI가 자연인이나 법인처럼 독자적인 신분을 확보할 수 있는지"라고 말했다.

송 교수는 "법인은 등기라는 제도로 이를 보증하지만, AI는 수없이 복제될 수 있는 만큼 어떤 AI가 원고가 되고, 피고가 되는지 특정하기가 매우 어렵다"며 "소송 권리를 인정하기 이전에 AI에 동일성에 대한 장치를 확보하는 기술이 선제돼야 한다"고 지적했다.

■AI가 '계약 주체' 될 수 있을까

AI가 계약 주체로 취급될 수 있는지에 대한 논의도 이뤄졌다. 가령 AI 캐릭터 '로지'가 광고 모델 계약을 체결한다면, 계약 주체를 AI 캐릭터로 할 필요가 있을지다.

강태욱 변호사는 "호주에서는 특허 발명가로서 AI에 지위를 부여한 사례가 있기도 하다"며 "AI에 독자적인 계약 의무 등을 부여할 필요성이 인정된다면 충분히 논의해볼 수 있는 제도"라고 의견을 냈다.

김대원 팀장은 "현재는 AI 캐릭터의 지적재산권(IP) 소유자가 후견인으로서 존재하고 있고, 때문에 AI가 별도 법적 주체로 여겨지고 있지 않은데, AI 캐릭터가 자율적으로 옷을 바꿔 입는 등의 행동을 할 수 있게 된다면 계약 주체도 될 수 있지 않을까 싶다"고 언급했다.

■사람보다 나은 'AI 정치인·법조인' 인정해야 할까

정치, 사법 영역에서 AI의 활동을 법적으로 인정해야 할 것인지에 대한 논의도 나왔다. 이는 부분적인 AI 활용 사례가 잇따라 등장하는 만큼, 미래에 AI의 기여도가 높아질 것으로 관측되는 영역들이다. 사람의 업무를 보조하는 현 수준을 넘어, 행정·입법·사법 영역에서 자율적인 의사결정을 하는 AI가 등장한다면 이를 어떻게 다뤄야 할지 의견이 오갔다.

김대원 팀장은 "기술적으로 실현 가능한지를 따진다면 해당 분야에 대한 기능을 만들어 구현 가능할 것으로 본다"며 "정치인으로 입후보를 하는 등 AI가 사람처럼 관리될 수 있느냐를 따져본다면, AI가 직접 관련 업무에 대한 규칙을 만들 수 있는지에 따라 갈릴 듯하다"고 전망했다.

김 팀장은 "자율주행차에 탑재된 AI가 요리를 할 수는 없듯이, 현재는 AI가 주어진 능력 외 다른 능력을 가지려면 그 능력에 대한 규칙을 별도로 설정해야 한다"며 "AI가 직접 업무를 고안하고, 수행하게 된다면, 더 나아가 공명심이나 권력욕을 가질 수 있다면 피선거권을 부여하는 것도 가능한 일로 여겨질 것 같다"고 했다.