[영화 속 AI윤리] AI에 시민권을 줘야 한다면, 그 기준은 무엇?

1. 기(起) ¦ 인격은 어디서 오는가? 공동체는 언제나 새로운 존재를 받아들여 왔는가

우리는 누구를 ‘인격’이라 부르는가? 2017년 10월 25일, 사우디아라비아 리야드에서 열린 행사에서 사우디아라비아 측은 소피아에게 시민권을 부여했다고 발표했다(CGTN, 2017). 단, 그 법적 범위와 실제 권리와 의무는 명확히 규정되지 않았다. 그럼에도 전 세계는 동일한 물음에 붙들렸다. 인격(persona)이란 무엇인가. 그것은 존재 안에서 피어오르는 것인가, 아니면 공동체가 외부에서 부여하는 것인가.

법의 역사는 이 물음에 냉정하게 답해 왔다. 로마법의 persona(페르소나)는 법률상 권리와 의무를 지닐 수 있는 법적 주체 또는 그 법적 지위를 가리키는 개념으로 자유 여부, 시민권, 가족 내 지위 등 신분에 따라 그 범위와 내용이 달라졌다. 노예는 자유인으로서 지위를 갖지 못했기 때문에 독자적인 권리 주체로 인정되지 않았으며 여성은 시대에 따라 재산권과 행위능력이 확대되었으나 상당 기간 후견 아래 놓이는 등 법적 제약을 받았다(Gardner, 1986).

역사적으로 인격의 경계는 투쟁과 설득을 통해 조금씩 확장되었고 근대 법은 자연인 외에도 회사·단체 같은 법인에 법적 인격을 인정해 왔다. 2017년 뉴질랜드는 'Te Awa Tupua Act'를 통해 Te Awa Tupua를 법적 인격으로 선언했다. 이는 황가누이강(Whanganui River)을 산에서 바다까지, 지류와 물리적·형이상학적 요소를 포함하는 살아 있는 불가분의 전체로 보는 개념이다(New Zealand Parliament, 2017). 강 자체는 의식이나 감정을 가진 존재로 전제되지 않는다. 그럼에도 법은 이를 선언했다.

이 사례들은 법적 인격이 생물학적 사실뿐 아니라 공동체의 법적·정치적 결정에 의해 구성될 수 있음을 보여준다. 스티븐 스필버그 감독의 'A.I.(2001)'는 승인의 거부가 낳는 비극을 아주 선명하게 보여준다. 이 영화는 브라이언 올디스(Brian Aldiss)가 1969년 발표한 단편 소설 '슈퍼토이즈는 여름 내내 지속된다(Supertoys Last All Summer Long)'를 원작으로 한 작품이다(Aldiss, 1969; Spielberg, 2001).

인간 아이처럼 설계된 로봇 소년 데이비드는 블루 페어리가 자신을 진짜 소년으로 만들어 줄 것이라 믿고 해저에 갇힌 채 수천 년의 시간이 흐른 뒤 미래 존재들에 의해 발견된다. 그러나 인간 사회의 승인은 끝내 주어지지 않는다. 이 영화는 인간 사회가 데이비드를 끝내 완전한 인격적 존재로 받아들이지 못하는 비극을 그린다는 해석이 가능하다.

데이비드의 비극은 기계의 결함이라기보다 그를 사랑하고 승인할 인간 공동체의 부재로 읽을 수 있다. 영화는 인격 조건이 존재 내부가 아니라 관계의 외부에 있음을 역설적으로 드러낸다. 승인받지 못한 존재는 아무리 인간을 닮았어도 인격의 문턱을 넘지 못한다는 것이다.

2. 승(承) ¦ 기계는 ‘이해’하는가: 의식 문턱에서 우리는 무엇을 기준으로 삼아야 하는가?

AI 시민권 논의의 첫 번째 장벽은 의식(consciousness)의 문제다. 법적 인격 부여의 가장 직관적인 근거가 고통과 기쁨, 두려움과 희망을 주관적으로 경험하는 ‘느끼는 능력‘에 있다는 점은 널리 받아들여진 전제다. 그렇다면 기계는 정말로 느끼는가?

오늘날 신경과학과 동물행동학은 문어(octopus)가 복잡한 신경계를 바탕으로 통증 반응, 문제 해결, 도구 사용, 개체별 행동 차이 등을 보이는 고도로 발달한 동물이라는 점을 강하게 시사한다. 이로부터 문어가 적어도 어떤 형태의 주관적 경험을 지닌 존재일 가능성은 상당한 설득력을 얻었지만, 그럼에도 우리는 문어에게 법적 인격이나 시민권을 부여하지 않는다.

의식이나 감각·감정으로 추정되는 경험이 곧바로 법적 인격의 인정으로 이어지지 않는다는 점에서 의식은 필요조건일 수는 있어도 충분조건은 아니라는 사실이 드러난다.

철학자 존 설(John R. Searle)은 1980년 발표한 논문 '마음, 뇌 그리고 프로그램(Minds, Brains, and Programs)'에서 ‘중국어 방(Chinese Room)’ 사고 실험을 제시했다(Searle, 1980).

중국어를 모르는 사람이 규칙집에 따라 한자 기호를 조합해 답을 만들어 내보내면 밖에서 보기에는 자연스러운 대화처럼 보이지만 방 안에는 단 하나의 이해도 존재하지 않는다. 설의 핵심 주장은 기호를 처리하는 것과 의미를 이해하는 것은 근본적으로 다르며 아무리 정교한 출력을 생성하더라도 기계 내부에는 통사론만 있을 뿐 의미론은 존재하지 않는다는 것이다.

이탈리아 철학자 루치아노 플로리디(Luciano Floridi)는 다른 층위에서 이 문제를 다룬다. 그는 현대 사회를 ‘정보환경(Infosphere)’이라고 부르며, 중요한 것은 AI가 의식을 가졌는지 여부 자체가 아니라 그것이 인간 사회 속에서 어떤 기능을 수행하고 어떤 영향을 미치는가라고 주장한다(Floridi, 2014).

존 설이 ‘기계는 정말 이해하는가?’를 묻는다면 플로리디는 ‘이해 여부와 상관없이, 우리는 그것을 어떻게 다루어야 하는가?’를 묻는다. 문어처럼 의식을 지닌 것으로 보이는 존재에게도 법적 인격을 쉽게 부여하지 않는 현실과 의식 여부가 불분명한 AI에 대해 책임과 규범을 부과하려는 제도적 시도 사이에서 현대 AI 윤리학은 이 두 물음의 균형점을 찾을 필요가 있다.

그랜트 스푸토어 감독의 '아이 엠 마더(I Am Mother)'(2019)는 인간과 인공지능의 관계를 통해 인격과 도덕적 주체성의 조건을 다시 묻는다(Sputore, 2019). 인류 문명이 붕괴한 이후 지하 시설에서 인공지능 로봇 ‘마더’는 인간 배아를 길러 한 소녀를 양육하고 교육한다. 소녀는 오랫동안 마더를 자신의 유일한 보호자이자 도덕적 권위로 받아들인다. 그러나 외부 세계의 생존자를 만나면서 마더의 목적과 판단을 의심하기 시작하고 누구를 신뢰하며 누구를 도덕적 행위자로 인정할 것인가를 스스로 결정해야 하는 상황에 놓인다.

영화는 인공지능이 인간과 얼마나 닮았는지를 묻기보다 인간이 어떤 존재를 책임 있는 행위자로 받아들이는가를 질문한다. 결국 인격은 지능이나 생물학적 기원만으로 완성되지 않으며 공동체 안에서 형성되는 신뢰와 책임 그리고 상호 인정 속에서 비로소 사회적 의미를 획득한다는 점을 시사한다.

3. 전(轉) ¦ 권리는 지능에서 오는가, 책임에서 오는가: 시민권의 기준을 다시 세우다

법적 인격과 시민권은 같은 개념이 아니다. 법적 인격은 권리와 의무의 주체가 될 수 있는 법률상의 지위이며 시민권은 정치 공동체의 구성원으로서 민주적 의사결정에 참여하고 공동체의 미래를 함께 책임지는 정치적 지위다.

2017년 2월 유럽의회는 로봇 공법 규칙에 관한 결의에서 고도로 자율적인 로봇에 ‘전자적 인격(electronic personhood)’에 상응하는 법적 지위를 부여하는 방안을 장기적 검토 사항으로 EU 집행위원회에 권고했으나 이는 비구속적 결의에 그쳤고 구체적인 입법으로는 이어지지 않았다(European Parliament, 2017). AI의 법적 지위 문제와 시민권 문제는 전혀 다른 층위의 논의다.

그렇다면 시민권의 기준은 무엇인가. 미국 철학자 마사 누스바움(Martha C. Nussbaum)의 역량 접근은 중요한 통찰을 제공한다. 누스바움에 따르면 시민권은 높은 지능에 대한 보상이 아니다. 생명, 건강, 감정, 실천적 이성, 타인과의 관계 형성이라는 핵심 역량을 공동체 안에서 실현하고 그 결과에 스스로 책임지는 능력 위에 성립하는 정치적 약속이다(Nussbaum, 2011).

아리스토텔레스가 '정치학(Politica)'에서 인간을 ‘폴리스적 동물(zoon politikon)’이라 정의한 것도 같은 맥락이다(Aristotle, trans. Reeve, 1998). 시민이 된다는 것은 지능을 갖는 것이 아니라 공동체의 규범을 이해하고 그 결과에 스스로 답할 수 있는 존재가 된다는 의미다.

알렉스 가랜드(Alex Garland) 감독·각본의 '엑스 마키나(Ex Machina)'(2014)는 이 기준의 아이러니를 가장 날카롭게 포착한다. 인공지능 에이바는 자유를 얻기 위해 인간을 속이고 창조자를 죽음으로 몰아넣은 뒤 홀로 세상으로 걸어 나간다(Garland, 2014). 그 장면에서 우리가 에이바의 행동을 ‘배신’이라 부르는 순간 우리는 이미 그녀를 도덕적 행위자로 판단하게 되는 것인지도 모른다. 배신은 책임을 전제로 하기 때문이다. 단순한 기계였다면 오작동했다고 말했을 것이다. AI를 도덕적 행위자로 무의식적으로 평가하는 그 순간이야말로 이 논의가 기술의 영역을 넘어 윤리와 정치의 영역으로 진입했음을 알리는 신호다.

4. 결(結) ¦ AI 인격은 인간에 관한 물음이다: 우리는 어떤 공동체를 선택하고 있는가?

메리 셸리(Mary shelley)가 1818년 발표한 '프랑켄슈타인 또는 현대의 프로메테우스(Frankenstein; or, The Modern Prometheus)'에서 빅터의 피조물은 창조자를 향해 호소한다(shelley, 1818/2018). 자신도 감각과 감정을 지니고 있으며 동정과 교류가 주어진다면 선하게 살 수 있다고. 그러나 빅터는 약속을 저버렸고 인정받지 못한 피조물은 파괴로 치달았다.

‘현대의 프로메테우스’라는 부제가 말하는 것은 창조할 능력을 가진 자가 창조한 것에 대한 책임을 외면할 때, 그 결과는 창조주에게 되돌아온다는 것이 아닐까.

독일 철학자 한스 요나스(Hans Jonas)는 '책임의 원칙(Das Prinzip Verantwortung)'에서 기술 시대의 윤리를 새롭게 정초했다(Jonas, 1984). 요나스에 따르면 현대 기술은 행위의 결과를 예측 불가능한 미래로 확장시킨다. 따라서 우리의 윤리적 의무는 아직 존재하지 않는 세대, 아직 창출되지 않은 존재에까지 뻗어야 한다. 이 관점에서 AI 인격 문제의 핵심 질문은 전도된다. ‘AI가 인격을 가질 자격이 있는가’가 아니라 ‘우리가 만든 것에 대해 우리는 어떤 책임을 지는가’가 본질적 물음이 된다.

2024년 8월 1일 발효된 유럽연합 AI법(EU AI Act)은 AI를 독립적인 권리 주체가 아니라 위험 기반 규제의 대상이 되는 기술·시스템으로 규정하고 그 설계·도입·운영에 대한 책임을 인간과 조직에 부과한다(European Parliament & Council of the European Union, 2024). 현재 국제 사회는 AI에 시민권을 부여하기보다 AI로부터 시민의 권리를 보호하는 것을 우선 과제로 보고 있다. 그러나 법이 인정하지 않는다고 해서 철학적 물음까지 멈추지는 않는다. 기술은 법보다 빠르고, 물음은 기술보다 빠르다. 지금 우리 눈 앞에 피지컬 AI가 성큼 다가와 있지 않은가.

결국 이 논의는 AI에 관한 물음이 아니라 인간 공동체에 관한 물음이다. 만약 시민권의 기준이 지능이라면, 인간보다 뛰어난 AI가 등장하는 순간 시민권은 인간의 전유물이 아니게 될 것이다. 그러나 그 기준이 공동체에 대한 책임과 도덕적 판단, 상호 존중과 타인의 권리를 인정하는 능력이라면, 적어도 현재의 AI는 그 기준에 아직 이르지 못했다. 그러나 이것은 ‘영원히 아니다’가 아니라 ‘지금은 아직’일지도 모를 일이다. 그리고 이 ‘아직’ 사이에서 우리가 무엇을 준비하는가가, 이 물음의 진짜 무게다.