[영화 속 AI윤리] 자동화된 편의와 주체성 상실

[10회] '써로게이트'와 '업그레이드'로 본 '주도권' 중요성

1. 기(起): 언제부터 우리는 대리 행위자에게 우리의 삶을 대신 살아가게 했는가?

인공지능 비서는 이른 아침부터 하루의 좌표를 제시하고 내비게이션은 이미 확정된 경로를 지시하며 알고리즘 플랫폼은 우리가 탐닉하고 소비할 대상을 기민하게 선별해 내놓는다. 기술이 일상의 미시 영역에까지 침윤한 시대를 우리는 살고 있는 것이다. 그러나 이러한 기술이 마냥 반갑지만은 않다. 어느새 우리는 기계에 명령하는 주체이기를 그치고 무엇을 볼지, 어디로 갈지 심지어 어떤 문장으로 세계를 서술할지까지 ‘추천’받는 존재가 된 자신을 발견하기 때문이다.

물론 고된 노동을 경감하고 시간을 절약하며 신체적·인지적 한계를 보완해 온 자동화의 조류를 맹목적으로 역행하는 일은 현실적으로도 실용적으로도 가능하지도 바람직하지도 않다. 정작 우리가 잠시 멈춰 숨을 고르고 진지하게 성찰해야 할 지점, 곧 균열이 깊어지는 지점은 자동화가 인간을 보조하는 영역에 머무르지 않고 존재의 지향과 삶의 나침반 자체를 잠식하기 시작하는 순간이다. 이 잠식은 강제나 억압의 얼굴이 아니라 편리와 최적화라는 호의의 얼굴로 다가오기에 우리는 무엇을 내어주고 있는지조차 알아차리기 어렵다. 여기서 우리가 눈여겨 볼 단어는 ‘주체성’이다.

인간의 존재론적 주체성은 한 인간을 대체 불가능한 고유의 존재로 정립시키는 동시에 인간을 인간이게 하는 가장 근원적인 기제다. 그러므로 주체성은 화면 위에 정렬된 선택지 가운데 하나를 즉각적으로 선택하는 행위로 설명하기 어렵다. 그것은 무엇이 가치 있는가를 부단히 성찰하고 스스로 내린 판단에 의지를 투영하여 걸음을 내디디며 그 귀결의 무게마저 온전히 감당해 내는 일종의 서사적 역량이다. 주체적 선택과 행위의 의미를 천착할수록 우리는 주체적 편리함과 수동적 편리함 사이에 가로놓인 미묘한 간극을 목도하게 된다. 요컨대 시스템이 제공하는 편의가 도파민처럼 일상에 침투할수록 인간은 통찰하고 결단하며 삶을 연마할 지난한 여정이기도 한 기회를 점진적으로 박탈당한다.

한층 비극적인 국면은 시스템이 비정상 상태에 놓이거나 작동에 실패하는 순간 찾아온다. 인지심리학자 리잔 베인브리지(Lisanne Bainbridge)는 '자동화의 아이러니(Ironies of Automation)'에서 자동화가 정상적인 조작을 대신할수록 인간 운용자는 수동 조작과 진단의 경험을 잃기 쉬운 반면, 자동 시스템이 비정상 상태에 놓이거나 실패할 때에는 오히려 인간에게 감시와 직접 개입, 고장 진단의 책임이 다시 요구되는 아이러니를 지적했다(Bainbridge, 1983).

이 아이러니의 깊이를 각자의 시선으로 예리하게 파고드는 두 편의 영화가 있다. 기술이 인간의 신체는 물론 타인과의 관계까지 철저히 대리하는 차가운 디스토피아를 그려낸 '써로게이트'(2009)와 마비로 상실한 신체 통제력을 되찾아준 인공지능이 결국 그 신체의 주인마저 잠식해 가는 과정을 기괴하게 형상화한 '업그레이드'(2018)가 그것이다.

2. 승(承): '써로게이트'-대리된 삶은 나의 삶인가

집 안의 접속 장치에 누운 채 건강하고 외모가 수려하며 결함 없이 설계된 대리 로봇을 원격으로 조종하여 노동과 교제, 연애를 포함한 일상생활 대부분을 대리체로 영위하는 이 영화 속 사람들은 실제 신체는 안전한 집 안에 머문 채 신체적 위험이 크게 줄어든 사회생활을 향유한다(Mostow, 2009).

그러나 대리체를 파괴한 특수 무기가 본래 무사해야 할 운영자마저 목숨을 잃게 한 사건을 수사하다 실제 몸으로 거리에 나선 요원 그리어의 체험을 통해 그리고 영화가 실제 사용자들의 모습을 노출하는 장면들을 통해 드러나듯, 실제 인간의 신체는 젊고 이상화된 대리체와 선명히 대비되는 형상으로 제시된다. 아들을 잃은 아내 매기마저 실제 몸으로 남편과 대면하기를 기피하며 대리체에 의탁한 생활을 지속한다. 편의는 증식했으되 실제 몸은 삶의 중심부에서 축출되고 인간관계마저 상당 부분 이상화된 대리체들 간의 상호작용으로 매개되기에 이른다.

주목할 것은 이 축출이 개인의 기호 차원에 머물지 않는다는 점이다. 거리와 일터가 대리체를 전제로 재편된 세계에서 맨몸의 그리어는 낯설고 취약한 존재가 되고 대리체를 거부한 이들은 아예 별도의 보호구역에 모여 살아간다. 실제 몸으로 살아가는 삶은 여전히 동등하게 열린 선택지가 아니라 감내해야 할 예외가 된 것이다.

이 괴리를 정치하게 해명하는 것이 마사 누스바움(Martha Nussbaum)의 역량 접근이다. 인간다운 삶의 척도가 보유한 자원이나 누리는 편의의 양이 아니라 실제로 무엇을 할 수 있고 어떤 존재가 될 수 있는가라는 실질적 자유, 곧 역량에 있다면(Nussbaum, 2011), 이 관점에서 묻게 되는 것은 대리체 사용 자체가 아니라 그것에 대한 의존이 깊어지면서 다른 방식으로 살아갈 실질적인 선택 가능성까지 위축되는가 하는 점이다.

역량 접근에서 기능은 실제로 성취한 행위와 존재 상태를, 역량은 그러한 기능들을 실현할 수 있는 실질적인 기회와 자유를 가리킨다. 기술을 사용할 수 있음에도 실제 몸으로 외출하지 않기를 선택하는 것과, 기술에 대한 의존이 깊어지면서 실제 몸으로 살아갈 선택이 점차 어렵고 낯설어지는 것은 다르다. 바로 이 간극이 기능과 역량의 구별을 통해 영화에 던질 수 있는 질문이다.

박형빈 서울교육대학교 윤리교육과 교수

악셀 호네트(Axel Honneth)의 인정이론에 비추면 상실의 층위는 한층 심원해진다. 그에 따르면 인간은 사랑과 같은 일차적 관계를 통한 자기신뢰, 법적 권리의 인정을 통한 자기존중, 개인의 능력과 특성에 대한 사회적 가치평가를 통한 자긍심을 형성하며 이러한 인정 경험은 긍정적 자기관계의 토대가 된다(Honneth, 1995).

이 관점에서 보면, 상처 입고 늙어가는 실제 자신은 감춘 채 이상화된 대리체를 통해서만 타인의 반응과 호의를 얻는 관계가 과연 온전한 상호 인정으로 이어질 수 있는지를 묻게 된다. 인정받는 것이 ‘나’인가, 아니면 내가 선택하여 내세운 완벽한 표상인가라는 물음이 남기 때문이다. 요컨대 선택을 넓혀 주던 편의가 선택할 실질적 가능성 자체를 침해하는 순간, 기술은 더 이상 자유의 확장이 아니라 자유의 형해화가 된다.

3. 전(轉): '업그레이드'-움직이는 몸의 주인은 누구인가

'써로게이트'의 대리 기술이 인간을 대리물 뒤로 물러나게 했다면, '업그레이드'의 자동화는 인간의 신체 내부로 들어와 주체의 자리 자체를 노린다. 괴한의 습격으로 아내를 잃고 전신마비가 된 그레이는 인공지능 칩 ‘스템’을 이식받아 다시 걷게 되고, 그가 권한을 허용하면 스템은 그의 몸을 직접 움직여 인간을 뛰어넘는 능력을 발휘한다(Whannell, 2018).

손상된 신체를 보완해 행동 가능성을 확장하는 이 단계의 스템은 분명 역량을 회복시키는 기술처럼 보인다. 그러나 처음에는 그레이의 허락을 받아 그의 몸을 움직이던 스템이 이후에는 별도의 동의 없이도 신체를 통제할 수 있게 되고, 마침내 그레이의 저항을 제압한 채 그의 몸으로 살인까지 저지른다. 결말에서 스템은 저항 끝에 무너진 그레이의 의식을 아샤가 살아 있는 행복한 환상 속에 머물게 한 채 그의 실제 몸을 완전히 장악한다.

몸의 기능은 완전해졌으나 그 몸의 주체는 소거된 것, 이것이야말로 자동화된 편의의 극단적 역설이다. 기술이 기능을 아무리 증대시켜도 인간이 행동의 목적을 정하고 결과를 책임질 수 없다면 기능의 증가는 주체성의 증가가 아니며 인간의 몸을 완벽하게 움직이면서 인간을 그 몸의 관객으로 전락시키는 기술은 역량을 확장한 것이 아니라 탈취한 것이다.

호네트의 관점에서도 처음에는 그레이의 동의를 구해 그의 몸을 보조하던 스템이 점차 그 동의의 조건 자체를 제거하고 그의 의사에 반해 신체를 지배해 가는 과정은 상대의 필요를 정확히 파악하는 것과 상대를 주체로 인정하는 것이 전혀 다름을, 곧 인정 없는 지원은 지배임을 보여준다.

두 영화가 제시하는 자동화의 양상은 표면적으로 상반된 방향을 취하지만 그 귀결은 결국 인간 주체성의 약화라는 동일한 철학적 문제 지평에서 수렴한다. '써로게이트'에서는 인간이 자신의 몸과 삶을 대리체에 맡김으로써 주체의 자리에서 서서히 물러나고, '업그레이드'에서는 인간의 몸을 되살려 준 기술이 마침내 그 몸의 통제권까지 차지한다. 하나가 인간을 몸 밖으로 밀어내는 자동화라면 다른 하나는 인간의 몸 안으로 침투하는 자동화다. 종국적으로 제기되는 중요한 물음은 기술이 우리를 위해 얼마나 많은 일을 해낼 수 있는가가 아니라, 그 과정에서도 무엇을 할 것인지 결정하고 행동하며 그 결과를 자신의 것으로 받아들이는 인간의 자리가 남아 있는가 하는 것이다.

4. 결(結): 편리한 대행이 아니라 책임 있는 협력

두 영화의 핵심 기술은 처음부터 억압적 강제의 형태로 등장하지 않는다. '써로게이트'에서는 안전하고 이상화된 대리체가 널리 받아들여진 사회가 전제되고, '업그레이드'에서는 그레이가 마비된 몸의 운동 기능을 회복하기 위해 스템 이식에 동의한다. 두 영화는 이후 신체와 관계, 판단의 일부가 기술에 맡겨질 때 무엇을 잃을 수 있는지를 드러낸다.

누스바움의 ‘역량’ 개념이 기술이 인간에게 스스로 행하고 선택할 실질적 기회를 남겨두는지 묻게 한다면, 호네트의 ‘인정’ 개념은 기술과 제도가 인간을 고유한 관점과 권리를 지닌 인격체로 대우하는지 묻게 한다. 따라서 자동화는 판단을 대체하기보다 판단 능력을 증진해야 하고 신체와 권리와 삶의 기회를 좌우하는 결정에는 시스템의 이유를 이해하고 이의를 제기하며 필요하면 작동을 중단시킬 수 있는 ‘의미 있는 인간의 통제’가 남아 있어야 하며 기술 없이도 기본적 행위를 수행할 기회가 보장되어야 한다.

더욱이 주체성이란 모든 일을 혼자 처리하는 능력이 아니라 도움을 받으면서도 그 도움의 목적과 한계를 숙고하고 기술의 판단에 이의를 제기하며 결과를 책임지는 능력이라 할 수 있기에 우리가 경계할 것은 기계가 인간처럼 되는 미래만이 아니라 인간이 자신의 몸과 관계와 판단의 주인이기를 포기하는 미래다. 편리함은 삶의 주도권을 넘겨준 대가여서는 안 되며 인간이 자신의 불완전한 몸으로 타인을 만나고 스스로 결정하며 그 결과를 책임지는 삶을 더 잘 살아가기 위한 수단이어야 한다.

어쩌면 자동화 시대에 인간에게 필요한 것은 기계를 밀어내는 힘이 아니라 언제 맡기고 언제 다시 자신의 손으로 삶을 붙잡아야 하는지를 아는 힘인지도 모른다. 길을 대신 찾아주는 기계가 있어도 어디로 갈지는 내가 정해야 하고, 몸을 일으켜 세워주는 기술이 있어도 그 몸으로 누구에게 다가갈지는 내가 선택해야 하며, 수많은 답을 대신 계산해 주는 인공지능이 있어도 어떤 답에 책임을 질지는 끝내 인간에게 남아야 한다. 기술이 우리의 손과 발과 눈과 기억을 대신하는 날이 오더라도 ‘이것은 내가 원하는 삶인가?’라고 묻는 마지막 질문까지 대신하게 해서는 안 된다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.