[영화 속 AI윤리] 예측이 죄를 앞서 말할 때...정의인가 폭력인가

<1> 기(起): 아직 일어나지 않은 죄를 처벌할 수 있는가?

스티븐 스필버그의 '마이너리티 리포트'(2002)는 미래 예측이 인간의 삶을 어디까지 규정할 수 있는가라는 불편한 질문을 던진다. 영화 속 프리크라임(PreCrime) 부서는 세 명의 예지자, 곧 프리코그(Precogs)의 살인 예지를 토대로 범죄가 일어나기 전 용의자를 체포한다. 엄밀히 말해, 이 영화의 예측 장치는 오늘날의 AI 알고리즘 그 자체가 아니다. 그러나 프리코그의 예지가 제도적 판단으로 굳어지는 과정은, 예측 모델과 위험 점수가 인간을 먼저 규정할 수 있는 오늘의 AI 윤리 문제를 날카롭게 비춘다.

문제는 “미래를 맞힐 수 있는가”에만 있지 않다. 더 근본적인 쟁점은 예측이 확정된 사실처럼 받아들여질 때, 인간이 여전히 선택의 주체로 남을 수 있는가 하는 데 있다. 아직 아무 일도 하지 않은 사람은 곧 그렇게 할 사람으로 분류된다. 한 개인의 구체적 삶은 잠재적 위험의 목록으로 축소된다. 그 순간 죄는 행위의 결과가 아니라 분류의 산물이 되고, 정의는 인간을 판단하기보다 시스템이 산출한 가능성을 집행하는 장치가 된다.

<2> 승(承): 예언은 경고인가, 판결인가?

그리스 신화의 카산드라는 미래를 내다보았지만 누구도 그녀의 말을 믿지 않았다. 반대로 '마이너리티 리포트'의 세계에서는 예측이 지나치게 쉽게 믿어진다. 숙고와 검증을 거쳐야 할 예지가 행정 절차처럼 작동하고, 인간의 삶은 반론하기 어려운 확률의 언어로 굳어진다. 믿어지지 않는 예언도 비극을 낳지만, 지나치게 빨리 믿어지는 예측 또한 다른 비극을 낳는다. 두 경우 모두 인간은 판단의 주체가 아니라 판단의 대상이 된다.

오이디푸스 신화는 예언을 피하려는 시도가 오히려 예언을 완성하는 역설을 보여 준다. 운명을 벗어나려는 몸부림이 운명의 일부가 되는 것이다. 프리크라임 체계가 불길한 까닭도 여기에 있다. 그것은 미래를 알려 주는 듯 보이지만, 실제로는 그 미래로부터 벗어날 여지를 좁힌다. “너는 그렇게 될 것이다”라는 말은 어느 순간 “너는 이미 그런 존재다”라는 판결로 변한다. 예측은 경고가 아니라 선고가 되고, 예방은 보호가 아니라 선제적 구금의 논리로 기울어진다.

그러나 성경의 예언은 다른 윤리적 구조를 보여 준다. 요나가 니느웨의 멸망을 외쳤을 때, 그 말은 파멸을 확정하는 통보가 아니었다. 니느웨 사람들은 금식하고 회개했으며, 재앙은 거두어졌다. 창세기에서 가인에게 주어진 말씀도 같은 방향을 가리킨다. “죄가 문에 엎드려 있느니라 죄가 너를 원하나 너는 죄를 다스릴지니라”(창 4:7). 여기서 악은 이미 닫힌 운명이 아니라 인간이 맞서고 넘어설 수 있는 가능성으로 제시된다. 성경적 예언은 인간을 운명에 가두기보다 책임과 돌이킴의 시간을 연다.

이 지점에서 오늘날 예측 시스템의 윤리를 다시 물어야 한다. 위험을 감지하는 일은 필요할 수 있다. 그러나 위험의 감지가 인간에 대한 최종 규정이 되어서는 안 된다. 예측은 판결이 아니라 참고 정보여야 한다. 가능성은 주의의 이유일 수 있으나 죄의 증거가 될 수는 없다. 인간은 과거 데이터의 평균값이 아니라 그 데이터를 넘어서는 결단을 내릴 수 있는 존재다. 실패할 수 있으나 바뀔 수도 있고, 흔들릴 수 있으나 다시 시작할 수도 있다.

<3> 전(轉): 알고리즘은 왜 인간의 '시작할 능력'을 두려워하는가?

한나 아렌트는 인간 행위의 본질을 새로운 시작의 능력에서 찾았다. '인간의 조건'에서 그녀는 탄생성(natality)을 인간 행위와 자유의 조건으로 설명했다. 인간이 태어난다는 것은 생물학적 사건에 그치지 않는다. 그것은 이전에 없던 가능성이 세계 안으로 들어오는 사건이다. 인간은 주어진 조건의 산물이지만, 동시에 그 조건을 넘어 예상하지 못한 일을 시작할 수 있는 존재다(Arendt, 1958). 이 관점에서 자유는 과거의 기록으로 전부 환원되지 않는 능력과 연결된다.

아렌트의 행위론을 오늘의 예측 기술에 비추어 보면 문제는 더욱 분명해진다. 알고리즘은 과거의 패턴을 바탕으로 미래의 행동을 추정할 수 있다. 그러나 그 추정이 인간 전체를 설명하는 결론이 될 수는 없다. 데이터가 보여 주는 것은 경향이지 운명이 아니다. 위험 점수가 높다고 해서 개인의 선택 가능성이 사라지는 것은 아니다. 기술이 그 가능성을 미리 봉인하려 할수록, 인간은 더욱 강하게 그 여백을 지켜야 한다.

미셸 푸코는 근대 권력이 인간을 다루는 방식을 다른 각도에서 분석했다. '감시와 처벌'에서 그는 권력이 금지와 처벌에만 머무르지 않고, 관찰하고 분류하며 정상과 비정상의 경계를 생산한다고 보았다. 파놉티콘은 이 규율 권력의 압축된 형상이다. 감시받을 수 있다는 가능성만으로도 사람은 스스로를 규율하게 된다. 푸코가 말한 규율 권력은 행위를 처벌하는 데서 그치지 않고, 인간을 특정한 유형의 대상으로 만들어 낸다(Foucault, 1975/1977).

이 논리를 예측 알고리즘의 환경에 적용하면 문제는 선명해진다. 알고리즘은 과거의 데이터를 학습해 정상 범위를 설정하고, 그 범위에서 벗어난 사람을 위험으로 표시할 수 있다. 그 결과 인간은 자신의 실제 행위보다 먼저, 자신이 속한 집단이나 통계적 패턴에 의해 읽힌다. 특정 지역, 계층, 이력, 행동 양식이 위험 신호로 변환될 때, 개인은 고유한 삶이 아니라 의심의 묶음으로 취급될 수 있다. 그렇게 되면 정의는 개별 사정을 섬세하게 판단하는 과정이 아니라 통계적 의심을 배분하는 기술로 축소된다.

아렌트와 푸코는 출발점이 다르다. 아렌트는 인간의 자유와 시작 능력을 말하고, 푸코는 권력이 인간을 분류하고 통제하는 방식을 드러낸다. 그러나 두 사유는 한곳에서 만난다. 인간을 측정 가능한 대상으로만 고정하는 기술과 제도는, 효율과 안전을 내세우더라도 인간 존재의 핵심을 잠식할 수 있다. 사람이 예측 가능한 객체로만 남게 될 때, 책임과 자유, 후회와 회복의 공간은 좁아진다.

<4> 결(結): 정의는 미래를 닫는 기술이 아니라 다시 시작할 기회를 여는 제도다

AI 윤리의 관점에서도 같은 문제가 반복된다. AI는 인간의 감정, 도덕 판단, 위험 징후를 분석하는 강력한 도구가 될 수 있다. 그러나 도덕성은 계산 가능한 정보의 배열로만 구성되지 않는다. 인간의 판단에는 정서, 맥락, 기억, 관계, 책임의 감각이 함께 작동한다. 그러므로 AI가 인간을 이해하는 것처럼 보일 때에도, 그것이 실제 인간의 도덕적 삶 전체를 파악한다고 말할 수는 없다(박형빈, 2024; 박형빈, 2025).

물론 예측 기술 자체를 모두 거부할 수는 없다. 범죄 위험을 낮추고 사고를 예방하기 위한 분석은 공공의 목적에 따라 제한적으로 활용될 수 있다. 그러나 예측이 예측으로 머무를 때와 그것이 판결처럼 작동할 때 사이에는 결정적인 차이가 있다. 전자는 보조 자료이지만, 후자는 인간을 미리 규정하는 장치가 된다. 문제는 기술의 존재가 아니라 기술에 부여된 지위다. 예측은 인간의 판단을 돕는 자료여야지, 반론할 수 없는 신탁이 되어서는 안 된다.

'마이너리티 리포트'가 남기는 물음은 결국 이것이 아닐까. 안전을 위해 자유를 어디까지 양도할 것인가만이 문제가 아니다. 더 깊은 질문은 안전이라는 이름으로 인간을 어떤 존재로 상상할 것인가이다. 인간을 위험 요소의 총합으로 볼 것인가, 아니면 실패할 수 있지만 다시 시작할 수 있는 존재로 볼 것인가. 전자의 사회는 효율적일 수 있으나 차갑다. 후자의 사회는 불완전하지만 인간적이다.