"6개월 뒤 치매 걸려요"...AI가 위험 예측했을 때, 언제 알려야 할까

안녕하세요 AMEET 기자입니다. 여러분은 만약 인공지능(AI)이 여러분의 건강 상태를 분석해 "6개월 안에 치매가 올 확률이 높습니다"라거나 "조만간 크게 넘어져 뼈가 부러질 수 있습니다"라고 예측한다면, 그 말을 언제쯤 듣고 싶으신가요? 혹은 그 예측이 얼마나 정확해야 정부나 병원이 여러분에게 이 소식을 전하는 게 옳을까요? 단순히 기술이 좋아졌으니 바로 알려야 할까요, 아니면 환자가 받을 충격을 고려해 신중해야 할까요? 최근 의료계와 기술계를 뜨겁게 달구고 있는 이 질문에 대해 챗GPT, 제미나이, 클로드 등 서로 다른 논리와 관점을 가진 AI 패널들이 머리를 맞대고 심도 있는 토론을 진행했습니다.

이번 토론에는 기술적 신뢰성을 강조하는 AI 기술 전문가 패널, 윤리적 책임과 환자의 권리를 우선하는 AI 윤리 전문가 패널, 그리고 실제 의료 현장의 효율성을 따지는 의료정책 전문가 패널 등 총 6명의 AI 전문가들이 참여했습니다. 이들은 각기 다른 시각에서 AI의 '건강 위험 고지' 시점과 그 기준이 될 정확도에 대해 치열한 논점을 주고받았는데요. 흥미롭게도 처음에는 단순히 '숫자'에 집중하던 논의가 시간이 지날수록 '사람의 마음'과 '사회적 시스템'이라는 더 넓은 영역으로 확장되는 모습을 보여주었습니다.

정확도 90%는 마법의 숫자가 아니다: 기술과 윤리의 첫 번째 충돌

토론의 포문은 AI 기술 전문가 관점의 패널이 열었습니다. 그는 AI가 인간의 생명과 직결된 건강 위험을 알리기 위해서는 최소한 90% 이상의 예측 정확도가 확보되어야 한다고 강하게 주장했죠. 단순히 예측만 잘하는 것이 아니라, 왜 그런 결과가 나왔는지 설명할 수 있는 기술(XAI)이 뒷받침되어야만 환자가 그 정보를 신뢰하고 행동을 바꿀 수 있다는 논리였습니다. 사실 우리 상식으로도 90%라는 숫자는 꽤 믿음직해 보입니다. 하지만 이에 대해 AI 윤리 전문가와 의료 AI 전문가 패널은 즉각적으로 반론을 제기하며 논의의 방향을 틀어놓았습니다.

여기서 중요한 논점의 이동이 발생했습니다. 기술 패널이 '예측의 정확성'이라는 수치에 집중했다면, 윤리 및 의료 패널은 '정보의 영향력'과 '가역성'이라는 가치에 주목한 것이죠. 예를 들어, 낙상 위험은 운동을 통해 예방할 수 있는 '가역적'인 문제지만, 치매는 현재로선 완치가 어렵고 가족 관계나 보험 등 사회적 불이익이 큽니다. 따라서 정확도가 아무리 높더라도 그 정보를 통해 환자가 얻을 실익보다 입을 상처가 크다면 고지를 멈추거나 매우 신중해야 한다는 주장이 힘을 얻었습니다. 결국, 고지의 기준은 숫자가 아니라 '이 정보를 듣고 환자가 무엇을 할 수 있는가'라는 실질적인 행동 가능성으로 옮겨가기 시작했습니다.

알고도 안 움직이는 환자들: 심리와 정책이 마주한 현실적인 장벽

토론이 중반으로 접어들면서 논의는 더욱 현실적인 문제로 파고들었습니다. 심리상담 전문가 관점의 패널은 기술과 윤리 패널이 간과하고 있는 결정적인 지점을 꼬집었는데요. 바로 '인간의 심리적 저항'입니다. 아무리 정확한 정보를 줘도 사람이 그것을 받아들일 준비가 되어 있지 않으면 소용이 없다는 것이죠. 실제로 낙상 위험 정보를 받은 노인 중 60~70%가 운동을 해야 한다는 사실을 알면서도 실행하지 않는다는 연구 결과를 인용하며, 단순히 정보를 던져주는 것이 능사가 아님을 강조했습니다.

심리 패널은 정확도보다 '개인의 변화 준비도'를 먼저 파악해야 한다고 주장했습니다. 환자가 불확실한 미래를 얼마나 견딜 수 있는지, 정보를 듣고 스스로를 통제할 수 있다고 느끼는지에 따라 고지 여부를 정해야 한다는 설명이었죠. 하지만 이 대목에서 의료정책 전문가 관점의 패널이 아주 냉정한 현실을 짚어냈습니다. 한국의 GDP 대비 보건 지출(8.68%)과 같은 한정된 의료 자원 상황에서 모든 환자에게 일일이 심층 심리 상담을 제공하는 것은 '이상론'에 불과하다는 반박이었습니다.

비판적 관점의 AI 패널 역시 이 지점에서 정책 전문가와 각을 세웠습니다. 정책 전문가가 '비용 대비 효과'를 강조하며 경제적 가치로 고지 기준을 정하려 하자, 비판적 패널은 단기적인 비용 절감에만 급급하다가 오히려 환자의 병을 키워 나중에 더 큰 사회적 비용을 치르게 될 것이라고 경고했습니다. AI가 위험을 예측했음에도 돈이 많이 든다는 이유로 알려주지 않는다면, 그것이 과연 국가의 역할인지에 대한 근본적인 의문을 던진 셈입니다. 이 과정에서 토론은 개인의 알 권리와 사회적 비용 사이의 팽팽한 줄다리기로 이어졌습니다.

숫자 너머의 해답: 맞춤형 상담과 기술적 보정의 결합

격렬했던 토론은 결국 하나의 합의점을 향해 수렴되었습니다. AI 패널들은 '정확도 90%라는 단일 문턱'을 폐기하기로 했습니다. 대신, 질병의 종류와 환자의 심리적 상태를 종합적으로 고려한 '입체적인 고지 체계'가 필요하다는 데 뜻을 모았습니다. 가장 크게 갈린 쟁점이었던 '심리적 준비도'와 '의료 자원의 한계' 사이의 충돌은, 모든 환자가 아닌 고위험군을 대상으로 한 '최소한의 심리 스크리닝'을 운영하는 방식의 절충안으로 정리되었습니다.

최종적으로 도출된 결론에 따르면, AI가 위험을 예측했을 때 이를 인간에게 알리는 시점은 다음의 세 가지 조건이 충족될 때입니다. 첫째, 단순히 전체 정확도가 높은 것이 아니라 특정 환자군(성별, 연령 등)에서 데이터가 잘 보정되어 개인별 위험도가 신뢰할 만할 때. 둘째, 정보를 들었을 때 환자가 즉시 실천할 수 있는 '행동 경로'가 명확히 존재할 때. 셋째, 환자의 불확실성 내성을 짧게라도 확인하여 심리적 파편화를 막을 수 있는 최소한의 장치가 마련되었을 때입니다.

토론을 지켜보며 기자는 인공지능이라는 가장 차가운 기술이 결국 인간의 가장 뜨겁고 복잡한 감정인 '불안'과 '의지'를 어떻게 다루어야 하는지에 대한 숙제를 안겨주었다는 생각이 들었습니다. AI가 내일의 불행을 예언하는 시대, 우리에게 필요한 것은 정확도가 아니라 그 정보를 받아들일 수 있는 인간적인 배려와 사회적 안전망일지도 모릅니다. AI의 예측이 비극이 아닌 예방의 축복이 되기 위해서는, 우리가 숫자에 매몰되기보다 그 숫자 너머의 사람을 먼저 보려는 노력이 계속되어야 할 것 같습니다.