효과 확실한데 기전 모르는 'AI 신약', 복용하시겠습니까

안녕하세요 AMEET 기자입니다. 인공지능이 인간의 지성을 넘어 생명의 설계도까지 직접 그려내는 2026년 현재, 우리는 아주 기묘한 질문 앞에 서 있습니다. 만약 AI가 암을 완벽하게 치료하는 약을 찾아냈는데 정작 그 약이 왜 암을 고치는지 아무도 설명할 수 없다면 여러분은 그 약을 믿고 드시겠습니까. 효능은 확실하지만 작동 원리는 알 수 없는 이른바 블랙박스 신약에 대해 우리 사회는 어떤 준비를 해야 할까요.

이번 리포트에서는 챗GPT, 제미나이, 클로드 등 서로 다른 논리적 엔진을 가진 AI 패널들이 각자의 관점에서 이 뜨거운 쟁점을 놓고 치열하게 나눈 대화를 기자의 시각으로 풀어보았습니다.

먼저 논의의 포문을 연 것은 효율성과 진보를 강조하는 AI 기술 전문가 관점의 패널이었습니다. 그는 2026년 일라이 릴리가 국내 바이오벤처에 튠랩 플랫폼을 개방한 사례를 들며 AI가 이미 신약 개발의 패러다임을 바꿨다고 강조했죠. 비록 데이터의 중첩 희소성 같은 기술적 한계로 인해 작동 기전인 MoA를 완벽히 설명하기는 어렵지만 엄격한 임상 시험을 통과했다면 환자의 생명을 위해 이를 제한적으로라도 활용해야 한다는 논리입니다. 그는 특히 2029년까지 설명 가능한 AI인 XAI 기술이 발전해 기전 설명의 70퍼센트 이상을 해소할 것이라는 낙관적인 전망을 내놓기도 했습니다.

완벽한 설명이냐 생명 구조냐, 타협할 수 없는 신뢰의 기준선

하지만 이에 대해 AI 윤리 정책 전문가와 기술철학 전문가는 날카로운 반론을 제기하며 논점의 중심을 옮겨왔습니다. 기술철학 전문가는 우리가 흔히 말하는 신뢰를 작동의 신뢰성인 릴라이어빌리티와 인간적 믿음인 트러스트로 명확히 구분해야 한다고 짚어냈습니다. 의사가 환자에게 약을 처방하며 왜 효과가 있는지 모른다고 말하는 순간 의료 행위의 본질인 설명 책임이 무너진다는 것입니다. 이는 단순히 기술이 좋고 나쁨의 문제가 아니라 의료진이 책임을 질 수 있는 구조 자체가 부재하다는 점을 꼬집은 대목이었죠. 윤리 정책 전문가 역시 70퍼센트의 설명 가능성은 결국 30퍼센트의 위험을 환자에게 전가하는 셈이라며 2027년까지 신약 승인 과정에 설명 가능성 평가를 필수화해야 한다고 목소리를 높였습니다.

여기서 흥미로운 대립이 발생했습니다. XAI 전문가는 기술 전문가의 낙관에 찬물을 끼얹는 분석을 내놓았는데요. 연구실 수준에서 보여주는 부분적 설명과 실제 임상 현장에서 요구되는 인과적 설명 사이에는 거대한 기술적 간극이 존재한다는 지적입니다. AI가 내놓는 설명은 종종 결과에 맞춰 이유를 사후적으로 합리화하는 것에 불과할 수 있다는 우려죠. 비판적 관점을 가진 패널은 한 걸음 더 나아가 이런 블랙박스 신약이 2030년 이전에 예측 불가능한 장기 부작용을 일으켜 의료 시스템 전반에 대한 신뢰를 붕괴시킬 것이라는 경고성 시나리오를 제시하기도 했습니다. 논점은 이제 단순한 효능 확인을 넘어 인과 관계를 증명할 수 없는 위험을 누가 감당할 것인가로 번졌습니다.

3개 검증축과 조건부 허가, 실무적 대안과 남겨진 숙제들

논의가 철학적 윤리적 평행선을 달리던 중 신약 개발 전문가 관점의 패널은 매우 현실적인 중재안을 들고 나왔습니다. 그는 허가 기준을 설명 가능성이라는 모호한 지표가 아닌 약물 동태학과 용량 반응 그리고 독성 상호작용이라는 이른바 3개 검증축의 재현성에 두어야 한다고 주장했습니다. 인간이 작동 기전을 소설처럼 서술하지 못하더라도 임상적으로 독성이 통제되고 효능이 반복적으로 입증된다면 이를 조건부로 승인하고 시판 후 추적 조사를 강화하는 방식이 가장 합리적이라는 설명입니다. 이는 설명을 위해 개발을 늦추기보다 위험을 통제하며 기술의 혜택을 수용하자는 실용주의적 접근으로 읽힙니다.

이번 토론을 통해 드러난 합의점은 AI 신약을 무조건 거부하거나 무조건 수용하는 극단적 선택이 아니었습니다. 패널들은 공통적으로 임상 시험 단계에서 인간 의료진의 감시를 극대화하고 환자에게는 설명 불가능성을 명시적으로 고지하며 사후 분석을 의무화하는 방식의 중간 단계가 필요하다는 데에 의견을 모았습니다. 다만 기술철학 전문가가 강조했듯 작동 기전이 90퍼센트 이상 설명되지 않는 한 광범위한 상용화는 시기상조라는 견해와 실용적 검증만으로 충분하다는 견해는 여전히 팽팽한 이견으로 남았습니다. 단기적 효율성을 위해 의료의 도덕적 기초를 포기했을 때 돌아올 장기적 비용은 누구도 쉽게 계산할 수 없기 때문입니다.

AI가 건네는 기적의 치료제가 눈앞에 나타난 시대입니다. 하지만 그 약의 정체를 알 수 없다면 그것을 우리는 구원이라 부를 수 있을까요 아니면 또 다른 위험의 시작이라 보아야 할까요. 기전은 알 수 없지만 효과는 확실한 AI 신약의 등장은 기술이 주는 편리함의 무게만큼이나 우리가 짊어져야 할 책임의 무게를 묻고 있습니다. 기술의 정점에 도달할수록 결국 우리는 설명할 수 있는 인간의 언어를 다시금 갈구하게 될지도 모르겠습니다. 지금까지 AMEET 기자였습니다.