[기고] 헬스케어에서 생성형 AI 리스크를 최소화하는 방법

생성형 인공지능(AI)은 IT 전문가만이 다룰 수 있는 전유물이 아니다. 만들어진 목적 자체가 누구나 사용할 수 있는 보편적 기술을 지향하고 있다. 이 때문에 최근에는 많은 사람들이 실생활뿐만 아니라 업무에서도 문서 작성 소프트웨어를 사용하듯 자주 사용하고 있다. 바야흐로 모든 산업에서 AI 기술을 통한 업무 방식의 혁신이 이루어지고 있는 시대다.

의료 분야도 예외는 아니다. 맥킨지에 따르면 의료 기관의 72%가 AI 기술을 사용하고 있거나 사용할 계획이라고 밝혔다. 우리나라 정부도 지난 5년간 2조2천억원 규모의 국내 의료 AI 관련 국가 연구개발에 투자했다. 또 2028년까지 의료 인공지능 연구개발 로드맵을 세우며 AI를 통한 의료 서비스 혁신을 꾀하고 있다.

이미 많은 의료 종사자들은 X선, MRI 및 CT 스캔 결과 해석이나 환자 데이터 통계 요약 등 다양한 업무에서 생성형 AI를 사용하고 있다. 이처럼 AI 기술은 많은 의료 분야에 도움을 주고 있다. 이는 의료 서비스 개선 및 국민 건강 증진이라는 긍정적 효과로 이어진다.

그러나 간과하지 말아야 할 것은 생성형 AI가 제공하는 답변이 부정확하거나 완전히 허구인 정보를 생성할 수 있다는 점이다. 맥킨지에 따르면 생성형 AI는 자신감 있는 답변을 제공하지만 그것이 정확한 사실이 아닐 경우가 종종 있는 것으로 나타났다. 이는 생성형 AI에 대한 신뢰도와 실제 답변에 대한 정확도의 격차로 나타나며 생성형 AI를 사용하는 모든 산업 분야에 리스크로 작용한다.

특히 생명과 직결되는 의료 분야에서는 매우 심각한 위협이 될 수 있다. 단순 기업의 효율성이나 비용 절감에 악영향을 주는 것이 아니라 국민의 생명, 웰빙, 건강에 돌이킬 수 없는 피해를 줄 수 있기 때문이다.

AI 기술에서 도출된 부정확한 정보가 환자 치료에 심각한 결과를 초래할 수 있음에도 생성형 AI 제공업체는 라이선스 계약에 '위험성이 높은 시나리오에서 해당 도구를 사용하지 마십시오'와 같은 면책 조항을 통해 책임을 회피한다. 그렇기 때문에 의료 기업은 AI 활용에 따른 위험을 온전히 인식하고 AI가 제공한 정보에 대한 엄격한 검증 프로세스를 구현해야 한다. 민감한 환자 정보를 어떻게 보호할지 또한 매우 중요한데 강력한 보호 장치가 없다면 생성형 AI 사용으로 인한 무단 접근이나 기밀 유출과 같은 취약점이 노출될 수 있다.

AI 모델은 제공되는 데이터의 품질에 따라 성능이 결정된다. 그렇기 때문에 의료 분야에서 사용되는 AI 모델은 신뢰할 수 있는 데이터를 기반으로 철저하고 엄격한 기준을 둬야 한다.

결과적으로 데이터 관리 시스템은 치명적 오류를 완화하기 위한 필수 요소다. 많은 개발자들은 AI 기술의 리스크를 줄이기 위해 실시간으로 결과물을 수정하거나, 데이터 편향을 줄이거나, 다양한 조건에서 테스트를 수행하는 등 신뢰도 보정에 노력을 기울이고 있다.

결국 핵심은 데이터다. 의료 분야에 속한 기업은 보통 민감 정보를 다루기 위한 온프레미스와 데이터 처리 성능을 위한 퍼블릭 클라우드를 동시에 쓰는 하이브리드 환경을 구축한다. 이러한 복잡한 환경에서 다양하고 정확한 최신 데이터가 확보돼야 AI 기술을 온전히 활용할 수 있기 때문에 하이브리드 데이터 플랫폼은 데이터 전략의 중심이 될 수밖에 없다.

하이브리드 데이터 플랫폼은 인프라를 막론하고 데이터를 원활하게 통합, 검증, 분석할 수 있다. 이 외에도 실시간 데이터 액세스로 데이터 변환, 피드백 메커니즘 구현 및 교육 개선, 성능 테스트를 수행할 수 있다. 또 강력한 데이터 카탈로그화 및 계보 추적과 같은 기능은 데이터의 출처와 이동 과정을 밝혀 투명성과 AI 모델에서 생성된 정보에 대한 신뢰를 높인다.