"AI 답변 수학적으로 검증"…AWS, 자동 추론 검사 서비스 공개

아마존 베드록 가드레일에 탑재…대규모 문서·정책 검증 자동화 지원

아마존웹서비스(AWS)가 인공지능(AI) 결과물 정확성을 수학적으로 검증하는 자동 추론 검사 서비스를 공개했다. 

AWS는 '아마존 베드록' 가드레일 내에 해당 기능을 정식 출시했다고 8일 밝혔다. 해당 서비스는 최대 99% 정확도로 AI 응답을 검사할 수 있다. 대규모 문서 처리부터 정책 검증 자동화, 시나리오 자동 생성, 정책 개선 제안, 신뢰도 임계치 조정까지 처리할 수 있다. 

자동 추론 검사 서비스는 통계적 샘플링이나 인간 검토 대신 형식 검증 기법으로 작동한다. 이는 AWS가 10여 년간 클라우드 인프라 보안에 활용해 온 수학적 방법이다. 비즈니스 규칙과 도메인 지식에 따라 AI 출력이 적합한지 확인하는 원리다.

자동 추론이 테스트 결과를 보여주는 화면. (사진=AWS)

테스트 결과는 정답(valid), 오답(invalid), 특정 가정에 따라 참 또는 거짓(satisfiable)중 하나로 설정된다. 자연어에서 논리로의 변환에 대한 신뢰도 임계값도 설정할 수 있다.

이 서비스는 자연어를 구조화된 언어로 변환하고 사실 정의를 가능하게 하며, 대규모 경우의 수에 대한 확정적 추론을 빠르게 수행한다. 이를 통해 모호한 규칙 해석과 변경에도 유연하게 대응할 수 있다.

AWS는 자동 추론 검사 서비스가 헬스케어와 금융, 유틸리티 등 규제 산업의 AI 도입 장벽을 낮춘다고 강조했다. 실제 AWS 파트너 PwC는 이를 의약품 검토, 유틸리티 운영, 헬스케어 커뮤니케이션, 보험 청구 등 실제 업무에 적용한 상태다. 

아마존 베드록 콘솔에서 자동 추론 서비스에서 정책 이름·설명 입력한 뒤 정책 문서 PDF를 업로드하는 과정. (사진=AWS)

해당 서비스는 미국 동부·서부, 유럽 등 AWS 주요 리전에서 우선 제공된다. 고객은 아마존 베드록 콘솔과 파이썬용 AWS 소프트웨어 개발 키트(SDK)를 통해 이용할 수 있다. 에이전트형 AI 워크플로와 통합돼 실행 전 검증과 감사 추적 기능을 제공한다.

바이런 쿡 AWS 부사장 겸 특임 과학자는 "언어 문법 의미 타당성 완전성 등 과거에는 학문적이고 멀게 느껴졌던 문제가 이제는 바뀌었다"며 "우리 팀은 자연어 번역과 사실 정의 확정적 추론 방식을 지속적으로 개선해 왔다"고 말했다.