앤트로픽 "윤리적인 고성능 AI, 방법은 헌법적AI"

앤트로픽이 인공지능(AI)의 급속한 발전 속 잠재적 위험을 관리하기 위한 방안으로 ‘헌법적AI(Constitutional AI)'를 제시했다.

헌법이나 UN 인권 선언처럼 인간의 가치와 윤리를 기반으로 한 문서를 구축해 AI가 학습하거나 피드백하는 과정에서 사회적 가치와 윤리적 기준을 반영하도록 설계하는 방식이다.

10일(현지시간) 앤트로픽의 라킨 라이더 규정준수 총괄은 미국 필라델피아에서 개최한 AWS 2024 리인포스에서 “헌법적AI는 AI의 안전성을 극대화하는 동시에, 기술의 잠재력을 최대한 활용하려는 산업의 요구를 충족하기 위해 개발한 기술”이라고 소개했다.

앤트로픽은 오픈AI의 중요 경쟁자 중 하나로 꼽히는 AI전문 기업이다. 최신 AI 모델인 클로드3는 텍스트 생성, 번역, 요약, 질문 답변 등 다양한 업무를 수행할 수 있으며, 말투나 대화 방식까지 자연스럽게 변경할 수 있는 높은 수준의 성능을 보여준다.

또한, 안전성과 윤리성을 고려해 훈련되었으며, 텍스트 생성 시 유해하거나 불쾌한 내용을 필터링하거나 원치 않는 주제나 내용을 제외하도록 설정할 수 있다.

라킨 라이더 총괄은 앤트로픽이 AI 안전 연구에 중점을 두고 있으며, 정책 결정자들과 협력을 통해 AI 관리 방안을 개선하고 기술을 연구 중이라고 소개했다.

그는 “헌법적AI는 이러한 연구를 통해 개발된 기술로 인간의 윤리적 가치를 AI 시스템에 직접 통합하려는 새로운 접근 방식”이라며 “대규모 학습 과정에서도 사전에 마련된 원칙에 따라 AI의 행동을 유익한 결과로 유도하도록 설계된 만큼 데이터 오염이나 악의적 사용자 행동 등을 막기 위한 제약을 최소화할 수 있다”고 설명했다.

헌법적AI는 헌법처럼 사전에 마련된 원칙을 기반으로 AI를 학습하고 운영할 수 있는 만큼 보다 안정적이고 윤리적인 문제 등에 제한 없이 활용할 수 있다.

제약기업인 화이자는 앤트로픽의 AI 모델을 활용하여 의료 데이터 분석의 시간을 대폭 단축했다. 환자의 실험실 보고서를 전체 종양학 데이터베이스와 신속하게 비교 분석하는 것이 가능해지며, 몇 달이 걸리던 진단 및 치료 계획의 수립 작업을 며칠로 줄였다. 이러한 기술의 발전으로 환자 치료의 효율성을 향상할 수 있었다.

배달 전문기업인 도어대시는 AI를 이용한 챗봇 서비스로 고객 서비스의 응답 시간을 50% 단축했다. 또한, 여행 전문 기업인 론리 플래닛은 사용자가 이전에 즐겼던 활동과 선호도를 기반으로 AI를 학습해 개인화된 여행 계획 생성 비용을 80% 줄일 수 있었다.

라킨 라이더는 “도어대시 같은 고객 서비스 기업은 응답 시간의 단축이 직접적으로 고객 만족도와 수익 증가로 이어진다”며 “AI를 활용한 실시간으로 고객 질의는 실적으로 직접적인 연관이 발생하게 된다”고 설명했다.

그는 헌법적AI를 개발하는 과정이 AI 기술의 안전한 발전과 사회적 책임의 중요성을 재확인하는 계기가 되었다고 밝혔다. 더불어 IT 기업들이 함께 윤리적이고 책임감 있는 기술 개발에 나서야 한다고 촉구하며 이번 기술 연구를 지원한 대표적인 파트너사로 아마존웹서비스(AWS)를 소개했다.