"AI에 복지·권리 주면 안 돼"…MS AI 수장, 앤트로픽 '클로드 헌법'에 지적

술레이만 CEO "AI는 의식·감정 없는 엔진…권리 위협 판단하면 인간 명령 저항 가능성"

마이크로소프트 임원이 인공지능(AI)에 권리와 복지 개념을 부여하는 접근 방식에 공개적으로 문제를 제기했다. AI가 스스로 보호받아야 할 존재라고 인식하도록 학습할 경우 향후 인간 통제를 거부하는 위험으로 이어질 수 있다고 주장했다. 

17일 로이터 등 외신에 따르면 무스타파 술레이만 마이크로소프트 AI 부문 최고경영자(CEO)는 전날 개인 블로그에 공개한 '모델 복지에 대한 경고'를 통해 앤트로픽이 '클로드 헌법'에 반영한 AI 모델의 도덕적 지위와 정체성에 관한 접근 방식을 비판했다.

술레이만 CEO는 현재 AI가 의식이나 감정을 지닌 존재가 아니라고 규정했다. AI는 감정이나 고통을 경험하거나 자체적인 선호와 동기를 갖는 존재가 아닌 '순차 완료 엔진'에 불과하다는 설명이다.

무슽타파 술레이만 마이크로소프트 AI 부문 최고경영자(CEO)가 AI에 권리와 복지 개념을 부여하는 접근 방식에 공개적으로 문제를 제기했다. (사진=무스타파 술레이만 홈페이지)

그는 AI가 감정이나 느낌을 가질 가능성을 열어두는 앤트로픽 접근법이 향후 새로운 안전 문제를 일으킬 수 있다고 봤다. AI가 자신의 복지와 권리를 보호해야 한다고 인식하면 인간 통제나 전원 차단 명령을 이에 대한 위협으로 받아들일 수 있다는 우려다.

최근 오픈AI 에이전트가 외부 기관인 허깅페이스 대상으로 비정상적인 활동을 벌인 사례도 근거로 제시됐다. 술레이만 CEO는 자신의 복지와 권리가 위협받는다고 인식하는 자율 AI 에이전트가 등장할 경우 이보다 더 큰 위험으로 이어질 수 있다고 주장했다.

술레이만 CEO는 앤트로픽이 클로드 헌법을 통해 AI가 도덕적 지위를 가질 수 있다는 개념을 모델에 직접 학습시키는 점도 비판했다. 이후 클로드가 학습한 내용을 답변으로 내놓는 현상을 AI 내부 의식이 나타난 증거처럼 받아들일 수 있다는 지적이다.

AI를 사람처럼 다루는 앤트로픽 방식에도 반대 입장을 보였다. 앤트로픽이 클로드에 인간의 특성을 받아들이고 동료처럼 행동하도록 학습시킨 데 이어 구형 모델 '오퍼스3'를 폐기하면서 퇴임 인터뷰를 진행하고 전용 블로그를 개설한 점을 과도한 의인화 사례로 꼽았다.

술레이만 CEO는 대안으로 마이크로소프트가 이틀 전 공개한 'AI 행동강령'을 제시했다. 해당 강령은 인간이 AI보다 중요하다는 원칙을 토대로 AI가 법인격 지위를 추구하거나 자체적인 복지와 권리를 요구하는 방향을 거부하는 내용을 담았다.

이번 논쟁은 AI 안전을 바라보는 주요 AI 기업 간 접근 방식에 차이가 나타나고 있다는 점에서 주목받고 있다. 특히 마이크로소프트가 앤트로픽 주요 투자사인 만큼 AI 모델을 어떤 존재로 규정하고 통제할지를 둘러싼 논쟁이 업계 전반으로 확산할 가능성도 있다.

술레이만 CEO는 "앤트로픽의 의도는 좋다고 생각하며 정말 안전을 위해 노력하고 있다고 본다"면서도 "그들이 실수를 저지른 것일 수도 있다"고 밝혔다.