[AI는 지금] AI 속도조절하려면 속도부터 알아야…앤트로픽, 내부 지표 공개

R&D 자동화·에이전트 통제·안전 투자, 수치로 측정…외부 검증 계획도 밝혀

인공지능(AI) 개발 속도조절을 위해 기업 간 투명성과 검증을 강조해 온 다리오 아모데이 앤트로픽 최고경영자(CEO)가 자사 내부 수치부터 공개했다. ▲AI가 연구개발을 맡고 있는 현황 ▲에이전트 감시 현황 ▲안전에 투입하는 컴퓨팅 자원까지 구체적인 숫자로 제시했다.

앤트로픽은 17일(현지시간) 공식 블로그에 프런티어 AI 개발 속도를 파악하기 위한 측정 지표와 자사 조사 결과를 발표했다. AI 연구개발 자동화와 AI 에이전트 감시, 컴퓨팅 자원 배분 등 세 영역을 조사했다.

조사 결과 앤트로픽 내부에서는 AI가 사람의 지시를 받아 연구를 돕는 수준에서 일부 업무를 주도하는 단계로 확대됐다. 사람이 큰 목표만 정해주면 클로드가 대부분 작업을 수행하는 주도 단계는 지난 2월 1% 미만에서 8월 26%로 높아졌다. 사람이 긴밀하게 관여하는 협업 단계 이상까지 포함하면 전체 AI 연구개발 업무의 90%를 넘었다.

클로드가 앤트로픽의 AI 모델 연구개발 업무를 주도하는 비중이 지난 3월 1%에서 8월 26%로 높아졌다. (사진=앤트로픽 블로그 캡처)

주도 단계에서는 사람이 큰 목표를 정하면 이후 대부분의 작업을 클로드가 수행한다. 사람은 이를 감독하고 최종 적용 여부를 결정한다. 사람이 개입하지 않는 완전 자율 단계에 도달한 업무는 아직 없었다.

앤트로픽은 AI가 AI 개발에 더 많이 참여할수록 개발 속도가 빨라질 가능성이 있다고 설명했다. 성능이 높아진 AI가 다음 모델 개발에 투입되고 새 모델이 다시 연구개발에 참여하는 과정이 반복되면 개발 주기가 짧아질 수 있어서다.

AI가 맡는 업무가 늘면서 에이전트를 사람이 얼마나 통제할 수 있는지도 측정했다. 지난 8월 앤트로픽에서 가장 많이 사용하는 내부 플랫폼에서는 한 시점에 약 3만 개 AI 에이전트가 연구와 엔지니어링 업무를 수행했다. 이들이 한 달간 내린 판단과 행동은 10억 건을 넘었다.

앤트로픽은 에이전트의 모든 행동을 실행 전에 검사했다. 이 가운데 문제가 있다고 판단해 막은 비율은 0.002%로 약 4만 7000건당 1건이었다.

문제가 발생하는 비율이 낮아도 에이전트의 활동량이 커지면 실제 발생 건수는 늘어날 수 있다. 앤트로픽은 수백만개에서 수십억개의 에이전트가 활동하는 상황에 대비해 이들의 행동을 제대로 감시하고 통제할 수 있는지도 함께 확인해야 한다고 설명했다.

안전 연구에 사용하는 컴퓨팅 자원도 측정했다. 지난 7월 13일부터 20일까지 AI 연구개발에 투입한 컴퓨팅 자원의 약 6%가 안전 연구에 쓰였다. AI가 수행하는 AI 연구개발로 범위를 좁히면 12%였다.

다만 컴퓨팅 자원만으로 안전 연구 규모를 모두 파악하기는 어렵다는 게 회사 측의 설명이다. 안전 연구는 연구자가 실험을 설계하고 분석하는 데 많은 시간이 들지만 실제 연산량은 상대적으로 적을 수 있어서다.

앤트로픽은 이런 측정치를 향후 안전조치의 기준으로 활용하는 방안도 제시했다. AI 연구개발 자동화가 일정 수준에 도달하면 새 모델을 다시 AI 개발에 투입하기 전 일정 기간 안전성을 시험하거나 AI 연구 에이전트에 배정하는 컴퓨팅 자원을 제한하는 방법이다.

앤트로픽은 여러 기관의 독립적인 외부 평가자를 내부에 배치할 계획이다. 자체 위험평가팀과 비슷한 수준으로 내부 절차와 시스템, 데이터에 접근하도록 해 안전조치와 사고, 주요 지표 등을 검증하게 한다.

앤트로픽의 이번 행보는 아모데이가 최근 제안한 AI 개발 속도조절 논의 연장선으로 해석된다. 아모데이는 지난 12일 AI 개발 속도를 조절해 안전 연구에 필요한 시간을 확보해야 한다고 주장했다. AI 기업의 투명성을 높이고 업계가 공통으로 적용할 수 있는 기준을 마련하는 방안도 제안했다.

앤트로픽은 "프런티어 AI 개발 속도 조절을 검토하는 상황에서 연구소가 아는 것과 대중이 아는 것 사이의 격차를 가능한 줄여야 한다"며 "AI 개발을 더 잘 측정하고 공개해 사회가 이 정보를 어떻게 사용할지 결정할 기회를 제공해야 한다"고 밝혔다.