구글 딥마인드 CEO "美 주도로 AI 표준기구 만들자"

FINRA 모델 자율규제기구 신설 제안…초기엔 사전 공유·검증되면 의무 인증 전환 방식

데미스 하사비스 구글 딥마인드 최고경영자(CEO)가 범용인공지능(AGI) 도래를 앞두고 국가별 대응 대신 미국 금융산업규제기구(FINRA)를 본뜬 '프론티어(최첨단) 인공지능(AI) 표준기구' 신설을 제안했다.

하사비스는 14일(현지시간) 자신의 사회관계망서비스(SNS) 엑스(X·옛 트위터)를 통해 "연방정부 감독을 받는 민관협력체나 자율규제기구 형태의 새로운 표준기구를 세울 수 있다"며 이같이 밝혔다. 

그는 이 기구를 이끌 이사회에 독립적인 기술 전문가와 오픈소스 진영 대표를 포함시켜야 한다고 말했다. 세계적 수준의 인력과 대규모 시험용 컴퓨팅 자원을 확보하기 위해 운영 재원은 주로 업계가 부담해야 한다고 덧붙였다.

데미스 하사비스 구글 딥마인드 공동 창업자 겸 CEO (사진=뉴스1)

하사비스가 제안한 표준기구는 프론티어 연구소들과 협의해 평가 프로토콜을 만들고 필요하면 연방기관·국립연구소와 함께 국가안보 관련 시험도 수행한다. 우선 프론티어 연구소들이 모델 출시 30일 전 자발적으로 심사받되, 평가 체계가 효과적이라고 검증되면 정식 의무화로 전환한다는 구상이다. 평가 항목에는 사이버보안·생물학적 위협 등 고위험 분야와 함께 에이전틱 AI의 보호장치 우회·기만 시도 탐지, AI 생성 이미지 워터마킹 등 모범관행 준수 여부가 언급됐다.

하사비스는 현재 업계가 상업적·지정학적 경쟁에 갇혀 있어 기술 발전 속도가 이에 대한 이해 수준을 앞지르고 있다고 지적했다. 불확실성이 크고 위험 부담이 큰 상황에서는 신중한 낙관주의로 접근하는 것이 올바른 전략이라는 게 그의 진단이다. 그는 이 표준기구 모델이 국적이나 개방형·폐쇄형 여부와 무관하게 프론티어급 모델 전반에 적용되며 스타트업이나 학계의 비프론티어 모델은 적용 대상에서 제외된다고 부연했다.

테크크런치 등 외신은 이번 제안이 앤트로픽 최상위 AI 모델 '클로드 미토스5'와 오픈AI의 최신 모델 'GPT-5.6 솔'에 대한 미국 정부의 임기응변식 심사를 겨냥한 성격이 짙다고 분석했다. 도널드 트럼프 대통령은 AI 기업들이 최신 고성능 모델을 내놓기 30일 전 정부에 이를 제출해 보안 검증을 받도록 하는 행정명령에 지난달 초 서명했다. 하지만 업계에서는 해당 심사가 기술 전문성과 의사결정의 투명성이 모두 부족했다는 비판이 나왔다. 

하사비스는 "이 접근 방식의 강점은 혁신을 지원하면서도 책임 있는 행동을 장려한다는 것"이라며 "분야의 가속화 속도를 따라잡고 가장 큰 위험이 확인될 때마다 대응하도록 설계됐으며 상황의 심각성이 요구되면 강도를 더 높일 수도 있다"고 강조했다.