[AI 속도 논쟁②] 빅테크가 정한 AI 안전 기준…스타트업 추격 막을까

업계 "검증 비용에 모델 접근 제한까지 '이중 부담' 지적…한국도 기준에 참여해야"

인공지능(AI) 개발 속도를 늦추자는 주장이 미국과 중국 간 기술 경쟁을 넘어 국내외 스타트업 성장 기회와 맞물린 논쟁으로 번지고 있다. 안전성 확보를 위한 검증 강화와 기술통제가 스타트업 개발 부담을 키울 수 있어서다. AI 위험을 줄이려는 조치가 선도기업의 우위를 굳히는 진입장벽이 될 수 있다는 우려도 나온다.

17일 업계에 따르면 미국과 중국이 AI 안전 기준과 기술통제 방식을 놓고 이견을 보이는 가운데, 관련 조치가 국내외 스타트업의 기술 개발에 미칠 영향도 쟁점으로 떠오르고 있다. 자체 모델 개발사에는 안전 검증 비용이, 외부 모델로 서비스를 만드는 기업에는 안정적인 기술 접근이 주요 변수가 될 수 있다는 점에서다.

이번 논쟁에 불을 붙인 것은 다리오 아모데이 앤트로픽 최고경영자(CEO)의 최근 기고다. 아모데이 CEO는 AI 성능이 빠르게 높아지는 만큼 개발 속도를 조절해 위험을 확인하고 통제할 시간을 확보해야 한다고 주장했다. 이를 위해 외부 평가자가 AI 기업 내부의 안전 조치를 검증하고 국가 간 공통 기준을 마련하자고 제안했다.

다리오 아모데이 앤트로픽 CEO는 AI 기업 내부 안전 조치를 검증하고 국가 간 공통 기준을 마련해야 한다고 주장했다. (사진=위키커먼스)

구체적으로는 AI 모델의 능력이 일정 수준을 넘으면 그에 맞는 안전성을 입증하도록 하는 방안을 제시됐다. 모델이 수행할 수 있는 일이 늘어날수록 위험도 커질 수 있는 만큼 평가와 감사 등을 통해 안전장치가 제대로 작동하는지 확인하자는 취지다.

아모데이 CEO 제안에는 중국의 기술 추격을 억제해야 한다는 주장도 담겼다. 미국 기업이 안전성을 점검하는 동안 중국이 앞서가는 상황을 막기 위해 대중국 반도체 수출통제를 강화해야 한다는 것이다. 미국이 기술 우위를 유지해야 개발 속도를 조절할 여유도 확보할 수 있다는 논리다.

중국은 이를 안전을 명분으로 자국의 AI 발전을 억제하려는 시도로 받아들였다. 지난 14일 중국 관영 환구시보는 아모데이 CEO의 감속 제안을 중국을 겨냥한 냉전식 접근이라고 비판했다. 안전 검증과 경쟁국에 대한 기술통제를 함께 추진하자는 구상이 갈등을 키운 셈이다.

검증 비용에 모델 접근 제한까지…스타트업 부담

안전 기준 영향이 적용 범위에 따라 국내외 스타트업으로 확대될 수 있을 것으로 봤다. (사진=이미지투데이)

업계에서는 안전 기준 강화 영향이 적용 범위에 따라 국내외 스타트업으로 확대될 수 있다고 봤다. 일정 수준 이상 성능을 갖춘 모델에 외부 안전평가와 검증을 의무화하면 해당 모델을 개발하는 스타트업도 관련 인력과 체계를 새로 갖춰야 하기 때문이다.

전문가들은 스타트업이 느낄 가장 큰 부담이 평가 비용 자체보다 내부에 부족한 AI 신뢰성 역량을 단기간에 확보해야 한다는 점이라고 지적했다. 위험 요소 발굴과 데이터 검증, 편향·견고성 측정, 인간 감독 설계, 사고 대응 체계까지 마련하려면 전문인력과 조직 전반의 투자가 필요하다는 설명이다.

박지환 씽크포비엘 대표는 "옆 사람이 쓰러졌을 때 살려야 한다고 생각하는 것은 윤리지만 실제로 사람을 살리려면 심폐소생술이라는 기술이 필요하다"며 "스타트업은 AI 위험을 찾아내고 대응할 수 있는 신뢰성 전문역량을 갖춰야 한다"고 말했다.

이어 "이는 식당이 맛있는 음식을 만드는 능력뿐 아니라 위생을 관리할 설비와 체계, 전문인력까지 갖춰야 영업할 수 있는 것과 같다"며 "그동안 AI 기업들이 성능과 개발 속도에 집중했다면 이제는 안전관리 역량까지 한꺼번에 확보해야 한다는 점이 부담일 것"이라고 설명했다.

모델 실제 위험에 맞춰 검증 수준을 세분화할 수 있느냐고 관건으로 꼽히고 있다. 위험도를 충분히 구분하지 않은 채 획일적인 기준을 적용하면 인력과 자금이 부족한 스타트업은 기술 개발에 투입할 자원을 평가와 감사 대응에 사용해야 할 수 있다. 제품 출시가 늦어지고 선도기업과의 격차를 좁히기도 어려워질 가능성이 있다.

외부 모델을 활용하는 스타트업에는 기술 접근 제한이 더 직접적인 문제가 될 수 있다는 우려도 나오고 있다. 모델 공급사가 안전을 이유로 이용 대상이나 기능을 제한하거나 정부가 접근을 차단하면 기존 서비스 운영과 신규 기능 개발에 차질이 생길 수 있기 때문이다.

한 AI 스타트업 관계자는 "다른 모델로 바꾸는 작업은 결코 쉽지 않다"며 "대체 모델을 확보하더라도 답변 정확도와 처리 속도, 이용 비용을 다시 검증하고 서비스 구조도 수정해야 한다"고 지적했다.

국내에서는 AI 안전 규범을 마련하되 후발기업의 개발 여건도 함께 고려해야 한다는 제언도 나왔다. 안전과 산업 육성을 병행하면서 기업 규모와 모델 위험도에 따라 규제를 차등 적용해야 한다는 주장이다.

김동환 포티투마루 대표는 "현실적으로 기술 개발과 안전장치 마련을 병행할 수밖에 없다"며 "특정 기업이나 국가의 이익을 대변하지 않도록 전 인류의 지혜를 모아야 한다"고 강조했다. 이어 "한국 기업도 국제 기준을 만드는 과정에 참여해야 한다"고 덧붙였다.

중국에서는 안전 기준 권한이 소수 빅테크에 집중될 수 있다는 우려가 나왔다. 지난 16일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 딥시크 V4.1 개발에 참여한 류성위 엔지니어는 최근 소셜미디어에서 앤트로픽과 오픈AI의 폐쇄형 전략을 비판하며 빅테크가 첨단 기술 이용 조건까지 좌우하는 구조를 경계해야 한다고 주장했다.

그는 "앤트로픽이나 오픈AI가 최첨단 AI를 언제나 개방적이고 저렴하게 제공할 것이라고 믿지 않는다"고 비판했다.