AI에게 물었다…"너희 리더들은 왜 갑자기 브레이크 밟나"

[김익현의 미디어 읽기] 공학적·현실적 관점으로 본 'AI 속도조절론'

뜨겁게 달아오르던 인공지능(AI) 경쟁 무대에서 '속도 조절론'이 새로운 화두로 떠올랐다. 다리오 아모데이 앤트로픽 최고경영자(CEO)를 비롯해 샘 알트먼(오픈AI CEO), 데미스 하사비스(구글 딥마인드 CEO) 등 주요 AI 기업 경영자들이 '속도 조절'과 ‘규제 및 검증 기구 필요성’에 의기투합했다.

15일(현지시간)엔 마크 저커버그 메타 CEO도 이런 움직임에 동참했다. 저커버그는 자신의 엑스(X)를 통해 “AI 연구소들은 모델의 안전성을 확보하기 위해 독립적인 평가 기관과 자문단의 평가를 받아야 한다”고 주장했다.

불과 얼마 전까지 AI 주도권을 잡기 위해 치열한 ‘속도 경쟁’을 벌이던 빅테크 수장들이 한 목소리로 ‘속도 조절’을 외치는 상황은 당혹스럽기까지 하다.

이들은 왜 갑자기 한 목소리로 ‘안정성’을 외치기 시작했을까. 이 궁금증의 단초를 풀기 위해 ‘직접 당사자’ 중 하나인 구글의 AI 모델 제미나이에게 직접 물어보기로 했다.

제미나이는 최근 상황을 "기술 발전의 주도권이 속도 경쟁에서 시스템 안정성 경쟁으로 넘어가는 전환점"이라고 규정했다.

AI 관련 뉴스에 관심이 있다면 이 정도 분석은 누구나 할 수 있다. "왜 그렇게 생각하는가"고 다시 물었다. 제미나이는 크게 세 가지 근거를 제시했다.

AI 개발 속도 조절론의 불을 지핀 다리오 아모데이 앤트로픽 CEO (사진=위키커먼스)

첫째, 경영자들의 주장은 '위선'과 '진심'이 뒤섞인 현실적 선택이다.

제미나이는 주요 AI 경영자들의 속도 조절론을 순수한 선의로만 볼 수는 없다고 짚었다. 그렇다고 순전한 사다리 치우기(기득권 지키기)로만 치부하기도 어렵다는 것이 제미나이의 진단이다.

- 현실적인 위기감: 통제할 수 없는 사고(바이오 무기 악용, 고도화된 사이버 테러 등)가 터지면 AI 산업 전체가 사회적·법적 규제로 붕괴할 수 있다는 '진짜 공포'가 작동하고 있다.

- 비즈니스적 셈법: 혼자 멈추면 패배하는 '죄수의 딜레마' 상황에서, 외부의 공인된 검증 기구(FAA나 FINRA 같은 모델)를 명분 삼아 다 같이 숨을 고를 수 있는 '공식 룰'을 선점하고 싶은 속내다.

둘째, 브레이크는 기술을 '멈추기' 위함이 아니라 '쓰기' 위함이다.

이 대목에서 제미나이는 기술 역사의 성찰을 근거로 들었다. 원자력, 항공, 백신 등 인류에 치명적인 영향을 줄 수 있는 기술은 모두 엄격한 안전 제어 체계가 완성된 후에야 비로소 사회적 제도로 안착했다는 설명이다.

"아무리 뛰어난 엔진도 브레이크와 벨트가 없으면 도로에 나올 수 없다"고 강조한 제미나이는 파격적인 해석을 덧붙였다. "속도를 잠시 줄여 외부 평가 체계나 국제적 셧다운 규약 같은 가이드레일을 만드는 것은, 기술을 포기하는 것이 아니라 기술이 사회적으로 연착륙하여 지속 가능해지는 유일한 길"이라는 주장이다.

마크 저커버그도 'AI 개발 속도 조절론'에 동조하는 글을 올렸다.

셋째, SF 공포가 아닌 '공학적 불균형'의 문제다.

제미나이는 대중의 시선에 대해서도 일침을 놓았다. 대중은 종종 SF 영화 같은 'AI의 반란'이라는 통념에 집중하지만, 핵심은 성능(Capability)과 통제력(Alignment)의 속도차에서 오는 공학적 불균형에 있다는 것이다.

결국 제미나이는 "이번 현상을 디스토피아적 공포나 단순한 기업 간 패권 다툼으로만 보면 많은 것을 놓칠 수 있다"며, "인간이 AI라는 거대한 기술의 통제권을 유지할 수 있는 마지막 골든타임을 확보하려는 가장 공학적이고 현실적인 몸부림으로 해석하는 것이 타당하다"고 짚었다.

그렇다면 경영자들이 실제 감지한 현실적 위험과 계산은 무엇일까. 제미나이는 세 가지 배경을 덧붙였다.

- 통제 불능의 임계점: 최신 프론티어 AI가 스스로 코드를 수정하고 자율 연구를 수행하는 '에이전트' 단계에 진입하면서, AI가 스스로를 개선하는 선순환 고리에 진입하기 전 인간의 개입 시간을 확보해야 한다는 점.

- 규제 선점과 주주 달래기: 정부의 무분별한 징벌적 규제가 닥치기 전 자율 규제 표준을 선점하고, 투자자들에게 "안전 체계를 갖춘 신뢰할 수 있는 기업"임을 입증하려는 실리적 목적.

- 법적·사회적 책임 분산: 향후 대형 보안 사고나 혼란이 발생했을 때 "우리는 진작 속도 조절과 검증 기구를 요구했다"는 면책 명분을 확보하려는 포석.

당사자인 AI 모델의 이 같은 자가진단이 현실의 복잡한 정치·경제적 셈법을 모두 담아내진 못했을 수도 있다. 하지만 막연한 디스토피아적 공포와 기업들의 겉화려한 멘트 뒤에 숨은 'AI 속도 조절론'의 본질—엔진을 끄는 것이 아니라 제어시스템을 다지는 과정—을 이해하기에는 더없이 명쾌하고 설득력 있는 단초다.