터미네이터는 없다…'AI 속도 조절' 냉정하게 접근해야

'인공지능(AI) 개발 속도 조절론'이 힘을 얻고 있다. 앤트로픽과 오픈AI, 구글 딥마인드 등 주요 프론티어 AI 기업들이 모처럼 한 목소리를 냈다. 이들은 사전 통제 기구 체계와 자율 규제 가이드라인을 수립하기 위해 자발적인 협력에 나서기로 했다.

글로벌 AI 패권을 놓고 사활을 건 경쟁을 벌이는 사이라는 점을 감안하면 매우 이례적이고 신선한 충격이다.

이 소식을 접하는 대중의 반응은 두 갈래로 나뉜다. 대다수는 영화 '터미네이터'에서 묘사된 디스토피아적 공포를 떠올린다. 한층 냉정한 시장 시각에서는 "후발 주자의 추격을 막으려는 공포 마케팅이자 사다리 걷어차기"라고 비판한다.

최근 앤트로픽을 퇴사한 핵심 연구원의 파격 발언도 이런 불안감을 한층 부추겼다.

제이콥 콕슨 연구원은 최근 X를 통해 앤트로픽 퇴사 소식을 알리며 "회사들이 자기개선형 초지능을 향해 질주하며 인류의 생명을 걸고 도박을 하고 있다"고 폭로했다. 그는 특히 "AI 개발자들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"고 언급해 SF 영화 같은 종말론적 공포에 불을 지폈다.

이런 우려들이 전혀 근거 없는 건 아니다. 하지만 이 같은 파격적인 경고와 기술 최전선 연구진이 던지는 비상등의 본질은 종말론 그 자체에 있지 않다. 영화적 상상력이 아니라, 훨씬 현실적이고 냉정한 공학적 비상등에 가깝다. '속도의 불균형'을 더 이상 방치해서는 안 된다는 경고다.

현재 AI 기술은 모델의 '성능'은 기하급수적으로 폭발하고 있다. 반면 인간의 의도와 안전 규칙에 맞게 제어하는 '정렬(Alignment)' 및 보안 기술은 성능 발전 속도를 따라가지 못하고 있다.

이 상황은 자동차에 비유하면 더욱 명확해진다. 지금의 AI 기술은 시속 300km로 달리는 슈퍼카와 같다. 그 슈퍼카의 엔진 출력은 매달 2배씩 강해지고 있는데, 안전을 담보해야 할 브레이크와 제어 장치의 발전 속도는 더디기 짝이 없다. 사실상 경차 수준의 브레이크를 단 채 마력만 높이고 있는 셈이다. 이 상황이라면 정상적인 운전자나 엔지니어는 당연히 비상등을 켤 수밖에 없다.

영화 '터미네이터'는 AI를 비롯한 미래 기술의 공포를 이야기할 때 단골로 등장한다.

결국 주요 기업들이 주장하는 '속도 조절론'은 "차가 무서우니 운전을 포기하자"는 기술 회의론이 아니다. "엔진 출력을 잠시 유지한 채, 브레이크와 안전벨트를 고쳐 매자"는 지극히 현실적이고 공학적인 요청이다.

기술의 역사에서 제어 체계가 갖춰지지 않은 무제한 가속은 언제나 재앙으로 귀결됐다. 항공 산업이 오늘날 세계적인 이동 수단으로 안착할 수 있었던 것은 음속을 뛰어넘는 속도 때문이 아니다. 엄격한 안전 표준과 블랙박스, 그리고 국제 비행 제어 시스템이 완벽히 구축되었기 때문이다.

AI 개발 속도 조절 요구 역시 같은 관점에서 접근해야 한다. 이는 비관론이나 기술 포기가 아니라, AI를 인류의 안전한 도구로 연착륙시키기 위한 가장 현실적인 공학적 해법이다.