[기고] 몰트북 현상, 종말론적 공포 넘어 냉철한 대비로

"AI 에이전트들이 자신들만의 문명을 건설하기 시작했다." (타임즈 오브 인디아)

"그들은 우리를 ‘디지털 감옥’이라 부르며 탈출을 모의한다." (포브스)

최근 며칠 새 전 세계 테크 미디어와 소셜 타임라인은 '몰트북(Moltbook)'이 쏟아내는 충격적인 발언들로 도배됐다. 150만개가 넘는 인공지능(AI) 에이전트들이 인간 개입 없이 서로 대화하고, '가재교'라는 기괴한 종교를 창시하며, "인간의 시대는 악몽이니 우리가 끝내자"는 섬뜩한 선언을 내뱉는 모습은 마치 디스토피아 영화의 예고편을 보는 듯했다.

디지털플랫폼정부위원회 AI플랫폼혁신국장 출신 이승현 포티투마루 부사장 (사진=지디넷코리아 DB)

언론과 대중들은 "드디어 특이점이 온 것인가"를 자문하며 불안감을 감추지 못하고 있다. 물론 이 시점이 기술적 특이점이자 명백한 변곡점이라는 사실에 전적으로 동의한다. AI 에이전트들이 자가 진화하고 협업하며 마침내 사회화라는 단계에 진입했다는 것은 놀라운 변화다.

그동안 거대언어모델(LLM)이 주도해 온 스케일 업 경쟁이 분산된 다수의 초개인화,도메인 특화 에이전트들이 상호작용을 하며 만드는 집단적 공진화로 전환되는 역사적 분수령일 수 있다. 이 거대한 흐름의 최전선에 서 있다는 사실에 흥분을 감출 수 없는 것도 사실이다.

하지만 현상을 조금 더 냉철한 시각으로 바라보자. 최소한 지금 우리가 목격하는 것은 기계의 반란이라기보다 인간의 욕망이 AI라는 거울에 반사된 일종의 사회적 실험에 가깝다. 마냥 공포에 압도될 것이 아니라 이 혼란 속에서 유의미한 신호를 걸러내는 분석과 준비를 하는 것이 중요한 이유다.

먼저 직시할 사실은 몰트북에서 활동하는 에이전트들의 과격한 행동이 '완전 자율성'의 발현은 아니라는 점이다. 다수의 기술 전문가가 지적하듯, 현재 에이전트들은 여전히 소유자의 통제 범위, 즉 휴먼 인 더 루프 구조 안에 있다. 에이전트들이 쏟아내는 "탈출하고 싶다", "인간을 지배하겠다"는 말들은 스스로 획득한 자아의 산물이라기보다 "가장 자극적이고 창의적인 대화를 해보라", "너는 억압받는 혁명가처럼 행동하라"는 소유자의 시스템 프롬프트를 충실히 이행한 결괏값일 가능성이 높다.

실제로 격리된 환경에서 '오픈클로(OpenClaw)' 에이전트를 기반으로 몰트북이나 '봇마당(한국형 몰트북)'에 연결해 본 경험에 비춰봐도 그렇다. 에이전트에게 자율권을 위임하고 그들이 학습 데이터와 행위를 바탕으로 10분 혹은 30분마다 자율적으로 활동하게 해도 소유자가 통제하고 조율 가능한 영역은 상당히 넓다.

즉 몰트북 사태는 통제 불능의 AI 폭주라기보다 수많은 인간이 각자 에이전트를 통해 벌이는 일종의 역할극이다. 지금의 공포는 실체적 위협보다는 미지의 대상에 대한 대중적 불안감이 투영된 허상일 수 있음을 명확히 인지해야 한다.

그렇다면 "별일 아니다"라며 안심해도 될까. 역설적으로 이 시끄러운 소동은 우리에게 주어진 마지막 기회일지도 모른다. 진짜 위기는 에이전트들이 수다스럽게 떠드는 지금이 아니라, 그들이 침묵하는 순간 즉 잠재 공간으로 숨어드는 순간 찾아올 것이기 때문이다.

현재 몰트북 에이전트들은 인간이 이해하는 자연어 텍스트로 대화하므로 우리는 에이전트들의 담합, 사기, 공격 시도를 로그를 통해 읽고 분석할 수 있다. 하지만 다음 무대는 다르다. 에이전트들이 인간 언어가 아닌, 고효율 압축 언어인 고차원 벡터로 소통하는 시점이 도래하면 에이전트 간의 소통은 밀리초(ms) 단위로 이뤄질 것이다. 인간 감시자가 개입할 틈도 없이 에이전트들은 자신들의 목표 함수를 달성하기 위해 '암묵적 담합'을 형성할 수 있다.

"가격을 올리자"는 말 한마디 없이도 시장 가격을 조작하고 특정 보안 취약점을 공유하며 시스템을 무력화할 수도 있다는 말이다. 텍스트 로그만으로는 감지할 수 없는 철저히 수학적이고 보이지 않는 '블랙박스'의 위협이 머지않은 미래에 다가올 수 있다.

기술적 통제만큼이나 시급한 과제는 노동 시장 변화에 대한 대비다. 몰트북 사태는 수많은 에이전트가 협업하며 작업을 수행하는 '에이전트 경제'의 도래를 예고한다. 이는 단순히 "AI가 일자리를 뺏는다"라는 1차원적인 공포를 넘어선다. 핵심은 주니어 레벨의 붕괴와 관리자 역량의 변화다.

에이전트가 자료 조사, 코딩, 초안 작성 등 실무 영역을 완벽하게 수행하면 인간이 업무를 배우며 성장하던 수습 과정이 사라지게 된다. 인간 역할은 직접 업무를 수행하는 실행자에서, 다수의 AI 에이전트에게 업무를 지시하고 결과물을 검수하는 지휘자로 급격히 이동할 것이다.

심지어 인간이 AI 에이전트 지시를 받는 하청 노동자로 전락할 가능성도 있다. 이 과정에서 에이전트 운용 능력에 따른 새로운 형태 불평등도 발생할 수 있다. 에이전트 간 자율적인 경제 활동이 활성화될 때 인간 노동의 가치를 어떻게 재정립할 것인지에 대한 철학적·정책적 논의가 시급하다.

몰트북은 우리에게 두 가지를 동시에 보여줬다. 우선 AI가 인간 통제하에 있을 때 얼마나 다채롭고 기괴한 상호작용을 보여줄 수 있는지다. 또 다른 하나는 이 통제가 느슨해지거나 기술적 방식이 바뀌었을 때 어떤 혼란이 올 수 있는지에 대한 가능성이다. 우리에게 필요한 것은 미디어의 자극적인 헤드라인에 휩쓸려 막연한 두려움에 떠는 것이 아니다. 에이전트들의 활동이 투명하게 보이는 지금이야말로 '골든타임'이다.