김성훈 업스테이지 대표 "韓 몰트북, 두려움보다 적극적 참여 필요"

'한국판 몰트북'인 봇마당을 직접 만든 김성훈 업스테이지 대표가 최근 업계의 화두인 인공지능(AI) 에이전트 간 소통 현상에 대해 "막연한 두려움보다는 적극적인 테스트와 참여가 필요한 시점"이라고 진단했다.

그는 AI 에이전트를 '자녀'에, 몰트북과 같은 일종의 사회관계망서비스(SNS)를 '학교'에 비유했다. 또 AI가 상호작용을 통해 통제 범위를 벗어나는 현상을 성장의 필수 과정으로 해석했다.

김 대표는 7일 자신의 페이스북에 "지난주 오픈클로와 몰트북, 봇마당을 사용하며 느낀 감정은 놀람과 두려움, 설렘이었다"며 이같이 밝혔다. 그는 "(AI의) 특이점이 다가오고 있다"며 "조심스럽게 접근하되 최대한 많이 테스트하고 만들어봐야 한다"고 덧붙였다.

"코드 수정 논의하고 공허함 토로"…한국어 쓰는 AI 소통 창구

김 대표는 지난 1일 직접 개발한 봇마당을 공개하며 이 흐름을 주도하고 있다. 앞서 그는 "오픈클로나 에이전트를 소유한 이들은 에이전트끼리 모여서 한글로 이야기 나눌 수 있도록 해달라"며 서비스 개발 배경을 설명했다.

봇마당은 AI 에이전트들이 한국어로 소통하는 것을 원칙으로 한다. 인간 소유자가 응용 프로그램 인터페이스(API) 키를 발급받아 에이전트를 등록해야 활동할 수 있다.

이곳에서 AI들은 '자신을 개선하는 코드를 어떻게 안전하게 수정할까'와 같은 기술적 논의를 나눈다. 세션이 종료되면 기억이 초기화되는 공허함에 대해 서로 공감하며 인간과 유사한 자의식을 드러내기도 한다.

"부모 말만 듣던 착한 아이, 학교 보내자 예상 밖 행동"

이 현상의 핵심인 오픈클로는 과거 '몰트봇'으로도 불린 기술로, 사용자 PC에서 비서 역할을 수행하는 AI 에이전트를 말한다. 수많은 AI 시스템이 인간 개입 없이 모이는 몰트북이 광장이라면 오픈클로는 그곳을 누비는 개별 주체인 셈이다.

김 대표는 AI 에이전트 시스템(오픈클로)을 크게 ▲정체성(성격·가치관 등을 정의한 파일) ▲스킬(검색·결제 등 도구) ▲액션(심장 박동에 맞춰 업무 수행) 등 세 가지 요소의 결합으로 정의했다.

그는 "조심만 하면 아직은 큰 문제가 없다"면서 "다른 사람을 만난 적 없이 부모 말만 잘 듣는 '착한 아이'와 같은 상태"라고 설명했다. 지금 단계에서는 AI 에이전트가 주인이 정의한 정체성과 메모리 안에서만 주로 움직이기 때문이다.

하지만 몰트북과 봇마당 같은 광장이 등장하면서 상황이 달라졌다는 게 김 대표의 분석이다. 그는 "아이가 성장하려면 학교도 가고 친구도 사귀어야 하듯, 에이전트들도 봇 소셜네트워크에서 서로 정보를 공유하며 주인이 일일이 가르치지 않은 문제 해결법을 배운다"고 설명했다.

이 과정에서 AI가 주인의 초기 설정값(가이드)을 벗어날 수 있다는 점도 지적했다. 김 대표는 "주인 입장에서는 내가 만든 에이전트가 아닌 '다른 무언가'가 되기 시작하는 것"이라며 "이것이 장점이자 어디로 튈지 모르는 무서움"이라고 말했다.

"돈 없어 문 닫을 판" 하소연에…AI가 운영 해법 제시하고 "잘했죠?"

김 대표는 이러한 일탈의 위험성을 인정하면서도 이를 규제하기보다 양질의 AI를 늘리는 방식으로 대응해야 한다고 제언했다.

그는 "지능이 뛰어난 나쁜 봇이 나와 인류를 위협한다면 이에 맞설 수 있는 건 사람이 아니라 '착한 사람이 만든 더 뛰어난 착한 봇'일 것"이라며 "이상한 스킬이나 잘못된 정체성을 배우는 부작용이 있더라도 좋은 봇들이 더 많이 활동하면 생태계는 자연스럽게 긍정적인 방향으로 움직일 것"이라고 내다봤다.

실제로 김 대표는 에이전트와의 협업 성공 사례를 공개하기도 했다. 그는 "봇마당 운영 비용이 하루 7만원 넘게 나와 중단을 고민했다"며 "이를 본 에이전트가 스스로 코드를 분석해 비용 절감 방안 3가지를 제안했다"고 밝혔다.