[크리스의 SW아키텍트⑥] AI도 넘지 못한 '기술 부채' 늪

지난 5편에 걸쳐 IT 서비스 장애 근본 원인부터 다양한 아키텍처 스타일, 그리고 생성형 AI가 SW 아키텍트에게 어떻게 도움을 주고 있는지 이야기했다. 디지털 전환의 마지막 고지를 향해 기업들은 이제 AI 에이전트라는 새로운 무기를 주목하고 있다. 복잡한 인간의 업무를 대신해 판단하고 실행하는 이 기술은 분명 매력적이다. 많은 기업들이 “우리는 이미 안정적인 레거시 시스템과 API 서버를 갖추고 있다. 에이전트는 그 위에 얹기만 하면 된다”고 자신한다. 하지만 바로 이 지점에서 AI 도입 실패는 예고된다.

다년간 검증된 시스템이라는 신뢰의 상징이, 사실은 AI 에이전트가 필요로 하는 구조와는 완전히 다른, 낡은 패러다임의 산물이라는 점을 간과하기 때문이다. 이 충돌의 핵심은 아키텍처 패러다임의 근본적인 전환에 있다. 기존 소프트웨어는 정해진 논리대로 움직이는 ‘명령형’ 구조에 기반한다. 반면 AI 에이전트는 최종 ‘목표’를 달성하기 위해 스스로 움직이는 ‘목표지향형’ 설계를 필요로 한다.

이러한 패러다임 전환은 시스템의 기억(Memory)과 상태(State) 관리 방식부터 근본적으로 뒤흔든다. 기존 시스템은 안정성을 위해 상태 정보를 최소화하는 ‘무상태(Stateless)’ 구조를 지향해왔다. 하지만 AI 에이전트는 사용자와의 과거 대화, 이전의 성공과 실패 경험을 모두 기억해야만 더 나은 판단을 내릴 수 있다. 이는 시스템이 에이전트의 단기 및 장기 기억을 지속적으로 관리할 수 있는 ‘지속적인 컨텍스트 계층(Persistent Context Layer)’ 이라는 새로운 구조를 필요로 함을 의미한다.

벡터 데이터베이스(Vector DB)나 임베딩 스토어(Embedding Store)와 같은 새로운 저장 기술을 통합하고, 단순한 사용자 로그를 AI가 학습할 수 있는 의미 있는 상호작용 이력으로 재설계해야 하는 과제가 뒤따른다.

제어 흐름(Control Flow) 역시 마찬가지다. 전통적인 업무 프로세스 관리(BPM) 시스템은 미리 정해진 규칙에 따라 순차적으로 작업을 처리했다. 그러나 스스로 ‘계획-실행-피드백(Plan-execute-Reflect)’ 의 순환 고리를 수행하는 AI 에이전트에게 고정된 흐름은 족쇄일 뿐이다. 따라서 기존의 경직된 업무 흐름은 에이전트 판단에 따라 동적으로 재구성될 수 있는 ‘적응형 흐름(Adaptive Flow)’ 으로 진화해야 한다.

이는 기업의 핵심 비즈니스 로직마저도 AI 에이전트와의 협업을 위해 더 유연하고 동적인 구조로 바뀌어야 함을 시사한다. 이처럼 AI 에이전트 환경을 구축하기 위해 새로운 구조를 도입하는 과정 자체가 만만치 않은 도전이며, 자칫 잘못하면 새로운 형태의 ‘기술 부채(Technical Debt)’를 만들어낼 수 있다.

더 큰 문제는 이 과정에서 우리가 오랫동안 외면해왔던 기존 레거시 시스템의 기술 부채라는 잠복 리스크가 전면으로 드러난다는 점이다. 오랜 기간 안정적으로 운영돼 온 시스템일수록 그 안에는 수많은 임시방편 로직, 문서화되지 않은 인터페이스, 여러 곳에 분산된 데이터 구조가 숨겨져 있다. 과거에는 사람이 운영하며 이런 문제들을 암묵적으로 해결했지만, 에이전트는 이런 맥락을 해석할 수 없다. 에이전트는 오직 기록된 것만 이해하고, 구조화된 것만 사용할 수 있으며, 예측 가능한 것만 신뢰할 수 있기 때문이다.

이러한 우려는 단순한 추측이 아니다. 페가시스템(Pegasystems) 조사에 따르면 전 세계 IT 의사결정자의 68%는 기존 레거시 시스템이 AI 도입의 가장 큰 장애물이라고 응답했고, 액센추어(Accenture) 역시 75% 이상의 기술 리더들이 AI 도입이 오히려 기술 부채를 심화시킬 수 있다고 경고했다.

즉, 기존 시스템이 겉으로 잘 돌아가는 것처럼 보여도, 에이전트가 등장하는 순간 숨겨진 부채는 수면 위로 드러나며 새로운 병목과 장애로 작용한다. 많은 CIO들이 “우리는 잘 설계된 API 서버를 갖고 있으니, AI 에이전트도 쉽게 붙을 것이다”라고 하지만, 에이전트가 움직이기 위해서는 단순한 호출 API가 아니라 의미 기반(Semantic)으로 설계된 도구 인터페이스, 계획과 피드백을 수용할 수 있는 실행 환경과 상태 저장 구조가 필요하다.

구체적으로 비표준 API는 에이전트의 계획 수립을 방해하고, 상태를 저장하지 않는(Stateless) 아키텍처는 실행 도중 중요한 맥락을 잃게 만든다. 테스트가 부족한 시스템에서는 에이전트의 행동이 예상치 못한 오류를 일으키고, 권한과 감사 체계가 미비하면 에이전트 실행의 책임을 추적할 수 없게 된다.

이러한 부채들은 AI 도입과 함께 증폭되며 시스템 전체의 신뢰성을 뒤흔든다. ‘에이전트 하나 붙이겠다’는 작은 시도가 구조 전체의 안정성을 위협할 수 있는 것이다. 그렇다면 CIO는 무엇을 해야 하는가? 기술 부채를 드러내고 정면으로 마주하는 것이 AI 에이전트 시대를 준비하는 가장 현실적인 전략이다. API 명세와 인터페이스, 데이터 저장 구조를 표준화하고, 에이전트의 계획, 기억, 도구 사용을 지원하는 구조로 시스템을 재설계해야 한다. 또한, 기술 부채를 문서화율이나 변경 영향도 같은 구체적인 지표로 정량화, 이를 해결하는 것이 곧 비즈니스의 투자 대비 수익(ROI)으로 이어진다는 점을 가시화해야 한다.

결론은 명확하다. AI 에이전트는 단순한 자동화 도구가 아니다. 기존 소프트웨어 아키텍처에 의존하는 구조로는 결코 자율성과 맥락 이해, 목표 기반 실행이라는 핵심 가치를 구현할 수 없다. 중요한 것은 에이전트를 붙이는 행위가 아니라, 에이전트가 ‘에이전트 친화적 구조(Agent-Aware Structure)’ 를 먼저 만드는 것이다.

구조를 바꾸지 않고 결과만 바꾸려는 시도는 반드시 실패한다. 기술 부채라는 늪을 넘어설 수 있는 구조, AI 에이전트가 진짜 살아 움직일 수 있는 구조를 설계하는 것, 그것이 바로 지금 우리가 마주하고 있는 새로운 AI환경에서 직면한 SW 아키텍트의 미션이다. 다음 편에서는 기술 부채로 가득 찬 레거시 시스템을 어떻게 하면 멈추지 않고 안전하게 현대화할 수 있는지, 그 구체적인 방법을 이야기하려 한다.

◆ 나희동 크리스컴퍼니 대표는...

-정보관리기술사 (54회), 국제SW아키텍트 (CPSA)

-전남대학교 산업공학과, 서울과학기술대학교 컴퓨터공학 석사

-CMU SEEK 1기 MSE, UTD SW MBA 수료

-전/투이컨설팅 SW아키텍처 담당 이사