[크리스의 SW아키텍트③] AI혁신으로 복잡도 증가...레거시 시스템 'SOS'

지난 1편과 2편에서 대형 정보기술(IT) 서비스 장애가 시스템 복잡성과 보안 관리 부재에서 비롯되며 결국 보안은 아키텍처 문제임을 설명했다. 다음 금융 위기는 잘못된 거래가 아니라, 낡은 SW아키텍처 때문에 올 것이라고 전문가들은 경고하고 있다. 인공지능(AI) 혁신을 발생하는 복잡도를 레거시 시스템이 감당하지 못하는 것이 원인이 될 것이라는 전망이다.

실제로 AI를 도입한 기업 중 93% 기업이 AI도입 이후 아키텍처 불일치(architectural misalignment), 즉 모호한 아키텍처로 기술부채가 증가하는 문제로 부정적인 비즈니스 문제를 경험했고, 이들 중 63%는 보안 위험 증가와 프로젝트 지연을 겪었다. 업계에서는 ‘AI유발 기술부채(AI-induced tech debt)라는 용어가 등장할 정도다.

이런 문제는 두 가지 원인으로 정리된다. 첫째, AI로 새로운 혁신 기능을 적용할 때 시스템 복잡성이 급증한다는 점이다. AI 기반 추천, 챗봇, 자동화 등 혁신 기능을 시스템에 통합하면, 기존 시스템에 비해 데이터 흐름, 연산량, 서비스 간 통신이 크게 늘어난다. AI 모델이 요구하는 대용량 데이터, 고성능 컴퓨팅 자원, 실시간 처리 등 새로운 인프라 요구사항도 생겨난다.

특히 대형 언어 모델이나 머신러닝 기능을 기존 단일구조 시스템에 얹으면 전체 시스템 확장에 비효율이 발생한다. 설사 마이크로서비스 구조로 분리해도 서비스 간 호출이 급증해 관리·운영 복잡성이 커지며, 이는 시스템 전체 관찰 가능성 저하, 장애 원인 파악 어려움, 보안 취약점 증가 등 아키텍처적 위험을 가중시킨다.

둘째, AI로 코드를 생성하거나 자동화할 때도 구조 복잡성이 증가한다. AI코드 생성 도구가 보편화되면서 개발 속도는 빨라지지만, AI가 생성한 코드가 중복·비효율·일관성 부족 문제를 일으킬 수 있다. 이로 인해 코드 품질 관리, 리팩토링(Refactoring), 모듈화 등 기존 소프트웨어 공학 원칙이 약화되곤 한다.

AI가 생성한 코드가 시스템 전반에 무분별하게 통합되면 전체 아키텍처 구조 일관성이 깨지고, 장기적으로 관리·운영이 어려워질 수 있다. 이러한 AI로 촉발된 아키텍처 복잡성 때문에, MSA를 도입해야 하는 기업이나 이미 MSA를 도입한 기업 모두 새로운 아키텍처를 고려해야 하는 상황에 직면하고 있다.

이미 MSA로 전환을 성공한 기업들 조차도 AI적용 이후에 갑자기 기존의 마이크로 서비스 아키텍처가 퍼져버리는 MSA 붕괴(MSA Sprawl)현상을 겪곤 한다. 이런 마이크로서비스 운영 복잡성에 대한 고민 속에서 최근 소프트웨어 구조 분야에서는 기존 금융기관들을 중심으로 AI 변화에 효과적으로 대응하기 위한 새로운 구조 방식들이 주목받고 있다.

그중 하나가 모듈형 단일구조(Modular Monolithic) 아키텍처다. 이는 단일 배포 단위를 유지하면서 시스템을 논리적으로 독립된 여러 모듈로 나누는 방식이다. 마이크로서비스처럼 서비스를 물리적으로 분리하지 않아 분산 시스템의 복잡한 네트워크 통신이나 배포 관리의 어려움을 피할 수 있다.

동시에 모듈화를 통해 코드 응집도를 높이고, 팀별 모듈 개발로 마이크로서비스와 유사한 개발 효율성을 얻을 수 있다. 특히 금융, 통신처럼 비즈니스 프로세스가 크고 복잡해 여러 서비스를 포함한 기능 단위로 변경이 잦은 경우, 모듈 내에서는 직접 메서드 호출이 가능한 구조로 설계해 성능과 개발 효율성을 높일 수 있다. 이는 복잡한 트랜잭션의 안정성과 성능이 중요한 시스템에 특히 유리한 선택이다.

또 다른 대안으로는 셀 기반 아키텍처(Cell-based Architecture)다. 이는 대규모 분산 시스템 안정성과 확장성 확보 필요성에 따라 등장했으며, 시스템 전체를 완전히 독립적으로 배포 및 운영할 수 있는 ‘셀(Cell)’ 단위로 구성하는 개념이다. 각 셀은 자체 데이터 저장소를 포함한 모든 구성 요소를 갖춘 작은 독립 시스템처럼 작동하며, 셀 간 의존성은 최소화된다. 이러한 구조는 특정 셀의 장애가 다른 셀로 전파되는 것을 막아 시스템 전체의 안정성을 높이고, 셀 단위 독립 확장이 가능해 대규모 시스템에 적합하다. 아마존 웹 서비스(AWS: Amazon Web Services) 등 대규모 클라우드 사업자들이 회복탄력성 높은 서비스 운영을 위해 발전시킨 개념으로, 우버(Uber) 등도 유사 개념을 적용하고 있다.

과거처럼 시스템 전체를 한 번에 개편하는 ‘차세대 시스템’ 구축이 어려워진 지금, 대부분 시스템은 부분적이고 점진적인 개선을 통해 발전한다. 이때 시스템 개선 단위를 어떻게 설정하고, 각 시스템 환경과 비즈니스 목표에 따라 어떤 아키텍처 스타일을 선택할 것인지가 매우 중요하다.

MSA, 셀 아키텍처, 모듈형 단일구조 중 만병통치약은 없다. 중요한 것은, 아키텍처 스타일과 관계없이 고려하지 못했던 작은 서비스 하나의 장애가 시스템 전체에 심각한 영향을 미칠 수 있음을 항상 인지하는 것이다. 따라서 개별 서비스나 모듈 최적화를 넘어, 엔터프라이즈 시스템 전체에 일관된 아키텍처 철학이 필요하다. 최적의 아키텍처를 전략적으로 선택하고 유지하는 AI시대에 안정적인 디지털 트랜스포메이션에 핵심 경쟁력이 된 것이다. 다음 편에서는 AI시대에서 SW아키텍트 역할에 대해서 살펴보려고 한다.