지난 편에서는 AI 시대의 모든 기술 혁신이 궁극적으로 ‘사람’을 향해야 한다는 인간 중심 아키텍처의 철학을 이야기했다. 시스템을 더 인간적으로 만드는 것은 단순히 편리한 기능을 추가하는 것을 넘어, 시스템 자체를 더 안정적이고, 신뢰할 수 있으며, 건강하게 만드는 것에서 시작된다.
하지만 수십 년간 운영되어 온 대부분의 시스템은 어쩔 수 없이 누적된 ‘기술 부채’라는 만성 질환을 앓고 있다. SW공학 대가 마틴 파울러(Martin Fowler)는 이런 문제의 징후를 ‘코드 스멜(Code Smell)’, 즉 코드에서 나는 ‘나쁜 냄새’ 라고 불렀다.
과거의 ‘코드 스멜’이 중복된 코드나 너무 긴 함수처럼 개발자가 직접 소스 코드를 보며 찾을 수 있는 문제였다면, AI 시대의 아키텍트는 이제 시스템 전체를 조망하며 ‘Smell of ML’ 을 찾아내는 새로운 감각을 갖춰야 한다.
카네기멜런 대학의 릭 카즈만(Rick Kazman) 교수가 주창한 이 개념은, 머신러닝 코드 자체의 문제가 아니라 기존 시스템 아키텍처나 프로세스에서 AI/ML을 적용하면 혁신적으로 개선될 수 있는 기회의 징후를 의미한다. 이 ‘냄새’는 두 가지 조건이 충족될 때 명확해진다. 첫째, AI가 학습하고 판단할 ‘충분한 컨텍스트 데이터(Contextual Data)’ 가 존재해야 하고, 둘째, AI로 해결할 수 있는 ‘명확한 목표(Clear Objective)’ 가 있어야 한다.
이러한 ‘Smell of ML’은 시스템의 여러 계층에 다층적으로 존재하며, 각기 다른 AI 기반의 아키텍처 리팩토링(Refactoring)을 요구한다.
첫째, 비즈니스 로직 계층의 ‘경직된 규칙의 냄새(Smell of Rigid Rules)’ 다. 수천, 수만 줄의 if-else 문으로 하드코딩된 신용카드 사기 탐지나 보험 인수 심사 규칙이 대표적이다. 이는 변화에 취약하고 유지보수가 어려운 전형적인 기술 부채다. 여기서 우리는 ‘Smell of ML’을 발견할 수 있다.

수년간 축적된 방대한 거래 데이터와 그 결과(정상/사기)가 바로 ‘컨텍스트 데이터’ 이며, 규칙보다 더 정확하게 사기를 예측하는 것이 ‘명확한 목표’ 다. SW 아키텍트는 이 복잡한 규칙 엔진을 데이터로부터 패턴을 스스로 학습하는 머신러닝 모델(예: Gradient Boosting, Deep Learning)로 대체하는 아키텍처를 설계할 수 있다. 이를 통해 시스템은 새로운 사기 패턴에 스스로 적응하며 진화하는 유기체가 된다.
둘째, 데이터 계층의 ‘수동 최적화의 냄새(Smell of Manual Optimization)’ 다. 대용량 데이터베이스의 쿼리 성능이 저하될 때마다 데이터베이스 관리자(DBA)가 수동으로 인덱스를 튜닝하고 실행 계획을 조정하는 것은 고비용 비효율 작업이다. 이 또한 ‘Smell of ML’이다. 데이터베이스의 실시간 워크로드, 쿼리 패턴, 시스템 부하가 ‘컨텍스트 데이터’ 이며, 성능 저하 없이 최적의 상태를 유지하는 것이 ‘명확한 목표’ 다.
이를 해결하기 위해 ‘자율운영 데이터베이스(Autonomous Database)’ 아키텍처를 도입할 수 있다. AI가 워크로드를 실시간으로 분석해 최적 인덱스를 자동으로 생성하고, 자원을 동적으로 할당하며 스스로 성능을 튜닝한다.
셋째, 사용자 인터페이스(UI) 계층의 ‘데이터 오염의 냄새(Smell of Data Contamination)’ 다. 사용자의 잦은 오타나 비표준 용어 입력은 시스템 데이터의 품질을 저하시키는 주범이다. 과거에는 데이터를 저장한 뒤 후처리(Batch Cleansing)하는 방식에 의존했지만, 이는 이미 오염된 데이터가 시스템 내부에 유입된 후다.
여기서의 ‘컨텍스트 데이터’는 기존에 축적된 양질의 데이터와 사용자의 입력 패턴이며, ‘명확한 목표’는 입력 단계에서부터 데이터의 정합성을 확보하는 것이다. 아키텍트는 입력 폼(Form) 자체에 자연어 처리(NLP) 모델을 내장, 사용자의 의도를 파악하고 오타를 실시간으로 교정해주거나 표준 용어를 추천하는 ‘사전 예방적 데이터 정제(Proactive Data Cleansing)’ 구조를 설계해 데이터 품질 문제의 근원을 차단할 수 있다.
결론적으로 AI 시대의 SW 아키텍트는 단순히 새로운 시스템을 설계하는 것을 넘어, 기존 시스템의 아키텍처를 진단하고 AI를 활용해 기술 부채를 상환할 수 있는 전략적 기회를 포착해야 한다.
시스템 곳곳에 숨겨진 ‘Smell of ML’을 찾아내 비즈니스 로직, 데이터, UI에 이르기까지 다층적인 AI를 심어 넣음으로써, 시스템을 더 똑똑하게 만드는 동시에 더 건강하게 만드는 것, 이것이 바로 AI를 기술 부채 해결사로 활용하는 새로운 아키텍처의 패러다임이다.
다음 편에서는 시야를 더욱 넓혀, 미중 기술 패권 경쟁과 같은 지정학적 변화가 만들어내는 ‘다극화 세계’ 속에서 SW 아키텍트가 어떤 새로운 역할과 책임을 마주하게 되는지 그 거시적인 도전에 대해 이야기해 보겠다.
◆ 나희동 크리스컴퍼니 대표는....
-정보관리기술사 (54회), SW아키텍트 (CPSA), 수석감리원
-전남대학교 산업공학과, 서울과학기술대학교 컴퓨터공학 석사
-CMU SEEK 1기 MSE, UTD SW MBA 수료
-전/투이컨설팅 SW아키텍처 담당 이사, 마르미III 개발참여
관련기사
- [크리스의 SW아키텍트⑮] 기술을 넘어 사람을 향하는 아키텍처2025.09.22
- [크리스의 SW아키텍트⑭] 반복되는 전산 먹통 해법은?...코드가 문제 아니다2025.09.14
- [크리스의 SW아키텍트⑬] AI와 유통...아마존과 쿠팡의 새 고민2025.09.06
- "장애 3시간 이내 복구" 공언했던 정부, 국정자원 화재로 허점만 보였다2025.09.27
-전/싸이버로지텍 기술연구소 및 플랫폼사업본부 상무
-전/동양시스템즈 솔루션사업본부 본부장
*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.