[박준성의 SW] AI 에이전트 성공의 핵심 조건

생성형 AI 에이전트(Generative AI Agent)는 생성형 AI 기본모델(Foundation Model)을 기반으로 한다. 사용자가 설정한 목표를 달성할 때까지 환경을 인지하고 스스로 계획을 수립하며, 다양한 툴(SW, DB, 분석형 AI 모델, 타 에이전트 등)을 선택해 정책과 거버넌스 범위 내에서 자율적으로 작업(Action)을 반복 수행하는 지능형 소프트웨어 시스템이다.

기업의 SW 신기술(웹, 모바일, 소셜, 클라우드, IoT, AI 등)을 기반으로 한 정보시스템 및 경영의 혁신은 종래 전략적 목적을 설정해 놓고, 그 달성을 위해 전사 아키텍처(EA), 비즈니스 분석(BA), 메타데이터 관리(MDM), 비즈니스 프로세스 관리(BPM), 서비스 지향 아키텍처(SOA) 등 엔터프라이즈 IT(Enterprise IT) 전문가들의 창의적 분석과 설계에 의존해 왔다.

이런 점에서 AI 에이전트는 목표 지향적 업무 프로세스에 새로운 형태의 제한적 자율성을 부여하는 혁신적 시도라 할 수 있다. 과연 생성형 AI 기반의 반자율적(Semiautonomous) 의사결정과 작업 실행이 비즈니스 애널리스트, 엔터프라이즈 아키텍트, 비즈니스 아키텍트, SW 아키텍트, SW 엔지니어 등 전문가 집단지성의 협업적 의사결정에 필적할 만한 성과를 낼 수 있을까?

2025년 맥킨지(McKinsey) 보고서 'One Year of Agentic AI: Six Lessons from the People Doing the Work'는 AI 에이전트를 개발한 60여 개 기업의 성공과 실패 경험을 바탕으로 경영성과를 높이기 위한 핵심 원칙을 제시했다. 이에 기반해, 필자는 AI 에이전트를 통해 가시적 경영성과를 달성하기 위한 필수 요소를 다음 네 가지로 요약한다.

첫째, 고객 접점 업무 뿐 아니라 재고, 생산, 구매, 재무, 인사 등 백엔드 업무의 Pain Point/Gain Point 중 AI 에이전트가 최적 솔루션이 될 수 있는 고가치 사용 사례(Use Case)를 발굴할 것

둘째, 자연어·멀티미디어 데이터를 포함한 도메인 메타데이터와 의미론적 데이터 구조(Ontology/Semantic Layer)를 확립할 것 셋째, 에이전트 활용을 전제로 엔드 투 엔드(End-to-End) 비즈니스 프로세스를 BPR하고, 이를 SOA/API 기반의 모듈형 아키텍처로 구현할 것 넷째, 전문가가 지속적으로 아웃풋(Output) 품질을 평가하고, 실행 단계별 모니터링·가시성(Observability)·피드백 루프를 통해 AI 에이전트를 지속 개선할 것 등이다.

AI 에이전트의 타겟 Use Case 선정

기업 현장의 문제를 SW로 자동화하려 할 때, AI 에이전트가 항상 최적의 솔루션은 아니다. 자동화 방식에는 비즈니스 프로세스 모델, 코드 및 비즈니스 룰 기반 자동화, 분석형 AI와 OR(Operations Research) 기반 자동화, 생성형 AI 기반 자동화, 그리고 목표지향적 AI 에이전트 기반 자동화가 있다. 따라서 AI 에이전트는 다른 자동화 방식 대비 고유한 강점을 발휘할 수 있는 영역에 선택적으로 적용해야 한다.

AI 에이전트가 적합한 비즈니스 도메인의 특성은 다음과 같이 요약할 수 있다.

첫째, 구조적/비구조적 데이터, 특히 자연어·멀티미디어 데이터를 포함한 다양한 소스(문서, ERP, CRM, 이메일, 외부 API 등)의 고품질 데이터와 메타데이터/의미론적 구조가 확보되어 있는 경우. 또한 공급망, 자재 구매, 규제 환경 등 동적으로 변화하는 불확실한 환경에서 실시간 정보를 기반으로 상황을 추론하고 행동을 조정해야 하는 경우.

둘째, 높은 처리량과 속도를 요구하는 반복적·지식집약적 작업(보고서 작성, 개인화 마케팅, 고객 지원, 보험 심사, 복합적 규제 대응, 위협 대응 등)으로서 데이터 합성, 맥락 이해, 추론, 의사결정, 후속 실행까지 포함하는 경우. 이 경우 ROI(비용 절감, 매출 증대, 처리 속도 향상 등)를 측정할 수 있어야 한다.

셋째, 여러 부서·시스템·데이터 소스를 포함하는 End-to-End 복합 워크플로우에서 입력 및 상황의 가변성이 높아 프로세스 표준화나 고정 규칙 기반 자동화가 부적절하고, 목표 달성을 위해 단계별로 유연한 계획 수립과 실행 조정이 필요한 경우. 단, 성공 지표, 규제, 예외 처리, 승인 절차 등 명확한 정책·가드레일을 설정할 수 있어야 한다. 예컨대, 보험금 청구 처리, 계약서 검토, 은행 고객 지원, 공급망 조정, 제조 품질 문제 해결, 차량 음성 지원 등.

아래 그림은 위에서 언급한 맥킨지 보고서에서 인용한 것으로, 보험회사의 보험금 청구 처리(Insurance Claims Processing) 프로세스에서 Rule 기반, 분석형 AI 기반, 생성형 AI 기반 및 AI 에이전트 기반의 자동화가 복합적으로 적재적소에 적용된 사례다.

보험금 청구 처리 프로세스의 작업별 자동화 툴 (Rule 기반 시스템, 분석형 AI, 생성형 AI 및 AI 에이전트)

아래 표는 산업별로 AI 에이전트의 사용 사례를 요약한 것이다.

AI 에이전트 적용 도메인의 온톨로지(Ontology) 확립

AI 에이전트를 개발할 때 핵심 기반 요소 중 하나는 메타데이터 관리와 의미론적 데이터 구조(Semantic Modeling)를 확립하는 것이다. 온톨로지(Ontology), 지식그래프(Knowledge Graph), 데이터 카탈로그, Taxonomy, Vector DB Tagging, API/Tool Schema 등 메타데이터가 정교하게 정의돼 있어야 AI 에이전트는 데이터의 정확한 의미, 개념적 관계, 용도, 정책 및 제약 조건을 이해할 수 있다.

이를 통해 상황적 지능(Contextual Intelligence)을 강화하고 환각(Hallucination), 잘못된 툴 사용, 정책 위반 가능성을 줄일 수 있다. 즉, 메타데이터와 온톨로지(Ontology)는 AI 에이전트가 단순한 프롬프트 기반 응답 시스템을 넘어 실제 기업 운영 환경에서 신뢰성 있게 작동하도록 하는 핵심 Semantic Control Layer 역할을 한다.

유럽 에어버스(Airbus)는 팔란티어(Palantir)의 Foundry/Ontology 프레임워크를 활용해 항공기 제조, 유지보수, 공급망 운영 데이터를 통합하고, 이를 기반으로 운영 AI 및 Agentic Workflow를 고도화했다. Airbus는 분산된 생산·유지보수·공급망 데이터를 시맨틱하게 통합함으로써 생산 병목 분석, 유지보수 계획 최적화, 공급망 차질 진단, 운영 옵션 평가, 공장 간 워크플로우 조정 능력을 강화했다. 이 통합 Ontology 기반 시스템은 기술자, 운영 관리자, 준법감시인 등 인간 전문가와 협업하며 생산 공정 모니터링, 문제 진단, 해결안 추천 및 운영 조정을 지원한다.

AI 에이전트 적용 프로세스 BPR 및 SOA 구현

위의 맥킨지 보고서에서 예시한 보험금 청구 처리 프로세스를 실제로 AI 에이전트를 이용해 자동화한 사례로 미국에서 2015년 창업한 보험회사 Lemonade를 들 수 있다.

AI 에이전트 기반 보험금 청구 프로세스의 재설계에 다양한 기존 BPR 패턴을 적용할 수 있다.

-Non-Value-Adding Activity 제거: 데이터 입력 자동화

-Parallelism: 손해사정과 사기탐지 병렬 처리

-Case Management: 실시간 협업 조정

-Self-Service: 고객 직접 처리

=Empowerment: 단순 사고의 손해사정사 개입 없이 현장 직원 직접 처리

한편 AI 에이전트 적용 시 새롭게 나타나는 BPR 패턴들도 있다.

-Dynamic Rule Adaptation: 상황적응적 의사결정

-Dynamic Process Orchestration: 목표 중심의 상황적응적 워크플로우

재설계된 프로세스는 SOA/API 중심의 모듈형 서비스 구조로 구현될 수 있으며, 재사용 가능한 AI 서비스는 다양한 프로세스에서 공유할 수 있다. 재사용 서비스로 정보 추출, 사기/위험 탐지, 옴니채널 고객 대응, 규제 준수, Best Practice 추출 등을 들 수 있다.

세일즈포스사의 Agentforce는 CRM, 서비스, 공급망 등 다양한 프로세스에서 Agentic Workflow를 구현하는 SaaS 플랫폼이다. 예컨대, 고객이 Agentforce CRM에 제품 반환 및 환급 요청 프롬프트를 입력하면, 오케스트레이션 엔진인 Atlas가 Agentic Loop를 실행해 고객에게 60초 내에 환급 및 Prepaid Return Label 이메일을 완전자동으로 전송한다.

고객 서비스, 마케팅, 판매, 재고, 구매, 공급망 운영, 물류, 예지보전 등의 기능을 제공하는 Agentforce의 연매출은 1년 반 만에 1조 원을 넘는 빠른 매출 성장률을 기록했다. 예를 들어, Siemens는 판매에, PepsiCo는 재고 관리에, Dell은 공급망 관리에, Indeed는 마케팅에, Deloitte는 CRM에 사용하고 있다.

아래 BPMN 프로세스 다이어그램은 Agentforce의 Agentic Workflow를 보여준다. execute Multi-Step Agentic Workflow 서브프로세스는 BPMN에서 ~(Tilde)로 표시되는 Ad Hoc 서브프로세스로 태스크 수행 순서가 사전에 고정되지 않고 목표 달성을 위해 실시간 컨텍스트에 따라 유연하게 결정되는 프로세스이다. 정책 및 가드레일 조건을 충족하는 다수의 표준 고객 요청은 고객 셀프서비스 방식으로 자동 처리되며, 예외적이거나 복잡한 경우에만 Reasoning and Intent Analysis 태스크의 Escalation Boundary Event를 통해 인간 직원의 수동 프로세스로 전환된다.

이 구조는 전통적인 확정적(Deterministic) 워크플로우와 달리 표준 절차를 일률적으로 따르기보다 각 상황의 맥락과 목표에 맞춰 워크플로우를 동적으로 조정한다. 또한 적절한 데이터·이벤트 신호가 존재할 경우 선제적 대응(Proactive Service)도 가능하게 한다. 그 결과 고객 만족도 향상, 처리 속도 개선, 운영비 절감을 동시에 달성할 수 있다.

AI 에이전트와 전문가 협업 (Human-in-the-Loop)

미국의 글로벌 SI 기업 액션추어(Accenture)는 생성형 AI, AI 에이전트, 물리적 AI를 활용한 기업 혁신 서비스를 핵심 성장 전략으로 삼고, 고객사의 비즈니스 프로세스 재설계와 AI 기반 운영 모델 전환을 지원하는 AI-Driven Enterprise Reinvention Services 사업을 확대하고 있다.

이 사업은 NVIDIA와 협력하여 구축한 AI Refinery를 이용해 고객 데이터 기반의 맞춤형 AI/Agentic 솔루션, 산업별 프레임워크, 거버넌스 체계를 제공하고 있다. 그 결과 2023~2025년간 100% 이상의 수주 성장률을 보이면서 누적 수주 17조 원을 달성했다. 동 사업은 다음과 같이 3단계의 표준 서비스 이행 프로세스를 적용한다.

프랑스 항공사 Air France-KLM사는 액센츄어와 협력해 항공기 유지보수 및 운영 혁신을 위한 AI 에이전트를 개발했다. AI 에이전트의 주요 기능은 정비 이슈 분석 지원, 유지보수 문서 검색, 수리 작업 추천, 기술자 워크플로우 조정, 운영 효율 개선 등이다. Human-in-the-Loop는 추천 작업의 기술자 승인, 안전치명적인 결정에 대한 인간 개입, 규제 준수 검토승인과 지속적 피드백을 포함한다.

◆ 필자 박준성 KOSTA 회장은....