[기고] 기업 IT 운영, AIOps 넘어 'AI 복원력' 시대 온다

박기은 티맥스소프트 부사장·연구본부장

인류 최고의 고전 '오디세이아'는 최근 개봉한 영화의 흥행을 계기로 다시 한번 재해석되고 있다. 오디세우스를 트로이 전쟁을 승리로 이끈 전략가로 기억할 수도 있지만 소설 속 그의 진짜 이야기는 전쟁이 끝난 뒤 고향으로 돌아가는 여정에서 시작된다.

그는 오늘날 IT 보안 공격의 은유로도 쓰이는 트로이 목마 전술로 하나의 문명을 무너뜨릴 만큼 전쟁에서 승리했지만 곧장 고향으로 돌아가지 못했다. 배를 잃고 동료를 잃었다. 한때 기억마저 잃으며 수없이 죽음의 문턱을 넘나들었다. 만약 이 이야기가 전쟁의 승리와 완벽한 계획의 성공담에 그쳤다면 3000년이 지난 지금까지도 사람들이 깊이 빠져드는 고전으로 남지 못했을 것이다.

오디세우스의 이야기는 끊임없이 발생하는 위기 속에서 적응하고 복구하며 다시 출발하는 과정의 연속이라 할 수 있다. 이러한 소설의 플롯에서 기업 IT 환경에서 '복원력'이 중요하다는 점을 떠올릴 수 있는 것은 인류의 역사가 이에 맞닿아 있기 때문은 아닐까?

박기은 티맥스소프트 부사장·연구본부장(사진=티맥스소프트)

지난 수십 년간 기업 IT의 이상적인 목표는 명확했다. 장애가 없고 성능이 좋은 시스템을 만드는 것이었다. 더 좋은 하드웨어를 도입하고 더 안정적인 소프트웨어를 개발하며 더 정교한 운영체계를 구축하는 이유도 결국 IT 장애를 줄여 비즈니스의 연속성을 늘리기 위함이다.

이러한 장애 관리 개념은 IT 복원력으로 확장됐다. 어차피 장애를 100% 방지할 수 없다면 빠른 조치와 빠른 정상화를 위한 노력과 장치가 필요하다는 것이다. 물론 그렇다고 장애 방지의 중요성이 낮아지는 것이 아니다. 장애가 발생했을 때 빠른 복원이 중요하다는 점을 강조한다.

인공지능(AI) 시대에 들어오면서 IT 복원력을 갖추는 범위가 더 확장되고 있다. 생성형 AI와 AI 에이전트 기술의 발전으로 AIOps 운영 자동화 체계 도입이 한창이다. AIOps 체계에선 엔터프라이즈 운영 관리 도구 솔루션의 AI 에이전트가 소프트웨어를 설치하고 형상과 설정을 구성한다. 장애와 이벤트를 분석하고 조치 가이드도 해 준다. 기업들은 이로써 더 높은 생산성과 더 빠른 의사 결정, 더 높은 운영 효율과 낮은 운영 비용을 기대한다.

그러나 현실은 생각보다 복잡하다. IT 복원력이 AI 복원력으로 확장되면 더욱 그렇다.

AI는 기존 소프트웨어와 다르다. 전통적인 소프트웨어는 개발된 스펙에 맞춰 안정적으로 동작하도록 하는 것이 목표이고 가치였다. 얼마나 많은 기능인가의 문제였다. IT 운영은 개발된 시스템을 정상 상태로 유지하기 위해 운영자가 미리 정해진 절차와 방법을 따르는 것이 중요했다.

하지만 AI 에이전트가 의존하는 거대언어모델(LLM)은 항상 미리 정해진 방식으로만 동작하지 않는다. AI 에이전트는 운영자와는 다른 판단과 다른 행위를 할 수 있으며 그것도 사람보다 훨씬 빠른 속도로 다량의 일처리를 한다.

AI 에이전트를 이용한 업무 수행은 에이전트 내에 코딩된 워크플로우와 AI 모델에게 주어지는 프롬프트와 컨텍스트 정보들에 의해 결정된다. 하지만 두뇌 역할을 하는 AI 모델 자체가 스스로 생각하고 판단하는 것과 학습된 데이터 중 확률적으로 유사한 데이터를 조합하는 경계에 서 있다. 바로 이 모호한 경계 위에서 '대답하는 존재'를 넘어 '행동하는 존재'로 확장된 것이 AI 에이전트라서 항상 확률적인 문제, 즉 흔히 말하는 환각 현상이 존재한다.

문제는 AI가 실수할 수 있다는 사실이 아니다. AI가 실수했을 때 그것을 인지할 수 있는가다.

그래서 에이전틱 AI 시대 AIOps가 적용된 IT 운영은 AI가 얼마나 신뢰할 수 있는 운영 행위를 하는가, 어떻게 하면 돌이킬 수 없는 행위가 벌어지지 않도록 제어하고 감시할지에 대해서도 많은 고심을 하게 된다. AI 거버넌스와 AI 가드레일의 중요성이 여기에 있다.

기존 IT 복원력은 장애가 발생했을 때 어떻게 빨리 복원할 것인가에 초점이 맞춰졌다. AI 복원력은 장애 회복에 더해서 AI가 틀렸을 때 얼마나 빨리 발견할 수 있는가, AI가 잘못된 행동을 했을 때 영향을 최소화할 수 있는가, AI가 공격했을 때 어떻게 AI로 방어할 수 있는가로 확대된다. 운영 데이터를 분석하고 이상 징후를 탐지하며 장애 원인을 찾는 AIOps 기능을 운영 자동화뿐만 아닌 운영 복원력 관점에서 설계해야 한다는 의미다.

현재 AIOps의 목적이 장애를 더 빨리 탐지하고 운영 효율을 높이는 데 있다면, 앞으로의 AIOps는 회복력을 설계하는 플랫폼으로 진화해야 한다. AI 모델과 에이전트, 애플리케이션, 데이터 파이프라인 전반에 대한 가시성도 확보해야 한다.

AIOps 에이전트의 실행 권한을 승인할 수 있는 단계를 설계하고 이상 행동에 대한 원인 분석과 필요한 조치를 수행하는 체계가 필요하다. AI의 행동을 설명할 수 있는 관측성, 정책 기반의 거버넌스, 보안이 함께 갖춰져야 한다.

오디세우스는 맞닥뜨린 수많은 위기를 통제하기보다는 위기를 극복하며 앞으로 나아갔다. 마찬가지로 AI 시대 기업도 IT 장애와 보안 침투, AI 오류를 완전히 사전 제거할 수는 없다. 그러나 회복력은 설계할 수 있다. AI 시대에는 신뢰 없는 혁신도 안정성 없는 생산성도 의미가 없다.

오디세우스는 모든 위험을 제거했기에 영웅이 아니라 10년 동안의 귀향길에 벌어지는 수많은 위기를 극복했기에 매력적이다. IT 장애, 보안 침투, AI의 오류를 완전히 막을 수 없는 AI 시대 기업도 마찬가지다. AIOps를 넘어 AI 복원력으로의 전환, 기업 IT 운영의 새로운 패러다임에 적응하는 기업이 매력적이다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.