[현장] IBM "성공적인 AI 도입, 모델 넘어 데이터·보안·인프라까지 통합해야"

"기업에서 인공지능(AI)을 성공적으로 활용하기 위해서는 쏟아지는 AI를 어떻게 잘 운영할 것인가가 중요합니다. 기업이 AI를 활용해 실질적인 성과를 내려면 앞단에 보이는 대규모 언어모델(LLM)뿐 아니라 개발 생산성, 최신 데이터, 운영 자동화, 비용, 보안과 권한 관리 등 여러 기반을 함께 갖춰야 합니다."

1일 한국IBM CTO 이지은 전무는 서울 강남구 웨스틴 서울 파르나스에서 열린 'IBM AI 서밋 코리아 2026'에서 기업이 AI를 성공적으로 활용하기 위한 IBM의 주요 서비스와 전략을 소개했다.

IBM AI 서밋 코리아 2026은 '엔터프라이즈 AI 경쟁에서 앞서가기'를 주제로 AI를 실제 비즈니스 가치로 연결하기 위한 기술과 전략을 제시했다.

행사장에는 개발부터 데이터, 운영, 보안, 미래 컴퓨팅까지 기업 AI의 전 과정을 연결한 부스가 마련됐다. 전시장 입구에는 AI가 애플리케이션 개발 계획을 설계하고, 실시간으로 바뀌는 재고 데이터를 분석하며, 복잡한 IT 환경의 취약점과 권한을 관리하는 시연 화면이 이어졌다. 전시장 한편에는 극저온 냉각 장치와 양자 프로세서 구조를 소개하는 양자 컴퓨팅 전시도 마련됐다.

가장 먼저 소개된 기술은 AI 기반 소프트웨어 개발 라이프사이클 파트너 "IBM 밥"이다. IBM 밥은 개발자의 코드 작성을 보조하는 도구를 넘어 요구사항 분석, 설계, 코드 생성, 테스트, 배포, 운영에 이르는 개발 전 과정을 지원하는 솔루션이다.

현장 시연에서는 사용자가 고객 지원 AI 에이전트 개발을 요청하자 IBM 밥은 코드 생성에 앞서 요구사항을 분석한 뒤 애플리케이션 아키텍처와 핵심 구성요소, 개발 화면, 주요 업무 프로세스 등을 담은 계획을 제시했다. 이후 사용자가 계획을 검토하고 승인한 뒤에야 실제 코드 생성 단계로 넘어갔다.

이 전무는 "이러한 방식이 AI가 임의로 코드를 생성하는 데서 발생할 수 있는 위험을 줄이는 동시에, 기업의 개발 표준과 거버넌스를 유지하는 데 도움이 된다"며 "IBM 밥은 코드 생성 외에도 보안 탐지와 기존 애플리케이션 현대화 기능을 제공한다"고 설명했다.

AI 사용량과 비용을 확인하는 대시보드도 함께 선보였다. 기업은 팀이나 개인 단위로 토큰 사용량과 비용을 파악할 수 있으며, 이를 통해 AI 서비스 이용 비용을 예측하고 통제할 수 있다. 관람객이 직접 IBM 밥을 체험해볼 수 있는 공간도 마련됐다.

IBM은 AI 서비스의 정확도와 신뢰성을 높이기 위해 최신성과 실시간성을 갖춘 데이터를 필요한 때 활용할 수 있어야 한다고 강조했다. 이를 위한 'AI 레디 데이터' 관련 솔루션으로 IBM 컨플루언트와 왓슨X 데이터도 소개했다.

전자상거래 환경을 가정해 진행한 시연에서는 주문이 들어올 때마다 재고 수량이 바뀌는 상황에서 여러 시스템에 흩어진 데이터를 실시간으로 통합·저장하고, AI 에이전트가 이를 바탕으로 최신 재고 현황과 이상 징후를 확인하는 과정을 선보였다.

데모 화면에서는 데이터와 연결되지 않은 AI 에이전트가 일반적인 답변을 내놓는 반면, 실시간으로 통합된 데이터에 연결된 에이전트는 실제 재고 수량 변화를 반영한 답변을 제시했다. 담당자가 수시로 데이터를 조회하지 않아도 에이전트가 데이터 흐름을 살피고 이상 감지 여부를 자동으로 확인하는 과정도 소개됐다.

이지은 전무는 "AI 서비스를 잘하기 위한 기반은 데이터"라며 "특히 최신성과 실시간성을 갖춘 데이터를 준비하는 것이 중요하다"고 말했다.

AI 에이전트가 기업 업무에 깊이 들어올수록 운영 환경은 더욱 복잡해지고 보안 위협도 커진다. IBM은 이에 대응하기 위한 기술로 'IBM 콘서트'와 '하시코프'를 제시했다.

IBM 콘서트는 애플리케이션, 인프라, 보안 영역에 흩어진 운영 데이터를 모아 가시성을 제공하는 플랫폼이다. 현장에서는 애플리케이션의 취약점을 실시간으로 파악하고, 관련 인프라와 보안 정보를 연결해 문제의 원인을 추적하는 기능이 시연됐다. 시스템은 분석 결과를 바탕으로 대응 방안도 권고한다.

워크로드의 비정상 상태를 탐지하고, 필요할 경우 인프라 사양 변경을 지원하는 기능도 소개됐다. 운영자가 단순히 장애나 취약점의 발생 여부만 확인하는 것이 아니라, 문제의 원인과 대응 방향까지 함께 살필 수 있도록 돕는다는 설명이다.

AI 에이전트 시대의 권한 관리 중요성도 강조됐다. 사람이 사용하는 애플리케이션보다 빠르게, 더 많은 시스템과 데이터에 접근할 수 있는 AI 에이전트가 늘어날수록 민감 정보와 자격증명을 안전하게 관리해야 하기 때문이다.

IBM은 하시코프 볼트를 활용해 사용자와 AI 에이전트의 신원 및 권한을 확인하고, 필요한 범위에서만 임시 자격증명을 발급하는 방식을 소개했다. 사용자가 로그인한 뒤 자신에게 부여된 권한 안에서만 AI 에이전트를 통해 데이터베이스나 API에 접근할 수 있도록 하는 구조다. 권한이 없는 사용자의 요청은 차단한다.

IBM은 하시코프 볼트가 AI 에이전트 환경뿐 아니라 개발 환경과 하이브리드 클라우드 환경에서 민감 정보와 자격증명을 관리하고 자동화하는 데에도 활용될 수 있다고 설명했다.

차기 AI 인프라 경쟁을 위한 로드맵 기술로 양자 컴퓨팅도 소개됐다. 한국IBM 표창희 상무는 AI 모델 고도화와 산업 현장의 복잡한 문제 해결 수요가 커지면서 기존 고성능컴퓨팅(HPC)과 그래픽처리장치(GPU)만으로 처리하기 어려운 연산 과제가 늘고 있다고 설명했다.

양자 컴퓨터는 복잡한 최적화, 신소재 및 신약 개발을 위한 분자 시뮬레이션, 금융 모델링 등에서 기존 컴퓨팅의 한계를 보완할 수 있는 차세대 연산 자원으로 주목받고 있다는 설명이다.

다만 양자 컴퓨터가 AI 인프라를 대체한다는 의미는 아니다. 표 상무는 양자처리장치(QPU)를 슈퍼컴퓨터, GPU 등 기존 컴퓨팅 자원과 결합해 활용하는 "양자 중심 슈퍼컴퓨팅"을 미래 방향으로 제시했다. AI와 HPC, 양자 컴퓨팅이 각각 강점을 지닌 연산을 분담하는 하이브리드 구조가 핵심이라는 것이다.

표 상무는 "양자 컴퓨팅은 기존 슈퍼컴퓨터나 GPU를 대체하는 기술이 아니라, 각 컴퓨팅 자원의 강점을 결합해 복잡한 문제를 푸는 하이브리드 컴퓨팅의 한 축"이라며 "일본 이화학연구소(리켄)의 슈퍼컴퓨터 '후가쿠'와 양자 컴퓨터 연계 사례는 이러한 활용 가능성을 보여준다"고 말했다.