[현장] 혁신하는 기업의 챗GPT 엔터프라이즈 활용법, 무엇이 다를까

"같은 챗GPT를 써도 기업마다 결과는 완전히 달라집니다. 중요한 건 도구가 아니라 이를 조직 데이터와 업무에 얼마나 깊게 연결하느냐입니다."

LG CNS 김희영 팀장은 27일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'AX 페어 2026'에서 챗GPT 엔터프라이즈 활용 사례를 소개했다.

그는 단순히 개인 생산성 향상 위해 AI를 활용하는 것이 아니라 팀과 조직 차원의 업무 혁신 실현 방안을 제시했다.

김 팀장은 현재 국내 챗GPT 월간활성사용자수(MAU)는 2300만 명에 달하며 직장인 절반 이상이 업무에 AI를 활용하고 있다고 소개했다.

하지만 업무 시간 감소 비율은 하루 1시간 30분 수준으로 대부분 개인 차원의 검색이나 아이디어 발굴 수준에 머무르는 경우가 많다고 지적했다. 이어 이제는 조직의 데이터와 업무 프로세스에 연결해 실질적인 생산성을 끌어올리는 단계로 나아가야 한다고 말했다.

김 팀장은 기업이 AI 도입이 제대로 이뤄지지 않은 이유로 데이터 보안, 결과 신뢰성, 업무 프로세스 연계 등 세 가지를 꼽았다. 그는 "기업 데이터는 민감한 정보를 담고 있기 때문에 외부 유출에 대한 우려가 크고, AI가 생성한 결과를 얼마나 신뢰할 수 있는지에 대한 고민도 여전히 존재한다"며 "여기에 다양한 업무 흐름과 승인 체계를 어떻게 AI와 연결할지까지 고려해야 조직 차원의 확산이 가능하다"고 설명했다.

이어 챗GPT 엔터프라이즈가 이러한 기업의 고민을 해결할 수 있도록 다양한 사내 시스템 연동 기능과 커스텀 GPT 구축 기능을 제공한다고 소개했다. 마이크로소프트 365(M365), 세일즈포스, 지라 등 업무 시스템과 데이터를 연결하고 이를 기반으로 조직 맞춤형 AI 에이전트를 만들어 활용할 수 있다는 설명이다.

실제 고객사 적용 사례도 공개했다. 한 재무 기업은 기업 공시 정보를 매일 수작업으로 확인하던 업무를 챗GPT 엔터프라이즈 기반 워크 에이전트로 자동화했다 . 다트(DART) 정보를 연계하고 캐시 파일을 연결해 신규 공시 자료만 식별하도록 구현해 신규나 변경된 공시 여부를 자동으로 확인하고 주요 내용을 요약해 담당자는 자동으로 관련 메일을 받아 볼 수 있다.

김 팀장은 "반복적으로 확인해야 하는 업무를 AI가 대신 수행하면서 공시 누락 없이 더 빠르게 재무 정보를 파악할 수 있게 됐다"고 말했다 .

다른 기업은 과거 투자 전략과 재무 데이터, 사업 성과 자료를 AI와 연결하고 스와트(SWOT) 분석, 시장 성장성 등 분석 룰을 적용해 전략 시나리오를 생성하고 리스크와 투자수익률(ROI)을 비교·분석하도록 설계했다. 환각 방지를 위해 그라운딩과 컨텍스트 제어 기술을 도입하고 사람이 리뷰할 수 있는 근거 자료까지 제시하도록 보완했다.

그는 "기존에는 전략 시나리오를 만들고 분석하는 데 약 2주가 걸렸지만 챗GPT 적용 이후 하루 만에 초안을 확인할 수 있었다"며 "의사결정 속도 역시 평균 2.5배 이상 빨라졌다"고 밝혔다.

임상 데이터 검증 사례도 소개됐다. 외부 기관이 제출한 원본 데이터와 보고서 등 여러 데이터 커넥터를 연결하고, 중간에 분석 에이전트를 두어 구조와 내용을 분석한 후 교차 검증과 이상 탐지를 수행하도록 했다. 여기에 셀프 QA 기능을 넣어 검증 품질을 높이고 분석 보고서를 자동 생성하는 방식을 도입했다.

김 팀장은 "단순한 텍스트 생성에 그치지 않고 복잡한 데이터를 분석해 그래프까지 생성하는 형태로 활용 범위가 확장되고 있다"고 설명했다.