LG CNS, 'AI 오케스트레이션'으로 생성 AI 접근성 확대

마이크로소프트(MS)와 오픈AI 서비스 계약을 맺은 LG CNS가 기업용 생성 인공지능(AI) 서비스를 일부 공개했다.

LG CNS는 최근 진행한 라이브 웨비나를 통해 챗GPT를 사내 업무에 도입한 사례를 소개했다. 더불어 챗GPT 도입을 위해 개발한 솔루션을 발전시켜 곧 엔터프라이즈 전용 대외 서비스로 출시하기 위한 사업 전략도 함께 공개했다.

LG CNS의 챗GPT 사업 사례는 AI컨택센터(CC)가 있다. 24시간 365일 고객 문의에 응대하는 챗봇, 고객 문의 실시간 분석을 기반으로 상담원의 상담 품질을 높이는 답변 추천 서비스, 상담 빅데이터 분석을 통해 고객에게 필요한 상품을 추천하는 개인화 마케팅 등을 지원한다.

챗GPT의 높은 언어 이해력이 적용된 상담 챗봇은 고객 사용자에 맞춰 부드러운 언어를 사용하거나, 경쟁사의 명칭과 제품명을 언급하거나 비교하지 않도록 조건을 설정할 수도 있다.

고객 맞춤형 탐지 대응(MDR) 보안 서비스도 개발한다. 생성AI로 위협 요소를 사전에 분석·발견해 외부 공격을 사전에 방지하고, 엔드포인트 탐지대응(EDR), 네트워크 탐지대응(NDR) 등과 결합해 일부 취약점이 노출되더라도 빠르게 감지하고 자동으로 대응 방안을 마련할 수 있는 보안 체계를 마련한다는 방침이다.

또한 LG그룹 제조사를 대상으로 제품 고장 문의전화를 대신 응대하는 챗봇을 개발 중이다.

엔터프라이즈용 챗GPT 서비스 개발에 앞서 LG CNS는 챗GPT 같은 대규모 언어모델(LLM) 기반 생성AI에 대한 고객사의 도입 의사와 우려되는 점을 조사했다고 밝혔다.

조사 결과 많은 기업이 혁신과 경쟁력 확보를 위해 도입을 원하지만, 재학습(파인튜닝)의 어려움을 주요 장애 요인으로 꼽았다. 이로 인해 부정확한 답을 생성하는 환각현상이 발생하거나 기업 특화된 서비스를 구현하기 어렵다는 것이다. 개인정보 유출 등 보안 문제와 아직 생소한 프롬프트 사용법도 문제점으로 지적됐다.

LG CNS는 조사결과에 맞춰 생성AI 서비스 오퍼링을 발견(discovery), 통합(integration), 최적화(optimization)로 구성한 AI 오케스트레이션을 개발했다. AI 오케스트레이션은 LG CNS 내부 업무를 챗GPT와 연동해 효율성을 극대화하고 차별화된 AI기능을 제공하는 서비스다.

디스커버리는 사전학습 된 챗GPT를 업무에 가장 효과적으로 사용할 수 있는 방안을 발굴해주는 컨설팅 서비스다. 재학습이 어렵거나 데이터이동의 제약 등이 있는 상황에서 기업의 데이터를 분석해 가장 효과가 높은 생성 AI업무나 과제를 추천하고 비슷한 사용사례도 함께 소개해 효율성을 극대화할 수 있도록 돕는다.

LG CNS 임은영 AI 전략사업팀장은 “하루에도 몇 번씩 최신화 되는 데이터로 인해 매번 LLM을 재교육시키는 것은 비용, 시간적으로 비효율적인 작업”이라며 “이런 한계와 전제 조건들을 고려했을 때 기존 학습한 LLM으로 가장 적합한 과제를 해결하는 것이 현실적인 해법”이라고 설명했다.

이어서 “챗GPT 등 생성AI로 창의적인 문구 등을 만드는 것도 중요하지만, 기업 업무의 대부분은 정확한 정보가 반복적으로 필요하다”며 “다만 대부분 AI에 대한 경험이 부족해 이를 판단하기 어려운 만큼 디스커버리를 활용한다면 많은 기업에서 성과를 거둘 수 있을 것”이라고 소개했다.

통합은 기업 내 문서, 업무 시스템과 챗GPT를 연계하기 위한 솔루션이다. 이를 통해 개인정보 및 중요정보를 식별하고 유출을 방지하는 보안 필터링과 모니터링 시스템을 구축할 수 있도록 지원한다.

임은영 팀장은 “LG CNS 업무 챗봇은 현재 챗GPT가 적용돼 있으며 마이크로소프트 애저의 오픈 AI API와 연계돼 있다”며 “이를 통해 민감데이터나 기밀, 독점적 성격의 데이터, 내부 소스 코드는 채팅창에 입력하지 않도록 가이드하고 효율적인 보안 모니터링에도 활용하고 있다”고 설명했다.