LG CNS, 기업용 생성형 AI 플랫폼 ‘DAP 젠AI’ 출시

LG CNS가 기업 고객을 위한 생성형 AI 플랫폼 ‘DAP 젠AI(DAP GenAI)’를 출시했다고 12일 밝혔다.

DAP 젠AI는 AI 서비스 ▲AI 프롬프트 ▲LLM옵스(LLMOps) 등 3대 모듈로 이뤄져 있다. 기업 문서, 데이터베이스 등 내부 정보자산만을 활용하고, 다양한 보안 필터 등을 적용할 수 있어 거짓이나 왜곡된 내용을 생성하는 정보 왜곡현상(할루시네이션)을 방지하고 외부 유출 등의 보안 사고도 차단한다.

AI 서비스는 생성형 AI 서비스를 빠르게 기획·개발·배포·운영하고자 하는 기업을 대상으로 개발됐다.

오픈AI의 ‘챗GPT’, 앤트로픽의 ‘클로드’, 구글의 ‘팜2, LG AI연구원의 ‘엑사원’ 등 LLM을 활용해 문서 요약, 분류와 같은 단순한 AI 서비스부터 상품 추천, 자료 기반의 보고서 작성 등과 같은 복잡한 영역의 서비스까지도 만들 수 있다.

금융사에서 소비자를 위한 보험상품 추천 AI 서비스를 개발하고 싶다면 ▲질문을 입력한 소비자 정보를 확인할 기업의 고객정보 데이터베이스 ▲알맞은 상품을 검색해주는 프롬프트 ▲추천과 답변에 적합한 LLM을 각각 선택해 설정하면 된다.

개발이 완료된 서비스는 플랫폼을 통해 실제 운영 환경에 맞춰 테스트도 가능하다. 이를 통해 발생할 수 있는 다양한 오류를 사전 파악해 해결함으로써 서비스 품질을 한층 높일 수 있다. 모든 서비스는 플랫폼을 통해 사내에 공유할 수 있어 이를 활용해 다양한 파생 서비스를 만들 수도 있다.

AI 서비스에는 기업의 생성형 AI 활용 최대 이슈인 내부 정보유출 방지를 위한 필터 기능도 탑재돼 있다. 고객은 서비스 개발 시 주민등록번호, 휴대전화번호와 같은 개인정보를 비식별화하는 등 LG CNS가 사전 등록한 보안 필터들을 활용할 수 있다.

또한 고객의 내부 보안 규정에 맞춰 필터를 직접 생성해 적용하는 것도 가능하다. 특정 기술정보나 비밀정보에 해당하는 단어와 문장을 식별해 답변하지 않도록 고객이 직접 필터를 만드는 식이다.

AI 프롬프트는 생성형 AI의 활용에 있어 가장 중요한 ‘프롬프트’를 만들 수 있는 모듈이다. 프롬프트가 중요한 이유는 질문을 어떻게 입력하는 지에 따라 AI가 출력하는 결과값이 크게 달라지기 때문이다. ‘AI 프롬프트’에는 AI가 정교한 답변을 할 수 있도록 명령어를 만드는 ‘프롬프트 엔지니어링’ 노하우가 탑재돼있다.

고객은 마케팅 문구 생성 등과 같이 LG CNS의 전문가들이 미리 구현해둔 프롬프트를 즉시 사용하거나, 이를 기반으로 최적의 결과를 얻을 수 있는 새로운 프롬프트를 만들어 업무에 빠르게 적용할 수 있다.

LLM옵스는 기업이 엑사원이나 다양한 오픈소스 LLM을 파인튜닝(미세조정) 함으로써 비즈니스에 특화된 LLM을 만들 수 있도록 한다. 민감한 데이터를 다루는 금융, 공공 등 분야와 같이 ‘프라이빗 LLM’을 보유하고자 하는 고객을 위한 모듈이다.

고객은 원하는 LLM을 선택해 보유하고 있는 데이터를 학습시킬 수 있다. 은행을 예로 들면 보유한 대출·연금·펀드상품 등 다양한 데이터를 LLM에 학습시킴으로써 해당 은행의 정보만이 담긴 ‘프라이빗 LLM’을 만드는 것이다. 이 같은 ‘프라이빗 LLM’을 구축하면 내부 정보를 외부로 전송하지 않고도 다양한 AI 서비스를 만들 수 있다.

LLM을 학습시킬 때에는 파라미터 값을 별도 설정해 LLM의 성능도 유연하게 조정할 수 있다. 학습 과정은 실시간으로 모니터링 가능하다. 따라서 진행상황을 보면서 학습을 멈추고 데이터를 조정하는 등의 개입을 할 수 있다.

LLM옵스는 만들어진 모델들간 성능 비교도 지원한다. A라는 LLM에 학습시켜 만든 모델과, B라는 LLM에 학습시킨 모델을 선택해 동일한 질문을 입력하고 그 결과값을 확인하는 식이다. 이를 통해 고객은 최적의 결과를 도출하는 LLM을 구현할 수 있다.

LG CNS는 고객이 상황별로 서비스 최적의 LLM을 선택해 활용할 수 있도록 ‘DAP GenAI’를 지속 고도화해나갈 계획이다. 복수의 LLM을 활용하는 고객 맞춤형 ‘멀티 엔진’ 전략의 일환이다.

LG CNS는 언어를 포함해 이미지, 코딩 등 분야의 생성형 AI 서비스 모델을 확보하며 사업을 가속화하고 있다.

LG CNS는 최근 멀티모달 기반의 이미지 생성형 AI인 ‘드래그(DRAG)’를 개발했다. 멀티모달은 텍스트, 이미지, 음성 등 다양한 방법으로 AI서비스에 입출력 할 수 있는 기술을 의미한다. 드래그를 활용하면 창작자들의 작업 시간을 줄이고, 비전문가들도 자신이 원하는 이미지 창작물을 만들 수 있다. 지난 6월에는 코드 생성형 AI인 ‘AI코딩(AI Coding)’을 공개하기도 했다.