KT DS가 AI 사전검증(PoC)을 지원하는 ‘ABC랩’ 서비스를 출시했다고 12일 밝혔다.
SaaS 형태로 제공되는 ABC랩은 기업 고객들이 AI 도입 시 겪는 비용, 보안, 인력 등에 대한 다양한 고민을 해결해 주는 MS 애저 기반의 서비스다. PC만 있으면 고성능 GPU 인프라에서 운영되는 생성형 AI 솔루션을 온라인에서 저비용으로 손쉽게 이용할 수 있다.
고객은 ABC랩을 통해 자사 데이터에 직접 AI 아이디어를 적용하여 사전 검증하고, AI 적용 가능성과 효과를 미리 파악한다. 온오프라인으로 수행한 PoC는 성공적인 AI 혁신을 도와 기업의 성과를 극대화 한다.
ABC랩의 주요 특징은 다양한 LLM 체험, 고객사에 특화된 LLM 파인튜닝 지원, 강력한 보안 및 데이터 관리 등이다.
LLM 체험에는 한국어 처리에 특화된 KT DS의 자체 오픈소스 모델인 ‘ktdsbaseLM’, MS 애자 상의 챗GPT 등 상용 모델 뿐만 아니라, 메타의 ‘Llama’ 등 각종 오픈소스 모델까지 포함한 여러 LLM을 제공한다.
고객사의 데이터로 AI 모델을 훈련하는 파인튜닝 서비스로 고객사만의 맞춤형 LLM 모델을 만들어 지원한다. 데이터 분리가 가능한 멀티 테넌시 기능과 KT그룹의 엄격한 보안 규정을 적용해 기업의 데이터와 고객의 개인정보를 안전하게 관리하고 보호한다.
관련기사
- KT DS, 기반 그룹웨어 ‘Works AI' 오픈2024.11.29
- KT DS가 제시한 손쉬운 멀티 클라우드 관리 비법은?2024.07.25
- KT DS, 남녀고용평등 우수기업 선정2024.05.29
- KT DS, AWS 서밋 서울서 생성형 AI 활용 사례 공유2024.05.16
이 외에도 생성형 AI가 잘못된 정보로 생성하는 환각 효과를 줄이고, 답변의 정확성을 높이기 위해 RAG 방식이 결합된 서비스를 운영한다. 고객사의 정형 비정형 데이터를 RAG에 연결해 더 정확한 답변을 생성하도록 돕는다.
김성우 KT DS 기술혁신단장은 “통신, 금융, 공공 등 다양한 산업 도메인에서 성공적인 디지털 전환(DX) 경험을 바탕으로 AX 솔루션과 AI 기술 역량을 결합해 AI 도입에 필요한 체계적인 사전 시스템과 플랫폼을 구축했다”며 “높은 투자 비용과 사내 전문가 부재로 AI 도입을 주저하는 기업이라면 ‘ABC Lab’의 온오프라인 PoC가 성공적인 AI 도입에 큰 도움이 될 것”이라고 말했다.
