클라우데라가 기업용 인공지능(AI) 시장을 겨냥해 새로운 무기를 꺼내들었다.
클라우데라는 실시간 기업 데이터를 활용해 AI의 모든 가치를 실현할 수 있도록 지원하는 'RAG 스튜디오(RAG Studio)'를 12일 발표했다.
새로운 RAG 스튜디오는 고객이 실시간 기업 데이터를 사용해 몇 분 안에 RAG 챗봇을 배포할 수 있도록 지원한다. RAG 스튜디오는 코드가 필요 없기 때문에 기술 전문가가 아니어도 AI 애플리케이션을 쉽게 사용할 수 있다. 이는 비즈니스, IT 팀 간 AI 개발 협력 강화, 더 많은 사용자가 AI 도구를 활용할 수 있도록 한다. RAG 스튜디오는 온프레미스 또는 클라우드에서 안전하고 신뢰할 수 있는 실시간 데이터를 활용해 기업이 최첨단 기술을 통해 AI의 가치를 실현할 수 있도록 지원한다.
AI 챗봇은 AI 서비스 중 가장 널리 사용되지만 기업들은 부정확한 응답으로 인한 리스크에 지속적으로 노출되고 있다. 챗GPT의 경우 어떤 작업을 하느냐에 따라 성공률이 0.66%에서 89%까지 크게 달라지는 것으로 나타났다. RAG는 검색 기반 시스템과 생성형 AI의 강점을 결합한 강력한 AI 패러다임으로, 개선된 설명가능성과 신뢰도를 통해 향상된 정확도와 문맥 관련성을 제공한다. RAG 지원 챗봇은 일반적인 정보에 의존하지 않고 실시간 기업별 데이터를 기반으로 질문에 답하기 때문에 AI 환각 현상을 현저히 줄여준다.
클라우데라는 RAG 스튜디오가 고객들의 기업 데이터 가치를 극대화하는 한편, 컴퓨팅 집약적 생성 모델에 대한 의존도를 줄여준다는 점을 강점으로 내세웠다. 또 클라우데라 플랫폼과 통합돼 비용이 효율적이고 안전한 AI 워크플로우를 제공하며 지속적인 모델 미세 조정을 제거해 이를 해결한다고 설명했다.
더불어 RAG 스튜디오는 생성된 결과물을 조직에서 승인한 데이터 소스에 직접 연결해 설명 가능성 및 추적 가능성을 내장함으로써 클라우데라의 AI 스택을 강화한다. 이를 통해 검증 가능하고 감사 가능한 데이터를 기반으로 AI 의사결정을 내리고 AI 기반 추천에 대한 투명한 추론을 제공한다. 클라우데라는 RAG 스튜디오가 의료, 금융, 정부 등 규제가 엄격한 산업의 조직들이 활용할 시 신뢰성을 높여줄 수 있다고 봤다.
관련기사
- [인터뷰] "2년 내 韓서 급성장 할 것"…자신감 내비친 클라우데라 CRO, 이유는?2024.08.21
- "기업 AI 도입 너무 어렵다"…글로벌 IT 리더 600명이 꼽은 '걸림돌' 1위는?2024.08.10
- 클라우데라, AI 시대 데이터 아키텍처 전략 발표2024.04.01
- 클라우데라, AI 운영 플랫폼 ‘베르타’ 인수2024.06.10
아바스 리키 클라우데라 최고 전략 책임자(CSO)는 "신속한 고객 지원부터 정보 기반 제품 기반까지 RAG 스튜디오의 이점은 비즈니스 전반에 유효하다"며 "노 코드 RAG 스튜디오는 빠른 프로토타입 제작, 사전 구축된 통합, 운영 효율성을 제공하고, AI 전략을 올바르게 수립하고자 하는 기업들의 효율적인 도구로 기업용 AI를 가속할 것"이라고 설명했다.
최승철 클라우데라코리아 지사장은 "국내 데이터 시장은 AI 기술 도입에 대한 높은 관심을 보이고 있지만 많은 기업들이 데이터 사일로, 인프라 복잡성, 전문 인력 부족 등으로 도입에 어려움을 겪고 있다"며 "RAG 스튜디오는 복잡하며 데이터가 풍부한 환경을 탐색하고, 설명 가능성 및 추적 가능성을 통해 AI 솔루션을 확장하고 지속적인 모델 미세 조정을 제거하는 것을 지원할 것"이라고 밝혔다