AI 도입 확산 속 기밀 유출·환각 우려…클루커스, '클루스피어'로 원천 차단

중앙 통제형 AI 게이트웨이…기업 내 모든 AI 사용 흐름 실시간 감시·통제

기업 업무용 인공지능(AI) 도입이 본격화되면서 무분별한 외부 AI 사용에 따른 데이터 유출과 '비인가 AI(섀도우 AI)' 문제가 새로운 보안 리스크로 떠오르고 있다.

이에 클루커스가 기업 내 모든 AI 사용 흐름을 중앙에서 통제하고 관리할 수 있는 엔터프라이즈 AI 플랫폼을 선보이며 AI 운영 관리 시장 공략에 나섰다.

클루커스는 26일 서울 강남구 코엑스에서 열린 '마이크로소프트 AI 투어 서울'에 프리미어 스폰서로 참가해 엔터프라이즈 AI 플랫폼 '클루스피어(ClooSphere)'를 처음으로 공개했다.

마이크로소프트 AI 투어 서울에 마련된 클루커스 부스(사진=지디넷코리아)

AI 게이트웨이 기반 통제…데이터·소스코드 유출 사전 차단

김신영 부사장이 현장에서 소개한 클루스피어는 기업이 AI 도입 이후 운영 단계에서 겪는 보안, 데이터 통제, 품질 관리 등의 문제를 해결하고 AI 활용을 효율화할 수 있도록 지원하는 플랫폼이다.

이 플랫폼은 AI 게이트웨이를 중심으로 모든 요청과 응답을 중앙에서 통제하는 구조가 특징이다. 이를 통해 기업이 허용한 모델과 데이터만 사용할 수 있도록 제한하고 모든 사용 기록을 추적하며 섀도우 AI와 소스코드나 기업기밀  등 민감 데이터 유출을 구조적으로 차단할 수 있다.

보안 기능은 클루스피어의 핵심 경쟁력으로 제시됐다. 플랫폼은 입력과 출력 단계에서 데이터를 검증하고 필요 시 자동 마스킹을 적용한다. 또한 권한 기반 접근 제어(RBAC)를 통해 부서별 접근 권한을 구분하고, AI가 열람할 수 있는 정보 범위를 세밀하게 설정할 수 있다.

가드레일 에이전트를 통해 내부 데이터를 관리하거나 접근을 제어 가능하다(이미지=클루커스)

프롬프트 인젝션과 같은 공격도 차단한다. 기업 기밀 정보가 외부로 전송되는 것을 원천적으로 막고, 모든 AI 사용 로그와 트래픽을 기록해 이상 사용 여부를 추적할 수 있도록 했다.

개발 조직을 위한 보안 기능도 강조됐다. 코드 생성 AI 사용 시 발생할 수 있는 내부 소스코드 유출을 막기 위해 모든 트래픽을 게이트웨이를 통해 관리한다. 외부로 전송되는 코드나 데이터는 정책에 따라 차단하거나 필터링할 수 있으며, 인가된 저장소와 환경에서만 AI 도구를 사용할 수 있도록 설정할 수 있다.

클루스피어는 온프레미스 환경을 기반으로 제공돼 외부 통신과 데이터 유출 위험을 최소화한다. 동시에 애저 오픈AI, AWS, 구글 등 다양한 AI 모델과 연동할 수 있어 기업 정책에 맞는 유연한 운영이 가능하다.

마이크로소프트 AI 투어 서울에서 클루스피어를 속개 중인 김신영 클루커스 데이터·AI 부사장(왼쪽)(사진=지디넷코리아)

김 부사장은 "기업 내에서 같은 AI를 사용하더라도 직책마다 접근 가능한 데이터는 명확히 구분돼야 한다"며 "이 기준을 시스템적으로 통제하는 것이 중요하다"고 강조했다.

이어 "AI는 도입보다 운영이 더 중요하다"며 "클루스피어는 AI 사용을 막는 것이 아니라 안전하게 지속 활용할 수 있도록 관리하는 플랫폼"이라고 설명했다.

인가되지 않은 코드나 외부 접근을 사용할 경우 자동으로 차단 가능하다(이미지=클루커스)

지식·DB·API 통합…기업 맞춤형 AI 구현

클루스피어는 기업 환경에 최적화된 AI 구성을 지원한다. 지식 기반, 데이터베이스, 용어 사전, API 연결 등 4대 축을 중심으로 내부 시스템과 데이터를 통합한다.

국내 환경을 고려해 HWP 파일 등 사내 문서를 인식할 수 있으며, 업무 용어를 학습시켜 기업 특화 AI를 구현할 수 있다. 또한 기존 시스템과 API를 연동해 실제 업무 프로세스에 AI를 적용할 수 있다.

클루스피어 내에서 주로 사용 중인 AI의 비율 등을 실시간으로 확인할 수 있다(이미지=클루커스)

AI 결과에 대한 검증 기능도 제공된다. 응답 품질을 점수화하고, 어떤 데이터와 도구를 기반으로 결과가 생성됐는지 추적할 수 있어 오류 분석과 품질 개선에 활용할 수 있다.

클루커스는 이번 클루스피어를 통해 기존 클라우드 운영 관리(MSP)에 AI 운영 관리 영역을 결합할 계획이다. 이를 통해 기업의 AI 도입부터 운영까지 전 과정을 지원하는 통합 관리 서비스를 제공한다는 전략이다.

김 부사장은 "속도, 품질, 보안 사이에서 기업이 원하는 균형을 맞추는 것이 핵심"이라며 "클루스피어는 기업 AI 운영의 표준 플랫폼으로 자리잡을 것"이라고 밝혔다.