지란지교데이터, 챗GPT 모니터링 'AI필터' 출시

질의·응답 내용 모니터링해 지정된 키워드나 문장 패턴 탐지 시 차단 기능 제공

데이터 보호 전문기업 지란지교데이터는 챗GPT 오남용으로 인한 기밀정보 및 개인정보 유출을 방지하기 위해 챗GPT 모니터링 기능을 포함한 인공지능 기반 데이터 보호 솔루션 ‘AI필터’를 출시했다고 20일 밝혔다. 

챗GPT와 같은 대언어 모델(LLM) 기반 생성형 인공지능 서비스는 학습된 데이터를 기반으로 사용자 질문에 답변한다. 특히 사용자의 질문과 답변에 대한 평가를 학습함으로써 답변 수준을 지속적으로 높이는 것이 특징이다. 하지만 사용자의 질문을 학습한다는 점에서 기업의 기밀정보가 학습돼 불특정 다수에게 공개될 수 있다는 우려 역시 제기되고 있다.

이에 지란지교데이터는 인공지능 기반 데이터 보호 솔루션 ‘AI필터’로 챗GPT에 입력하는 내용(프롬프트)을 모니터링함으로써 사내 기밀정보가 유출되지 않도록 방지한다고 설명했다. AI필터는 챗GPT에 작성되는 질의와 응답 내용을 모니터링하며, 지정된 키워드나 문장 패턴 등이 탐지될 때 차단하는 기능을 제공한다.

‘AI필터’의 챗GPT 모니터링 주요기능은 ▲사내 챗GPT 인터넷 네트워크 차단 ▲회사 기밀정보 및 개인정보 보호를 위한 질의와 응답 내용 필터링 등이다. 더불어 지란지교데이터는 사내에서 챗GPT 등 생성형 인공지능 서비스는 물론, 번역 서비스에서도 기밀 및 개인정보 유출을 방지할 수 있는 업무 전용 웹포털을 개발해 제공할 예정이다.

인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 API 방식으로 제공하는 것이 특징이다. 지란지교데이터의 데이터 및 개인정보 보호 제품군 ‘필터 시리즈’는 물론 협업툴, 그룹웨어 등 다양한 솔루션과의 연동을 통해 개인정보 및 기업 주요정보 유출을 방지할 수 있다.

회사는 데이터 보호를 위해 15년 이상 쌓은 요소기술을 집약함으로써 좀 더 발 빠른 대응이 가능했다고 설명했다.

조원희 지란지교데이터 대표는 “챗GPT로 인한 정보 유출을 방지하기 위한 가장 쉬운 방안은 챗GPT 접속을 차단하는 것이다. 하지만 이는 인공지능 기술을 활용함으로써 얻을 수 있는 업무효율성 향상 등의 이점을 포기하는 것과 같다. 단순히 차단할 것이 아니라 정보를 보호하면서 챗GPT를 활용할 수 있는 방안을 모색해야 한다”고 강조했다.

이어 “지란지교데이터의 인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 API 연동으로 다양한 솔루션에도 적용할 수 있다. 이를 챗GPT에 적용함으로써 기밀정보 및 개인정보 유출은 막고, 인공지능 서비스 활용으로 인한 이점은 모두 누릴 수 있을 것”이라고 덧붙였다.