윤경구 파수 CTO "sLLM '엘름' 공공기관 적용 등 AI서 성과"

#2023년 4월 19일 오후, 보안 소프트웨어 전문기업 파수(대표 조규곤)가 여의도 페어몬트 앰배서더에서 자사 연례 고객 행사인 ‘파수 디지털 인텔리전스 2023(Fasoo Digital Intelligence 2023, 이하 FDI 2023)’를 개최했다. 행사에는 다양한 기업 및 기관의 CIO, CISO 400여 명이 참석했다.

이날 조규곤 파수 대표는 "챗GPT로 주목받고 있는 생성형 AI를 앞으로 어떻게 활용하냐에 따라 기업의 핵심 경쟁력이 좌우될 것”이라면서 "파수는 기업들이 제대로 AI를 활용할 수 있게 신규 솔루션 등을 통해 적극 지원할 것”이라고 밝혔다. 이어 조 대표는 AI를 활용을 위한 신규 솔루션으로 ‘F-PAAS(Fasoo Private AI Assistant Service, 파수 프라이빗 AI 어시스턴트 서비스-가칭)’와 ‘파수 퍼블릭 AI 프록시(Fasoo Pubilc AI Proxy-가칭)’를 소개했다.

'F-PAAS'는 기업 내부에 구축하는 통합적인 AI 지원 서비스다. 파수가 개발한 기업형 LLM(대규모 언어모델) 'Ellm(엘름)'을 활용해 보안과 개인정보보호 등 정책 학습과 문서, 데이터 등 콘텐츠 학습이 가능하다. '파수 퍼블릭 AI 프록시'는 인증관리와 접근제어, 데이터 트랜잭션 모니터링 기능을 제공, 기업이 외부의 퍼블릭 AI를 활용할 때 높은 안전성과 보안 수준을 제공한다.

이로부터 2년 7개월이 흐른 지난달 21일, 파수는 자사 온프레미스(구축형) AI 플랫폼 'Ellm(엘름)'을 기반으로 한국과학기술연구원(KIST, 원장 오상록)에 AI 서비스를 구축했다고 밝혔다.

국내 출연연(정부 출연연구소) 중 맏형인 KIST는 AI로 연구와 생활을 혁신하는 AX(AI Transformation)에 앞장서고 있는데, 이번에 AI를 통해 내부 행정 업무를 효율화하고 연구 속도를 가속화하기 위해 파수와 함께 AI 서비스를 구축, ‘스마트 문서조회 서비스’와 ‘연구개발계획서 초안 작성 서비스’를 완성했다. 이 서비스들은 AI행정 효율 및 연구 속도 향상을 위해 연구원들의 불필요한 노력과 시간을 최소화, 연구원들 본연 임무인 연구에 보다 집중할 수 있게 해준다. 파수는 최신 AI 기술과 데이터 관리& 보호 역량을 총집약, KIST의 AI 서비스를 시작으로, 안전하고 실용적인 AI 전문기업으로서 입지를 확대해 나간다는 전략이다.

강추위가 매섭던 지난달 30일, 서울 상암동 소재 파수 사무실에서 이 회사 윤경구 CTO(전무)를 인터뷰, AI시대를 맞아 AI기업으로 변신하고 있는 파수의 현재와 미래를 들어봤다. 2000년 6월 설립된 파수는 1세대 보안 SW기업에 속한다.

윤 CTO는 2019년부터 파수 연구소장을 맡고 있다. 서울대 원자핵공학과를 졸업한 그는 20여 년간 풍부한 연구개발 경험을 가진 소프트웨어 개발 전문가다. 특히 티맥스소프트와 티맥스클라우드 연구소장을 역임하며 웹서버, 미들웨어, WAS, BPM, EAI, ESB, 클라우드 인프라 및 네트워크 등 주요 솔루션을 설계하고 연구개발(R&D)을 총괄했다. 현재는 파수 데이터 보안 제품들의 개발을 총괄하는 파수 데이터 시큐리티 연구소 개발본부장을 맡아 기술력 강화는 물론 신제품 개발 및 연구개발에서 성과를 냈다. 한국산업기술진흥협회에서 주관한 엔지니어상을 수상했고, 자바 언어에 관한 2권의 저서를 출간하기도 했다.

윤 CTO는 "파수가 AI기업이냐?"는 기자 질문에 "조규곤 대표가 벌써 2년전 파수가 AI기업이라고 선언했다"고 짚으며 "이후 AI쪽 기술력이 더 탄탄해졌다. sLLM(경량 대형 언어 모델)인 'Ellm(엘름)'을 개발해 선보인 것이 그 사례"라고 들려줬다.

'엘름'은 국가가 인정하는우수 SW인 GS인증을 받으며 안정성과 신뢰성을 인정받았다. 보고서 작성과 내부 데이터 분석, 고객 응대 등 다양한 산업과 분야에 맞춤형 구축으로 사용할 수 있다. 특히 파수의 데이터 보호관리 솔루션들과 연동 할 수 있어 학습 데이터부터 결과물까지 일관된 보안 정책을 적용하거나 개인정보를 안전하게 보호할 수 있는게 장점이다. 파수 주특기인 '보안'에 실용성도 뛰어난 것이다.

파수는 이번 KIST 프로젝트에서 자사의 보안 역량과 최신 RAG(Retrieval-Augmented Generation) 기술을 대거 활용했다. 검색 증강 생성 기술인 RAG는 AI가 답을 만들기 전에 먼저 필요한 정보를 찾아오고(Retrieval), 이 걸 바탕으로 답을 생성(Generation)한다.

파수는 구체적으로 ▲내부 데이터를 안전하게 사용하기 위한 RAG 파이프라인 구축 ▲데이터 별로 적용된 보안 접근 권한 연동 ▲AI기반 개인정보보호 솔루션 ‘AI-R Privacy’를 통한 개인정보 검출 및 비식별 처리 ▲직원 휴가 현황 등의 실시간 정보를 내부 데이터베이스로부터 안전하게 직접 호출하는 의향 분류(Intent Router) 기능 ▲환각을 최소화하기 위한 출처 검증 기능 등을 KIST 시스템에 적용했다.

이외에 연구개발계획서 초안 생성 서비스는 에이전틱AI(Agentic AI) 기술을 사용한 ‘에이전트 토론 기능’으로 차별화했다. 이 기능은 역할 기반으로 사회자 및 각 분야 전문가를 상정해 다양한 관점에서 의견과 정보를 제시, 연구개발 계획서의 생성과 편집, 평가, 출처 검증을 돕는다. 연구원들의 문서 작성 소요 시간을 줄이고 편의성을 높인 것이다.

파수는 본래 문서를 암호화해 관리하는 전문기업이다. 자사 sLLM인 '엘름'에 대해 윤 CTO는 "미국 빅테크 기업 메타가 만든 오픈소스 형태 거대LLM '라마'와 구글의 '젬마'를 기반으로 만들었다. 2024년 중반 버전 1.0을 완성했다"고 들려줬다.

이어 '엘름'이 RAG 방식 LLM솔루션이라면서 "50만개의 데이터셋을 기반으로 작동한다. 보안성이 아니면 온 프레미스(On-premis, 클라우드가 아닌 오프라인 현장 구축)에서 LLM을 사용할 이유가 많지 않다. 고객들이 민감히 생각하는 것은 개인정보와 내부 정부가 외부에 유출되는 것"이라고 밝혔다.

파수가 KIST에 '엘름' 기반 AI 서비스를 완성, 구축하는데는 적지 않은 시간과 노력이 들어갔다. 윤 CTO는 "먼저 4주 정도 시험(파일럿)을 한 후 가능성을 보여줬고, 본 프로젝트는 작년 6월부터 시작해 같은 해 연말 완성했다"면서 "KIST의 굉장히 많은, 25년 이상 된 문서들을 AI를 적용해 문서 사용 효율성을 높이는 작업이 결코 쉽지 않았다. 하지만 KIST가 AX를 추진하면서 우리에게도 굉장히 많은 도움을 줘 프로젝트를 성공할 수 있었다"고 덧붙였다.

이어 "RAG라는 것 자체는 결국 데이터의 혈관을 이어주는 것으로, 완벽히 하기 어렵고 비용이 많이 들어가며 사람 손이 많이 간다. RAG만으로는 부족해 에이전트(agent) 간 토론을 십분 활용해 전문적인 내용을 보강했다"고 설명했다. 파수는 KIST 외에 다른 공공과도 '엘름' 기반 AI서비스 구축을 추진중이다.