지크립토, 금융·디지털자산 AI 보안 공동 연구 진행한다

美노터데임대와 신뢰할 수 있는 AI플랫폼 개발

영지식증명(ZKP) 전문기업 '지크립토'가 금융사와 디지털 자산 기업이 쓰는 인공지능(AI)에 대한 공동 보안 연구를 진행한다.

6일 지크립토는 미국 노터데임대학교 연구팀과 함께 금융기관과 디지털 자산 사업자의 안전한 AI 활용을 위한 '신뢰할 만한 AI 플랫폼(Trusted AI Platform)'을 개발한다고 밝혔다.

지크립토가 연구 개발기관 주관사로, 미국 노터데임학교 정태호 교수 연구팀이 공동으로 참여하며, 고객 정보와 AI 모델을 보호하면서 AI가 승인된 데이터와 절차에 따라 작동했는지 확인할 수 있도록 하는 것이 목표다.

오현옥 지크립토 대표.

지크립토는 AI 작동 전 데이터 사용 권한과 실행환경 보안 상태를 점검하고, AI 작동 후에는 결과와 기록 위변조 여부를 확인할 수 있도록 플랫폼을 설계할 계획이다. 이 과정에서 남긴 증빙은 금융기관의 내부감사와 보안 점검에 활용하도록 한다.

데이터와 AI 모델 보호에는 기밀 컴퓨팅(Confidential Computing) 기술을 적용한다. 기밀 컴퓨팅 GPU는 AI가 계산하는 동안 데이터와 모델을 보호하며, 고객 정보를 저장하거나 전송할 때뿐 아니라 AI가 실제로 처리하는 동안에도 정보를 보호하는 데 초점을 맞춘다.

여기에 영지식증명을 결합해 민감한 원문을 공개하지 않고도 정해진 조건을 충족했는지 확인할 수 있도록 한다. 승인된 모델과 데이터를 사용했는지, 실행 결과와 감사기록이 바뀌지 않았는지 등을 검증한다.

실증은 금융사 자체 전산시설에 설치하는 온프레미스 환경을 중심으로 진행할 예정이다. 대상 업무는 ▲이상거래 탐지 ▲지급 능력·부채 정합성 검증 ▲내부 정책에 따른 AI 판단 등 세 가지다.

향후 지크립토는 가상자산 거래소나 스테이블코인 운용사, 토큰증권 플랫폼 등 디지털 자산 사업자를 대상으로 사업화에 나설 계획이다. 고객사가 데이터를 직접 관리하면서 AI 운영과 감사 대응에 활용할 수 있도록 구축형 소프트웨어와 운영지원 체계를 마련할 방침이다.

오현옥 지크립토 대표는 "금융기관이 AI를 업무에 활용하려면 민감정보 보호와 함께 승인된 모델과 데이터로 실행됐다는 근거를 남길 수 있어야 한다"며 "이번 과제를 통해 AI 실행 통제부터 검증과 감사 대응까지 연결하는 플랫폼을 개발할 계획"이라고 말했다.

정태호 미국 노터데임대학교 교수는 "프라이버시 보호와 검증 가능성을 이론적으로 증명하는 데 그치지 않고 대규모 환경에서 실제로 활용할 수 있도록 노력할 것"이라고설명했다.