소프트프릭, AI 프라이버시 취약점 진단 특허 등록

API 거버넌스 전문기업 소프트프릭(대표 김동철)이 멀티모달 AI 모델의 프라이버시 취약점을 진단하는 기술과 AI 게이트웨이의 보안 제어 기술에 관한 특허 2건을 등록했다.

12일 회사에 따르면, 이번에 등록한 특허는 ‘인공지능 모델의 프라이버시 취약점 진단을 위한 멀티 모달 공격 방법’과 ‘AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법’이다. 기업의 생성형 AI와 AI 에이전트 도입에 따른 새로운 보안 위협에 대응하기 위해 개발했다.

‘인공지능 모델의 프라이버시 취약점 진단을 위한 멀티 모달 공격 방법’ 특허는 소프트프릭이 지난해 출원한 AI 프라이버시 취약점 진단 특허 5건 중 하나다. 텍스트와 이미지 등을 함께 처리하는 멀티모달 AI는 텍스트 기반 공격만으로 취약점을 충분히 확인하기 어렵다. 이 기술은 여러 입력 형태를 활용한 공격 시나리오로 AI 모델의 민감 정보 노출 가능성을 사전에 진단, AI 모델 자체의 안전성을 검증하는 ‘AI 보안 테스팅(AI Security Testing)’으로 보안 범위를 넓혔다.

‘AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법’ 특허는 AI와 기업 시스템 사이에서 프롬프트와 시스템 행위를 보안정책에 따라 통제하는 기술이다. AI 에이전트가 새로운 ‘시스템 사용자’이자 ‘API 소비자(API Consumer)’가 되는 환경에서, 기업은 AI에 전달된 프롬프트와 접근 권한, 데이터·시스템 이용 행위를 통제하고 추적할 수 있다. 소프트프릭은 API 관리·보안 분야에서 축적한 인증·인가, 접근제어, 정책 집행 기술을 바탕으로 API 게이트웨이에서 LLM 게이트웨이, AI 게이트웨이로 이어지는 차세대 게이트웨이 기술을 개발하고 있다.

AI를 활용한 보안 자동화 기술도 연구 중이다. 소프트프릭은 LLM으로 보안 가이드라인을 분석해 취약점 점검 규칙과 진단 스크립트를 자동 생성하는 기술을 특허 출원하고, 취약점 진단 솔루션 파바타(F-Avata)와의 연계를 추진하고 있다.

생성형 AI 모델 보호 기술에 대한 특허 출원도 이어가고 있다. 위험도에 따라 보호 정책을 조정하는 ‘위험도 기반 적응형 정책 오케스트레이션’, 재학습에 대한 저항성을 높이는 ‘학습 전이 교란’, 모델 출력물을 이용한 후속 모델의 재학습·증류·미세 조정을 추적하는 ‘학습 전이형 워터마킹’ 기술 등이다.

김동철 소프트프릭 대표는 “공격자가 AI로 취약점을 찾고 공격을 자동화하면서 사람 중심의 대응만으로는 공격의 속도와 규모를 따라가기 어려워지고 있다”며 “방어에도 AI를 적극 활용하는 동시에, 기업이 사용하는 AI의 안전성을 검증하고 접근과 행위를 통제해야 한다”고 말했다.