쿤텍-ETRI, 온디바이스 AI 정보 유출 방지 기술 개발 추진

IoT·임베디드 보안 전문기업 쿤텍(대표 방혁준)은 과학기술정보통신부와 정보통신기획평가원(IITP)의 지원을 받아 수행 중인 ‘On-Device AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발’ 과제의 2차년도 연구를 통해 AI 모델 난독화 기술과 오염 분석 기반 AI 응용 프로그램 데이터 흐름 분석 기술을 개발하고 있다고 7일 밝혔다.

이번 과제는 한국전자통신연구원(ETRI)을 주관기관으로 여러 연구기관이 공동 수행하고 있다. 쿤텍은 온디바이스 환경에서 AI 모델과 추론 프로그램의 핵심 구현 정보가 외부 분석을 통해 노출되는 것을 방지하기 위한 기술을 연구하고 있다.

온디바이스 AI는 스마트폰, IoT 장비, 차량, 산업용 단말 등 기기 내부에서 직접 AI 연산을 수행한다. 빠른 응답성과 데이터 프라이버시 측면에서 장점이 있지만, AI 모델과 응용 프로그램이 단말에 직접 배포되기 때문에 공격자가 이를 확보하면 모델 구조와 데이터 처리 과정을 분석할 수 있다는 보안 위협이 존재한다.

쿤텍은 이러한 위협에 대응하기 위해 AI 모델 자체를 보호하는 난독화 기술과 AI 관련 보호 대상 코드를 식별하는 오염 분석(Taint Analysis) 기술을 개발하고 있다.

AI 모델 난독화 기술은 온디바이스에 사용되는 AI 모델을 MLIR(Multi-Level Intermediate Representation) 형태로 변환한 뒤, 다양한 난독화 기능을 Pass 단위로 적용하는 방식이다. 주요 기술은 ▲연산자의 식별 정보를 변경하는 비식별화(Renaming) ▲가중치(Weight), 편항(Bias) 등의 파라미터를 분리·은닉하는 매개변수 캡슐화(Parameter Encapsulation) ▲텐서 형상을 변형하는 신경 구조 난독화(Neural Structure Obfuscation) ▲가짜 연결 및 노드를 삽입하는 그래프 구조 난독화(Graph Structure Obfuscation) 등이다.

이를 통해 모델 파일에 노출되는 연산자 종류, 파라미터, 텐서 형상과 그래프 연결 관계를 변형해 외부 분석자가 실제 모델 구조를 파악하기 어렵게 한다. 동시에 별도의 실행 정보를 이용해 난독화된 모델에서도 원래 연산이 수행되도록 구성해 모델 구조를 은닉하면서 정상적인 추론 기능을 유지하는 것을 목표로 하고 있다.

특히 쿤텍은 MLIR Pass 단위로 난독화 기능을 구성해 모델 특성과 보호 요구에 따라 선택적으로 조합하고, 런타임 수정은 최소화하면서 별도 실행 정보를 통해 난독화 연산과 실제 연산을 연결해 호환성과 확장성을 높이고 있다.

또 쿤텍은 오염 분석 기반 AI 응용 프로그램 데이터 흐름 분석 기술을 개발하고 있다. AI 응용 프로그램에는 모델 호출뿐 아니라 전처리, 후처리, 파일 처리 등 다양한 코드가 포함돼 있어 실제 AI 추론과 관련된 부분만 정확하게 식별하는 과정이 필요하다.

쿤텍은 C/C++ 기반 AI 응용 프로그램을 LLVM IR로 변환하고, TFLite API를 기준점으로 데이터가 변수, 포인터, 함수 호출 등을 통해 어떻게 전달되는지 추적하는 기술을 구현하고 있다. 이를 통해 함수 이름과 같은 단순한 패턴이 아닌 실제 데이터 의존 관계를 기반으로 AI 추론에 관여하는 코드를 자동으로 식별할 수 있다.

향후 오염 분석을 통해 식별한 보호 대상과 난독화 기술을 연계, 리소스가 제한된 온디바이스 환경에서 프로그램 전체가 아닌 실제 AI 추론과 직접 관련된 핵심 코드와 정보를 선택적으로 보호할 수 있는 기술로 고도화할 계획이다.