"피지컬AI도 인증"...라온시큐어, 개발 과제 주관기관 선정

센스톤·틸론·디사일로 등 기업과 서강대 등도 참여..."표준 보안 플랫폼도 구현"

라온시큐어가 피지컬AI 시대의 보안 안전망 구축을 위해 산학연 협력 사업을 주도한다.

AI 보안·인증 플랫폼 기업 라온시큐어(대표 이순형·이정아)가 '협업지능 시스템을 위한 피지컬AI 기반 다중계층 보안기술 개발 과제’의 주관기관으로 선정됐다. 과학기술정보통신부와 정보통신산업진흥원이 지원하는 사업이다.

피지컬AI는 제조 생산라인의 산업용 로봇과 물류 장비 같은 현실 기기를 직접 인지하고 판단하며 제어한다. 이에 따라 사이버 공격이나 AI의 잘못된 판단이 데이터 유출에 그치지 않고 설비 오작동과 생산 중단, 작업자 안전사고 등 현실의 물리적 피해로 이어질 수 있다.

특히 산업 현장에서 여러 AI와 로봇이 정보를 주고받으며 협업하는 환경이 확대될수록 각 AI의 신원과 권한, 명령과 판단 결과의 신뢰성을 지속적으로 검증하는 보안 체계가 중요해진다.

15일 회사에 따르면, 이번 연구개발은 이러한 피지컬AI의 특성을 고려해 AI 모델부터 데이터, 통신, 기기, 운영 환경까지 전 영역에서 발생할 수 있는 보안 위협을 단계별로 검증하고 대응하는 기술 개발에 초점을 둔다. 정부가 제조 인공지능 대전환(AX)을 국가 전략으로 추진하는 가운데 피지컬AI가 산업 현장에 안착하기 위한 전제인 신뢰 기준을 함께 마련하기 위한 것이다.

라온시큐어가 전체 연구개발을 주관한다. 동시에 피지컬AI 로봇과 에이전트의 신원·권한 관리 기술 개발을 맡았다. 국가 모바일 신분증에 적용한 분산신원인증(DID·Decentralized Identity) 기술을 피지컬AI 영역으로 확장해 각각의 로봇 에이전트에 고유한 '디지털 신분증'을 부여하는 것이 시작이다. 이를 기반으로 권한과 위임 관계, 활동 이력까지 통합 관리하는 하나의 체계를 구축할 계획이다.

이 체계가 구현되면 로봇이 기계를 조작할 때마다 자격과 권한을 실시간으로 확인하고, 허용된 범위를 벗어난 명령은 실행 단계에서 통제할 수 있다. 사람의 신원을 증명하던 기술이 기계의 행위를 제어하는 수단으로 확장되면서 해킹이나 오작동이 물리적 사고로 이어지기 전에 차단하는 것도 한층 수월해진다.

참여사들도 각자의 전문 영역을 맡아 피지컬AI 보안의 방어막을 견고히 채운다. AI 모델 검증부터 암호화, 인증, 가상화, 현장 실증까지 전 영역을 아우르는 기술 역량을 결집한다.

센스톤은 한 번만 사용 가능한 인증코드를 생성하는 OTAC(One-Time Authentication Code) 기술을 기반으로 산업 현장의 접근을 인증하고, 비정상적인 명령을 탐지·차단하는 기술을 개발한다. 틸론은 외부와 분리된 안전한 작업 환경을 구축해 외부 침입과 정보 유출을 막고, 폐쇄망 내부의 이상 징후까지 탐지한다.

디사일로는 동형암호(HE) 기술을 활용해 공정 데이터와 AI 모델 등 민감정보를 암호화한 상태에서도 분석·학습할 수 있게 지원하며, 아이티스테이션은 실제 제조·로봇 현장의 데이터를 연계해 보안 기술이 현장에서 제대로 작동하는지 검증한다.

학계는 피지컬AI 보안 기술의 신뢰성과 완성도를 끌어올린다. 서강대학교는 민감한 데이터나 AI 모델 정보를 공개하지 않고도 AI의 판단 결과가 조작되지 않았음을 입증하는 검증 기술을 개발하고, 전북대학교는 AI 모델이 환경 변화나 사이버 공격 상황에서도 안정적으로 작동하는지 사전에 점검해 이상 징후의 원인까지 규명한다.

이를 바탕으로 연구진은 AI 모델의 안전성을 사전에 점검하는 ‘지능형 테스트 모듈’과 현장 기기를 실시간으로 보호하는 ‘신뢰 무결성 모듈’을 결합해 실제 산업 현장에 적용할 수 있는 피지컬AI 표준 보안 플랫폼을 구현할 계획이다.

라온시큐어는 이번 과제를 통해 피지컬AI 확산의 핵심 전제인 '신뢰 가능한 자율성'을 확보할 것으로 기대했다.  스마트팩토리와 자율제조 현장에서 AI와 로봇을 안전하게 활용할 수 있는 보안 체계를 마련, 향후 물류·의료·국방 등 다양한 피지컬AI 산업으로 적용 범위를 넓혀갈 계획이다.