"피지컬AI 오작동 방지"...에임인텔리전스, LG전자와 공동 개발 추진

미국 로봇OS 기업 오픈마인드도 참여..."외부 공격까지 차단하는 체계 구축"

AI 보안기업 에임인텔리전스(AIM Intelligence, 대표 유상윤)는 미국 로봇OS 기업 오픈마인드(OpenMind), LG전자와 함께 ‘피지컬 AI 안전 레이어(Physical AI Safety Layer)’를 공동 개발한다고 14일 밝혔다. 이번 협력은 물리적 환경에서 작동하는 AI, 즉 ‘피지컬 AI(Physical AI)’의 오작동과 위험을 방지하기 위한 것이다.

현재 피지컬 AI의 안전 규칙은 아시모프의 ‘로봇 3원칙’ 수준에 머물러 있어, 현실 환경에서의 오작동과 외부 공격에 취약하다는 지적이 있다. 세 기업이 개발하는 새로운 안전 레이어는 로봇의 판단 오류(환각)를 차단하고, 외부 침입과 공격까지 방어하는 차세대 안전 표준을 제시한다.

최근 연구에 따르면, 인간이 인지하지 못하는 초음파 신호나 의류 및 헬멧의 미세한 이미지 패치만으로도 AI를 교란해 명령을 조작할 수 있는 공격이 현실화되고 있다. 이번 기술은 시각,청각, 센서 데이터를 통합 분석해 이러한 은밀한 공격으로부터 로봇이 안전하게 작동하도록 보호한다.

에임인텔리전스가 LG전자, 오픈마인드와 함께 ‘피지컬AI 안전성’ 개발에 나선다.

이번 협력에서 오픈마인드는 범용 로봇 OS ‘OM1’을 제공하고, LG전자는 하드웨어 개발과 실증 단계를 담당하며, 에임인텔리전스는 AI 보안 기술을 로봇 운영체제(OS)에 통합해 모든 로봇의 행동이 인간 통제 하에 이뤄지는 체계를 설계한다.

에임인텔리전스의 박하언 CTO는 “단순한 오작동 방지를 넘어 외부 공격까지 차단하는 체계를 구축하겠다”며 “산업 전반에 적용 가능하며 자율 환경에서도 신뢰 가능한 로봇 운영의 새 기준을 제시할 것”이라고 밝혔다.

한편, 에임인텔리전스는 AI 리스크 탐지 및 차단 기술을 개발하는 AI 보안 전문기업이다. ACL과 ICML 등 국제 학회에서 기술력을 인정받았으며, KT와 LG, BMW, 메타, KB국민카드, 한국신용정보원 등과 함께 AI 안전 기술 산업화를 추진 중이다.