에임인텔리전스, 피지컬AI 안전 연구 글로벌 컨소시엄 ‘PASC’ 출범

유상윤 대표 "구글·MS·오라클·LG전자 등 국내외 대학 및 기업 연구진 30여명 참여"

보안 전문기업 에임인텔리전스(AIM Intelligence, 대표 유상윤)는 로봇과 자율 시스템 등 피지컬 AI 전반의 안전 문제를 연구하기 위한 글로벌 컨소시엄 ‘PASC(Physical AI Safety Consortium, 파스크로 발음)’를 출범했다고 밝혔다.

피지컬 AI는 언어 모델의 답변을 넘어 로봇, 자율 시스템, 산업 장비 등 실제 환경에서 판단하고 행동한다. 이에 따라 안전은 단순히 유해한 출력을 차단하는 문제를 넘어, 실제 행동이 초래할 수 있는 위험을 사전에 식별하고 평가하며 통제하는 문제로 확장되고 있다.

PASC는 이러한 과제를 해결하기 위해 피지컬 AI 안전의 공통 정의, 평가 방법론, 벤치마크 및 향후 표준화에 필요한 연구 기반을 함께 마련하는 글로벌 오픈 컨소시엄이다. 에임인텔리전스가 선도적으로 참여하고 비영리 방식으로 운영한다. 개인과 기관은 연구·모델·하드웨어·컴퓨팅·데이터 등 다양한 방식으로 참여할 수 있다.

PASC 홈페이지 캡쳐

회사는 "현재 PASC에는 구글(Google), 마이크로소프트(Microsoft), 오라클(Oracle), LG전자 등 소속 전문가와 국내외 대학 및 AI 안전 연구기관의 연구진을 포함해 30여 명의 연구자와 산업계 실무자가 참여하고 있다"고 밝혔다.

주요 참여 인사는 ▲구글 소속 제니 니(Jenny Ni) ▲마이크로소프트·요크대학교 소속 아드리안 데 윈터(Adrian de Wynter) ▲오라클 소속 히테쉬 파텔(Hitesh Laxmichand Patel)과 아밋 아가왈(Amit Agarwal) ▲LG전자 장지용 상무 ▲한국인공지능안전연구소 김명주 소장 ▲미국 캘리포니아대학교(UC San Diego)의 시쿤 가오(Sicun Gao) 교수 ▲위스콘신 대학교의 쉐론 리(Sharon Li) 교수 ▲일리노이 대학교의 야키 시에(Yaqi Xie) 교수 등이 참여한다.

PASC는 첫 공동 과제로 피지컬 AI 안전의 정의와 평가 방향을 다루는 포지션 페이퍼를 준비하고 있다. 이후 공동 평가 체계와 벤치마크 설계, 운영 환경에서의 적대적 테스트, 시뮬레이션과 실제 로봇 환경을 아우르는 검증 연구로 활동을 확대할 계획이다.

특히 PASC는 안전을 일회성 판정이 아닌 지속적으로 관찰·갱신·개입해야 하는 상태로 본다. 이를 위해 위험을 충분히 정의할 수 있는지, 위험 징후를 개입 가능한 시점에 포착할 수 있는지, 환경과 로봇 형태가 바뀌어도 평가 결과가 유지되는지, 적응형 공격에도 안전 체계가 견디는지 등을 주요 연구 과제로 제시한다.

박하언 에임인텔리전스 CTO는 “피지컬 AI가 현실 세계에서 더 많은 역할을 맡을수록 안전은 모델 성능과 별개로 설계하고 검증해야 할 핵심 기반이 된다”며 “PASC가 학계와 산업계의 전문성을 연결해 피지컬 AI 안전의 공통 언어와 검증 기반을 만들어가는 장이 되도록 하겠다”고 밝혔다. PASC 참여 및 연구에 대한 자세한 내용은 PASC 공식 홈페이지에서 확인할 수 있다.