"로봇탑재 피지컬AI 해킹"...에임인텔리전스, 8일 행사 개최

AI보안 전문기업 에임인텔리전스(대표 유상윤)가 오는 7일부터 8일까지 서울 오크우드 프리미어 코엑스 센터에서 열리는 ‘인공지능 안전 서울포럼 2026(Seoul Forum on AI Safety & Security 2026, SFASS 2026)’에 공식 협력기관으로 참여한다. 특히 이 행사에서 에임인텔리전스는 8일 오후 ‘프론티어 AI 레드티밍 워크숍’도 주관한다.

'SFASS 2026'은 과학기술정보통신부가 주최하고 한국전자통신연구원 인공지능안전연구소가 주관하는 국제 포럼이다. 세계적 권위 머신러닝 학회인 'ICML 2026'과 연계, 열린다. 올해 포럼은 AI 안전(Safety)을 넘어 보안(Security)으로 의제를 확장하고, AI 모델의 문화·지역적 평가부터 자율 에이전트 시대의 사이버 위협 대응까지 다룬다. 국내외 정부·학계·산업계 전문가 150여 명이 참여한다.

에임인텔리전스는 포럼 둘째 날인 8일 오후 1시 30분부터 '프론티어 AI 레드티밍 워크숍'을 주관한다. 워크숍은 에임인텔리전스 박하언 CTO 개회사와 최다솔 수석연구원의 멀티모달 레드티밍 챌린지 결과 소개로 시작한다. 이어 구글의 제니 니(Jenny Ni), 딥마인드의 나만 고얄(Naman Goyal), 마이크로소프트의 유제니아 김(Eugenia Kim) 등 국내외 최정상급 연구진이 멀티모달 모델의 견고성, 생성형 AI 적응형 레드티밍, LLM 대상 자동 공격 기법, 차세대 모델의 탈옥 기법 등을 발표한다.

아울러 LG AI연구원, 싱가포르 AISI 등이 참여하는 패널 토론에서는 보편적 탈옥부터 다국어 에이전트 공격까지 차세대 취약점 의제를 다룰 예정이다.

특히 후반부의 라이브 챌린지에는 참가자가 실물 로봇에 탑재된 피지컬 AI를 직접 공격하는 ‘라이브 레드티밍 챌린지(Judgement Day: Jailbreaking the Humanoid)’도 운영할 예정이다.

참가자는 휴머노이드 로봇 '유니트리 G1'에 탑재된 AI 에이전트를 공격한다. 오직 악의적 입력(Adversarial Input)만으로, 에이전트가 원래 거부하도록 설정된 동작을 스스로 수행하게 만드는 레드팀을 직접 체험할 수 있다. 로봇이 웹 GUI에서 금지된 동작을 실제로 수행하면 서버가 성공 여부를 자동으로 판정하고, 획득 점수는 세션 내내 실시간 리더보드에 즉시 반영한다.

에임인텔리전스는 AI 보안의 ‘창’과 ‘방패’를 모두 갖췄다. AI를 공격해 취약점을 찾아내는 레드티밍 엔진과, 이를 실시간으로 막아내는 가드레일을 함께 갖춘 풀스택(Full-Stack) 구조를 보유하고 있다. 특히 공격 과정에서 발견한 취약점을 방어 모델의 학습 데이터로 즉시 환류하고, 강화된 방어를 다시 새로운 공격 기법 발굴로 이어지는 '자가 강화(self-reinforcing)' 구조가 핵심이다.

실제로 에임인텔리전스가 보유한 자체 공격 엔진은 약물 합성, 사이버 공격, 피싱, 허위정보 생성 등 위험 카테고리에 걸쳐 실제 기업용 AI 모델의 취약점을 진단하며, 연구진의 톱티어 학회 연구 성과를 공격 기법에 선제적으로 반영한다. 이러한 공격과 방어를 결합한 역량을 인정받아 이번 포럼의 레드티밍 워크숍 주관 기업으로 선정됐다.

에임인텔리전스는 앞서 7일 오후 ‘에이전트 AI와 사이버보안의 미래’ 세션에서 인공지능안전연구소 연구진과 함께 발표에 나설 예정이다. 파운데이션 모델이 텍스트 기반 시스템에서 자율적 멀티모달 에이전트로 진화하며 급격히 확대하는 공격 표면(attack surface)에 대한 대응 방안을 다룬다.