손병희 마음AI 연구소장 "AI가 몸 얻었다…자율 커질수록 보안 내장해야"

'제 32회 정보통신망 정보보호 컨퍼런스'서 발표..."자율과 신뢰 새 표준 만들 것"

"'AI가 몸을 얻은 시대'입니다. 자율이 커질수록 보안도 내장돼야 합니다."

손병희 마음AI 연구소장은 17일 한국정보보호학회가 주관해 열린 '제32회 정보통신망 정보보호 컨퍼런스'에서 이같이 밝혔다. 손 소장은 마음AI가개발한 피지컬 AI 보안 역량과 보안 가드레일의 내재화 중요성을 강조했다. 

손 소장은 "로봇, 즉 피지컬AI가 판단하고 움직이는 것을 믿을 것인지 고민해봐야 한다"며 "이를 위해선 반드시 지켜야 하는 지능이 두 가지가 있다. 일반화 지능과 스스로 예측해서 최적의 행동을 수행할 수 있는 지다"고 짚었다. "이런 능력을 갖추고 있어야만 비로소 디바이스에서 네트워크 없이도 스스로 행동을 하고 리얼 타임으로 원하는 시간에 사용자가 원하는 행동을 한다"고 설명했다.

손병희 마음AI 연구소장이 17일 열린 '정보통신망 정보보호 컨퍼런스'에서 피지컬AI의 보안 내재화 중요성을 강조하고 있다.

그는 피지컬 AI 본질은 ▲클라우드 의존 없이 엣지 디바이스 자체에서 독립적으로 연산 수행 ▲동적인 물리적 환경 변화에 지연 시간 없이 대응 ▲사전 정의된 규칙을 넘어 스슬도 상황을 이해하고 자율적으로 행동하는 것이라면서 "마음AI는 클라우드가 아닌 온디바이스에서 실시간으로 작동하며, 각 현장에 맞는 로컬 보안 정책을 즉각 반영하는 것이 가능하다"고 말했다.

가상 설계를 통해 이같은 사항의 위험 요소를 해결했다는 게 손 소장의 설명이다. 그는 "마음AI의 피지컬 AI 중에는 아예 잠수가 되는 로봇이 있다. 특수전에 사용되는 로봇인데, 물속에 들어가면 통신이 아예 불가능하다"면서 "그러면 로봇이 스스로 카메라와 초음파를 이용해서 판단하게 되는데 이런 정보를 바탕으로 피지컬AI가 판단할 수 있도록 가이드하는 부분을 고려한다"고 밝혔다.

손 소장은 "자율이 커질수록 보안도 함께 성장해야 한다"며 "마음AI는 자율과 신뢰의 새로운 표준이 만들어질 것으로보고 있다"고 예상했다.