"보안에 퍼펙트 스톰...국가 차원 CAISO 필요"

이상근 고대 교수 '제15회 정보보호의 날 기념식'서 기조강연...윤두식 이로운앤컴퍼니 대표 "AI보안은 안전벨트 역할"

국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다는 지적이 나왔다. AI기술 발전으로 고도화하는 해킹에 대응하기 위한 차원이다. 

 고려대 AI보안연구소장을 맡고 있는 이상근 고려대 정보보호대학원 교수는 8일 서울 중구 신라호텔에서 열린 '제15회 정보보호의 날 기념식'에서 기조연설을 하며 "보안에 퍼펙트 스톰이 온다. 국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다"고 제안했다. 

또 국가인공지능전략위원회 보안특별위 위원으로 활동하고 있는 윤두식 이로운앤컴퍼니도 이 행사에서 기조강연자로 나서 AI보안을 안전벨트로 비유하며 "시속 200km로 달리고 있는 자동차에 안전벨트가 없는 상황"이라며 현 AI보안을 우려했다. "

윤 대표는  '안전한 AI시대: 위협의 실체와 우리가 갖춰야 할 안전벨트'를 주제로 발표했다.  AI 보안을 자동차 안전벨트에 비유해 설명한 그는 볼보에서 자동차 안전벨트를 처음으로 발명했을 당시, 불필요한 안전장치라는 의견이 있었지만, 지금은 자동차를 더 빠르고 안전하게 달릴 수 있게 만든 주인공이 안전벨트라는 것이다.

그는 AI도 '안전벨트'를 갖춰야 한다면서 "AI 보안은 AI 활용을 억제하는 것이 아니라, 더 안전하게 잘 사용할 수 있게 만드는 것"이라고 역설했다.

작년 발생한 유출사고 규모에 대해 밝히고 있는 윤두식 이로운앤컴퍼니 대표.

윤 대표는 "지난해 한 해 동안에만 7516만건의 개인정보가 유출된 것으로 집계됐다. 우리나라 전 국민의 개인정보가 여러 번 유출된 셈"이라며 "올해 상반기만 하더라도 따릉이, 사랑의열매, 듀오, 티빙 등 기업 및 기관에서 개인정보가 유출됐다"고 진단했다.

이에 그는 8대 AI 보안·신뢰 체계를 갖춰야 한다고 강조했다. 윤 대표는 "AI 에이전트는 수없이 많은 시스템에 접근한다. 따라서 AI 에이전트에 대한 신원 검증, 가시성 확보가 필요하다"면서 ▲AI 가시성 ▲프롬프트 인젝션 등 공격 차단 ▲AI 출력 검증 ▲AI 에이전트 행위 통제 ▲데이터 격리 ▲AI 에이전트 신원 검증 ▲행위 로그 확보 ▲데이터 주권 확보 등이 핵심이다.

그는 "AI는 전문가들만 쓸 수 있는 것이 아니고, 일반인 역시 안전하게 사용할 수 있어야 비로소 활성화된다"며 "한국이 앞장서서 안전한 AI 사용을 위해 세계와 협력할 것"이라고 밝혔다.

"'보안 퍼펙트 스톰' 온다…'CISO' 아닌 'CAISO' 필요"

고려대 AI보안연구소장을 맡고 있는 이상근 고려대 정보보호대학원 교수가 AI 보안의 필요성에 대해 설명하고 있다.

이상근 고려대 정보보호대학원 교수는 AI로 코드를 생성하는 '바이브 코딩'의 시대가 다가온 만큼 점검 대상이 폭증했다고 짚었다. 그러나 방어할 인력이나 기술은 턱없이 부족해 방어자의 부담이 늘어나는 '보안 퍼펙트 스톰'이 빚어질 수 있다고 경고했다.

이 교수는 "프론티어 AI 모델을 기반으로 한 체계에서는 공격의 모든 과정이 자동화된다. 일일이 전문가들이 투입돼 작성하던 익스플로잇(취약점 공격)도 수분 내로 생성할 수 있는 시대가 다가올 것"이라며 "자체적인 AI 보안 자동화 역량이 기업뿐 아니라 국가 규칙까지도 좌우할 수 있다"고 말했다.

이어 그는 "국가 차원의 '인공지능정보보호최고책임자(CAISO)'가 필요하다. AI 보안의 총괄 세팅을 할 수 있는 대책이 있어야 한다"면서 "또한 민간 협력 컨트롤 타워 구축이 반드시 필요하다. 뿐만 아니라 독자적 AI 방어 기술에 대한 연구개발이 필요하다"고 강조했다.