AI시대 보안 리스크는?...프라이빗AI, '테크서밋' 개최

프라이빗에이아이(PRIBIT AI, 대표 김영랑)가 4일 반얀트리 서울에서 'AI 테크 서밋(AI Tech Summit)'을 개최했다. AI 시대 기업이 직면할 새로운 위험과 이를 관리하기 위한 전략을 제시했다.

프라이빗에이아이는 지난 7월 사명 변경을 계기로 기존 보안 기업에서 AI 거버넌스·위험통제 기업으로 사업 정체성을 새로 정립했다. AI활용이 기업 전반으로 확산하면서 데이터 접근과 권한, 실행 과정에서 발생하는 위험까지 통합적으로 관리하는 체계가 중요해졌다는 판단에서다.

이날 행사는 프라이빗에이아이의 새로운 사업 방향을 공유하는 동시에, AI 에이전트부터 금융권 AI·SaaS 도입, 국가 AI 보안 체계, 공급망 보안까지 AI 전환 과정에서 부상하는 주요 과제를 산업·기술·정책 관점에서 논의했다.

행사는 임문영 더불어민주당 의원 축사에 이어 손기욱 사이버안보학회 회장(서울과학기술대학교 교수)의 기조연설로 시작했다. 손 교수는 'AI 에이전트 시대, 사이버보안'을 주제로 AI가 사용자의 명령을 수행하는 단계를 넘어 데이터와 시스템에 직접 접근하고 업무를 실행하는 환경에서 나타날 수 있는 보안 위협과 새로운 대응 방향을 짚었다.

이어 김영랑 프라이빗에이아이 대표는 '사람과 AI가 공존하는 시대, 우리는 어떠한 리스크(Risk)를 대비해야 하나?'를 주제로 회사의 새로운 비전을 발표했다. 김 대표는 AI 시대 기업이 관리해야 할 위험의 범위가 어떻게 달라지고 있는지 설명하고, 이에 대응하기 위한 프라이빗에이아이의 사업 방향과 기술 전략을 소개했다.

프라이빗에이아이는 4일 반얀트리 서울에서 'AI 테크 서밋(AI Tech Summit)'을 개최했다

프라이빗에이아이가 주목하는 것은 AI 자체의 성능보다 AI가 기업 안에서 실제 업무를 수행하는 과정에서 발생하는 위험이다. AI 에이전트가 내부 데이터와 API, 업무 시스템을 활용하기 시작하면 과도한 데이터 접근, 허가되지 않은 도구 호출, 중요 정보 반출, 잘못된 자동 실행처럼 기존 사이버 공격과는 다른 형태의 위험이 발생할 수 있다.

프라이빗에이아이는 AI 도입에 따른 과제를 개별 보안 위협보다 기업 운영 전반의 위험 관리 관점에서 바라봤다. 기업이 AI 활용 원칙과 허용 범위를 정하고, 데이터 접근과 권한, 실행 과정이 정해진 기준을 따르는지 지속적으로 확인할 수 있는 체계가 필요하다는 것이다.

오후 세션에서도 이러한 논의를 산업별로 구체화했다. 강형우 금융보안연구회 위원장(고려대학교 교수)은 'AI/SaaS 활용을 위한 금융권 제로트러스트 도입 전략'을 통해 규제가 엄격한 금융 환경에서 AI와 SaaS 활용을 확대하기 위해 필요한 신뢰 체계와 접근 통제 전략을 설명했다.

이어 프라이빗에이아이는 온디바이스 AI 관련 위협 탐지와 대응 기술, 공공기관 국가 망 보안체계 N2SF 단계적 도입 전략 등을 소개하며 실제 AI·클라우드 운영 환경에서 적용할 수 있는 통제 기술을 공개했다.

이와 함께 프라이빗에이아이와 협력 관계를 이어가고 있는 KT 박성식 법인사업담당 상무가 특별 연사로 나서 AI 활용 확대에 따라 정보 중요도와 맥락을 반영한 N2SF 기반 제로트러스트와 통신 네트워크 통제의 중요성을 소개했다.

국가 차원의 AI 보안 체계와 공급망 위험 관리도 주요 의제로 다뤄졌다. 김창훈 N2SF연구회 위원장(대구대학교 교수)은 '국가 AI CSF 설계 방향과 핵심 기술'을 주제로 AI 활용 확산에 대응하기 위한 국가 차원의 사이버보안 프레임워크를 제시했고, 이만희 공급망보안연구회 위원장(한남대학교 교수)은 'AI 전환 시의 공급망 보안'을 주제로 AI 활용 확대에 따라 중요성이 커지고 있는 소프트웨어와 데이터 공급망의 위험 관리 방안을 소개했다.