생성AI, 사이버공격 증가 핵심요인 급부상

해킹된 오픈AI 계정 20만 개 이상 다크웹에서 거래

챗GPT, 바드 등 생성AI가 보급되며 새로운 산업과 성장의 기회가 떠오르고 있다. 하지만 이를 악용하려는 시도 역시 빠르게 발전하며 전 세계적인 위협도 함께 늘어나는 추세다.

특히 숙련된 사이버 범죄자를 비롯해 해킹 등에 익숙하지 않은 초보자도 생성AI를 통해 간단하게 공격 성공률을 높일 수 있어 대안이 필요하다는 지적이다.

25일 관련 업계에 따르면 탈취된 오픈AI 계정 20만 개 이상이 다크웹에서 거래되며 사이버공격에 악용되고 있는 것으로 나타났다.

(이미지=픽사베이)

사이버공격자는 불법 거래를 통해 확보한 생성AI와 개인정보 등을 이용해 고도로 개인화된 피싱 공격을 가할 수 있다. 이를 통해 기업망에 침투해 데이터를 탈취하거나 랜섬웨어 공격을 가하는 등 금전적인 이득을 얻기 위한 대규모 공격을 감행한다.

최근에는 챗GPT나 바드와 별도로 사이버 범죄에 특화된 생성AI 웜GPT가 개발돼 거래되는 것이 발견돼 보안 업계에 파장을 일으켰다.

다양한 해킹 관련 데이터로 학습한 웜GPT는 기존 생성AI와 달리 윤리보호 장치를 모두 제거해 해킹 툴을 개발하거나 사용자침투에 최적화된 공격방식을 제공하는 등 악의적인 사용자 요청도 모두 응답해 추후 더 큰 피해가 우려된다.

특히 아직 보안 시스템을 충분히 고도화하지 않은 국내기업의 경우 개인정보 탈취 또는 기업 서비스 마비 등 막대한 피해를 입을 수 있을 것이란 예측도 나오고 있다.

업계 한 관계자는 “수년 간 많은 국내 기업들은 보안을 강화하기 보다 과징금을 지불하는 것이 더 경제적이라고 판단해 온 경향이 있다”며 “하지만 최근엔 생성AI를 활용해 공격 성공률이 높아지고 있을 뿐 아니라 자동화 도구를 이용해 사이버공격 횟수 자체도 급격하게 늘어나고 있는 만큼 이에 대한 위험성을 인지하고 대비를 마련해야 한다”고 설명했다.

더불어 관련 업계에선 내년 22대 국회의원 총선거, 미국 대통령 선거를 앞두고 생성AI를 활용해 가짜 이미지·영상 생성해 배포하는 등 사회혼란을 노린 공격 행위도 대거 일어날 것으로 전망하고 있다.

이런 사이버 공격은 북한 등 국가기반 해킹 조직을 중심으로 공격이 하반기 본격화될 전망이다.

이에 대비해 국가정보원도 하반기 더욱 적극적인 방어태세에 나설 계획이다. 미국 등 동맥국 및 민간 보안 기업과 협력해 보안체계를 강화하고, 북한 등의 행동을 주시하며 외교적으로 상대의 행동을 최대한 제재에 나설 예정이다.

또한 과기정통부 등을 중심으로 안전한 온라인 환경을 구축하기 위해 '한국형' 제로트러스트’ 모델을 구축하고 있다.

한 국가정보원 관계자는 “최근 생성AI를 이용해 실시간으로 이미지와 영상을 변조하는 등 다양한 사이버 공격 방식이 나타나고 있어 이를 막기 위한 방안이 연구되고 있다”며 “생성AI 기반 공격으로 인한 피해를 최소화하기 위해 다양한 방안을 모색하며 국가의 기밀과 국민의 안전을 보장하기 위해 노력하고 있다”고 말했다.