"39초마다 1건의 AI 기반 사이버 공격 발생…AI로 막아야"

"39초마다 1건의 인공지능(AI) 기반 사이버 공격이 발생하고 있다"

라온시큐어가 23일 개최한 '2025 시큐업&해커톤' 행사에서 박현우 라온시큐어 상무는 이같이 경고했다. 박 상무는 이날 'AI시대의 해킹, AI를 활용한 대응 전략'에 대해 발표했다.

박 상무는 "비전문가도 AI를 악용해 악성코드를 쉽게 만들 수 있다"며 "기본적으로 생성형AI는 악성코드 제작 요청에 대해 답변하지 않는 우회 시스템을 갖추고 있는데, 안전장치가 완전히 제거돼 있는 AI 모델도 있어 특히 위험하다"고 짚었다.

'AI 시대의 해킹, AI를 활용한 대응 전략'을 주제로 발표하고 있는 박현우 라온시큐어 AI연구센터장.

그는 이어 "랜섬웨어 침투한 이후에 협상을 할 때 직접 협상을 하는 것이 아니라, AI로 협상을 대신하는 움직임도 포착됐다"며 "거대언어모델(LLM)을 내포한 악성코드도 발견되고 있다. LLM을 통해 새로운 공격코드도 생겨나는 현실"이라고 지적했다.

AI를 악용한 사이버 공격이 더 정교해지고 양적·질적으로 늘어나고 있다는 것이다. 그는 보이스피싱·스미싱 등 피싱 공격과 관련해서도 AI가 악용되고 있다고 강조했다.

박 상무는 "공격자들이 AI를 악용하면서 피싱 준비 시간이 기존 16시간에서 5분으로 대폭 단축됐다"며 "심지어 연구 결과에 따르면 사람이 작성한 피싱 메일보다 AI가 제작한 피싱 메일이 더 정교하고 효과적인 것으로 나타났다. 인터넷 주소(URL) 하나만 주면 정상 사이트를 복제한 피싱 사이트도 손쉽게 만들고 있는 현실"이라고 말했다.

박 상무 설명에 따르면 정치적 목적을 가진 딥페이크 공격도 늘어나고 있는데, 딥페이크를 화상 면접에 활용하고 기업 내부에 비밀리에 위장취업해 기업 내부 정보를 빼내려는 시도도 확인됐다. 또 피싱 공격에 AI나 딥페이크가 활용되면서 피해가 3배 늘어나는 것으로 전해졌다.

그는 AI발 위협에 AI로 대응해야 한다고 진단했다. "키워드나 패턴이 아니라 앱이나 코드, 권한 등을 AI를 통해 면밀히 분석하는 것이 필요하다"며 "전체먹인 문맥에서 공격자가 사용자에게 악의적인 메시지를 보내고 있는지, 어떤 의도로 행위를 지시했는지 등을 파악하는 일을 사람이 일일이 처리하기에는 한계가 있으므로 AI를 통해 이같은 행위 기반 공격을 막을 수 있을 것"이라고 설명했다.