북한 해커 김수키, 로컬 LLM 구축…Ollama·GPT4All 흔적 확인

북한 해킹 조직 김수키(Kimsuky)가 로컬 LLM 실행 환경을 직접 구축해 공격 작업에 AI를 통합하려는 정황이 확인됐다. 현지 시각 8월 10일 더레지스터(The Register)가 한국 보안 기업 지니언스(Genians)의 월요일 보고서를 인용해 보도한 내용이다. 김수키는 북한 정찰총국 산하 조직으로 알려져 있다.

지니언스는 김수키가 통제하는 인프라에서 Ollama와 GPT4All, Msty를 이용한 로컬 LLM 환경을 여러 개 구축·운영한 흔적을 발견했다. 로컬 방식은 대화 데이터가 외부 AI 서비스로 전송되지 않아 노출 위험이 적어, 국가 후원 해킹 조직에게 특히 매력적인 선택지라는 게 지니언스의 설명이다. 최근 공격에서는 국제 행사나 연구 보고서, 회의 요청으로 위장한 자료처럼 보이는 ZIP 압축 파일을 첨부한 피싱 이메일이 확인됐다. 압축 파일 속 악성 LNK 파일을 실행하면 내장된 파워셸(Powershell) 로더가 구동되는 방식이다.

분석에서는 그 밖의 AI 도구 사용 증거도 나왔다. 오픈AI의 음성 인식 모델 위스퍼(Whisper)를 비롯한 음성-텍스트 변환 도구 로그, AI 코딩 도구 커서(Cursor)로 코드를 편집한 흔적, 도난 문서를 검색·분석하는 RAG(검색 증강 생성) 테스트 기록 등이 확인됐다. RAG를 이용하면 대량의 탈취 문서에서 가치 있는 정보를 더 빠르게 찾아낼 수 있다.

지니언스는 김수키가 일회성 활용이 아닌 악성코드 개발과 공격 데이터 분석, 공격 자동화에 AI를 통합하기 위해 기술을 축적하는 단계라고 평가했다. 조사에서는 LLaMaSharp과 마이크로소프트 익스텐션스 AI, 오픈AI·Azure.AI.OpenAI 패키지 등 상용 AI 서비스를 자체 응용 프로그램에 연동하기 위한 라이브러리도 대량으로 발견됐다. '로컬 AI 실행에서 문서 검색(RAG), 자동화 에이전트, 외부 AI 연동'에 이르는 개발 구성 요소가 함께 모인 점은 특정 목적의 AI 도구 개발을 시사한다는 게 지니언스의 분석이다.

지니언스 시큐리티센터 문종현 센터장은 국가 후원 해킹 조직이 실제 공격 체계에 AI를 통합하기 위해 로컬 LLM과 AI 개발 환경까지 갖추는 사례라며, AI 기술이 발달하면서 사회공학 공격이 정교해질수록 문서 내용보다 실행 행동에 초점을 맞춘 EDR(엔드포인트 탐지·대응) 기반 위협 헌팅이 중요해진다고 말했다.

김수키는 이번에 확인된 AI 활용 외에도 깃허브 기반 명령·제어(C2) 채널과 멀웨어 개발에 오래 활용돼 온 조직이다. 지니언스는 자체 모델 훈련으로 나아간 증거는 아직 없다며, AI가 만든 위장 문서의 품질이 높아져 콘텐츠 기반 탐지가 더는 효과적이지 않다고 짚었다. 보안 업계는 국가 후원 해킹 조직의 AI 채택이 속도를 내고 있다며, 대응 체계도 공격 실행 행동 중심으로 재편할 필요가 있다는 지적을 이어가고 있다.

자세한 내용은 더레지스터에서 확인할 수 있다.

이미지 출처: 이디오그램 생성

■ 이 기사는 AI 전문 매체 ‘AI 매터스’와 제휴를 통해 제공됩니다. 기사는 클로드 3.5 소네트와 챗GPT를 활용해 작성되었습니다. (☞ 기사 원문 바로가기)