AI 챗봇 챗GPT, 악성코드 작성에도 쓰인다

다크웹서 사이버공격 활용법 공유 활발

오픈AI의 대화형 AI 챗봇 '챗GPT'기 해커의 악성코드 작성에 쓰이고 있는 것으로 확인됐다.

9일(현지시간) 미국지디넷에 따르면, 체크포인트는 해킹 커뮤니티에서 챗GPT를 사용해 사이버공격 지원하는 방법을 실험중이라고 밝혔다.

세르게이 시케비치 체크포인트 위협인텔리전스그룹 관리자는 "챗GPT는 매우 낮은 기술 지식을 가진 위협행위자가 악의적 도구를 만들 수 있다"며 "감염의 다른 부분을 만들 듯 정교한 사이버범죄자의 일상적 작업을 훨씬 더 효율적이고 쉽게 만들 수 있다"고 설명했다.

오픈AI의 챗GPT는 작년 11월 공개된 생성AI 언어모델 기반 챗봇이다. 인간과 대화하면서 질문에 답변을 제시하고, 이메일, 에세이, 소프트웨어 코드 등을 작성할 수 있다.

챗GPT 공개 후 다양한 사례 연구가 이뤄지고 있다. 그 중 악의적 사용에 대한 우려도 있었고, 그 우려가 현실이란 게 드러난 것이다.

오픈AI는 서비스약관에서 랜섬웨어, 키로거, 바이러스 또는 일정 수준의 피해를 입히려는 기타 소프트웨어 생성을 시도하는 콘텐츠를 악성코드로 정의하고 생성을 구체적으로 금지하고 있다. 사이버 범죄를 겨냥한 사용과 스팸 생성 시도도 금지한다.

하지만 다크웹의 여러 해킹 포럼 활동을 분석한 결과 사이버 범죄자들은 챗GPT로 악성코드를 개발하고, 일부의 경우 개발이나 코딩 기술을 갖지 못한 저급 범죄자의 악성코드 생성을 돕고 있다.

12월말 한 포럼의 스레드는 챗GPT로 일반적 악성코드 관련 연구간행물이나 글에 설명된 악성코드 변종 및 기술을 재현하는 방법을 설명하고 있다. 실제로 이들은 마이크로소프트 오피스 문서, PDF, 이미지 등 일반적 파일을 검색해 복사한 다음 파일 전송 프로토콜 서버에 업로드하는 파이썬 기반 정보탈취 악성코드를 만들었다.

또한 챗GPT를 사용해 자바 기반 악성코드를 생성하는 방법을 시연하고, 파워셸을 사용해 감염된 시스템에 다른 악성코드를 다운로드하고 실행하는 것도 가능하다고 설명했다.

한 사용자는 자신이 작성한 첫번째 스크립트라고 설명한 파이썬 스크립트를 게시했다. 다른 포럼 회원과 논의후 이들은 챗GPT의 효용성을 언급했다. 스크립트 분석 결과 해당 스크립트는 파일을 암호화하고 해독하도록 설계됐으며, 약간의 작업만 거치면 랜섬웨어로 변할 수 있다.

챗GPT는 악성코드 개발뿐 아니라 다크웹에서 개인정보나 악성코드를 거래하는 다크웹 운영 자동화 스크립트에도 사용된 것으로 나타났다.