러시아 해커가 오픈AI 챗GPT 해킹을 시도하고 있다는 진단이 나왔다.
10일 미국 지디넷은 오픈AI 챗GPT를 손상시키려는 모든 종류의 위협행위를 러시아 해커집단에서 시도하고 있다고 체크포인트리서치 발표를 인용해 보도했다.
체크포인트 측은 러시아로부터 인바운드 요청을 차단하는 챗GPT API에 대한 액세스 제한을 언급했다.
체크포인트의 현장 최고 정보 보안 책임자 인 페테 나콜레티는 "러시아가 챗GPT에 적용된 지리적 지역 제한을 돌파하려는 시도를 목격하고 있다"고 말했다.
체크포인트리서치는 새로운 형태의 악성코드를 감시하는 위협탐지시설이다.
니콜레티는 "러시아 해커의 코드 조사는 액세스 권한을 얻으려는 점점 더 많은 사람 중 하나일 뿐"이라며 "이 코드는 선한 행위자나 악한 행위자 모두에게 사용될 것"이라고 밝혔다.
관련기사
- AI 챗봇 챗GPT, 악성코드 작성에도 쓰인다2023.01.10
- 빌 게이츠 "챗GPT, 가장 중요한 혁신…세상 바꿀 것"2023.02.11
- 챗GPT, 美 의사 면허 시험도 통과했다2023.02.10
- AI 산학계 "챗GPT 사용 규제 필요해"2023.02.08
니콜레티는 "챗GPT 사용이 연구 커뮤니티의 많은 AI 모델 아키텍처 사용 사례와 유사하게 '여러 당사자가 일반적으로 개방형 플랫폼을 사용하는 것"이라며 "레딧에서 "지금 뭐든 하세요"라는 뜻의 DAN이라는 익스플로잇 시도가 등장했으며, 이 익스플로잇은 채팅 프롬프트를 사용해 챗GPT를 조작하고, 혐오 발언과 같은 일부 텍스트를 생성하지 못하도록 오픈AI에서 설정한 장벽을 벗어나는 텍스트를 생성하도록 만들 수 있다"고 말했다.
그는 챗GPT에 제로데이 익스플로잇 등장 여부를 확신할 수 없다고 했다. 그는 "익스플로잇이 나타날 때 가장 가능 성 높은 공격 벡터는 강화된 형태의 피싱 공격일 것"이라며 "해커들은 이미 은행 데이터를 갖고 있기 때문에 여러분을 표적으로 삼을 것"이라고 했다.
