'속 빈 강정' 된 AI 웹사이트…'보안 구멍'에 자금 탈취 위험 경고

디인포메이션, AI가 자동 생성한 코드 두고 보안 검증 공백 지적…악용 가능성 제기

앤트로픽, 오픈AI 등 주요 인공지능(AI) 코드 생성 도구로 제작된 웹사이트들에서 보안 취약점이 다수 발견됐다는 주장이 제기됐다. AI 기반 개발 도구가 빠르게 확산되고 있지만, 생성된 결과물이 보안 검증 없이 실제 서비스에 투입되는 것에 대한 우려도 커지고 있다.

14일 디인포메이션에 따르면 오픈AI, 앤트로픽, 레플릿, 커서, 데빈 등 여러 AI 코딩 도구를 활용해 웹 애플리케이션을 제작한 뒤 보안 상태를 점검한 결과, 상당수 사이트에서 데이터 보호, 사용자 인증, 입력값 검증 등 핵심 보안 설계가 누락된 것으로 나타났다.

특히 일부 사례에서는 공격자가 시스템 내부 정보에 접근하거나, 결제 로직 허점을 이용해 의도하지 않은 방식으로 자금을 이동시킬 수 있는 가능성도 확인됐다.

앤트로픽, 오픈AI 등 주요 인공지능(AI) 코드 생성 도구로 제작된 웹사이트들에서 보안 취약점이 다수 발견됐다는 주장이 제기됐다. (제작=챗GPT)

이 같은 보안 결함은 AI 코드 생성 도구의 근본적인 작동 방식과 밀접한 관련이 있다. AI는 대규모 코드 데이터를 기반으로 확률적으로 가장 적절해 보이는 코드를 생성하는데, 이 과정에서 특정 시스템의 보안 문맥이나 잠재적 위협 모델을 완전히 이해하고 설계하지 못한다는 지적을 받고 있다.

편의성과 위험이 공존하는 상황에서 업계는 AI 코딩 도구가 개발 진입 장벽을 낮추는 긍정적 효과를 인정하면서도, 결과물 활용 과정에서의 구조적 위험을 경계해야 한다고 강조했다. 앤트로픽 등 주요 기업들이 AI 코드 생성 직후 취약점을 점검하는 기능을 서둘러 도입하고 있으나, 전문가들은 이를 '완전한 해결책'으로 보지 않는다.

디인포메이션은 "AI가 만든 웹사이트는 기능적으로 완벽해 보일 수 있으나, 단 하나의 작은 취약점이 대규모 데이터 유출로 이어질 수 있다"며 "AI가 보안의 책임까지 자동화할 수는 없다는 점을 명심해야 한다"고 지적했다.