챗GPT로 영수증 위조도 뚝딱…악용 위험↑

오픈AI가 최신 모델 '챗GPT 4o'에 이미지 생성 기능을 강화하면서 큰 관심을 끌고 있다. 이런 가운데 일부 사용자들이 '챗GPT 4o'로 가짜 영수증을 만드는 사례가 늘어나고 있다고 테크크런치 등 외신들이 31일(현지시간) 보도했다.

보도에 따르면, 이미 많은 사람들이 챗GPT 4o로 가짜 식당 영수증을 만들어 게시하는 챌린지를 소셜 미디어에서 벌이고 있다. 인플루언서 디디 다스(Deedy Das)는 자신의 엑스에 챗GPT 4o를 통해 만든 샌프란시스코의 실제 스테이크하우스 명의의 가짜 영수증 사진을 올렸다.

디디 다스가 엑스에 올린 가짜 영수증 사진 (출처=엑스 @deedydas)

다른 사람들은 영수증 사진에 음식이나 음료 얼룩을 넣어 진짜처럼 보이게 하거나, 영수증이 살짝 구겨진 효과를 주기도 했다.

하지만, 자세히 보면 인공지능(AI)이 만든 가짜 영수증에는 허점이 있었다. 영수증 합계에 소수점에 사용하는 마침표 대신 쉼표를 사용한 점과 합계 금액의 계산 오류 등이 확인됐다. 이는 대규모 언어모델(LLM)이 기초적인 수학 계산에 어려움을 겪기 때문에 특별히 놀라운 일이 아니라고 테크크런치는 전했다.

하지만 사기꾼이 사진 편집 소프트웨어 등을 이용해 이미지에서 숫자를 고치는 등 편집해 악용하는 것은 어렵지 않을 것으로 보인다.

테크크런치가 직접 생성한 가짜 영수증 이미지 (출처=테크크런치)

생성형 AI 기능이 가짜 영수증을 만드는데 악용될 경우, 실제로 지출되지 않은 비용에 대한 허위 청구나 가짜 영수증을 통한 환급 사기가 가능하기 때문에 주의가 필요하다.

이에 대해 타야 크리스티안슨 오픈AI 대변인은 “모든 챗GPT 이미지에는 생성 사실을 명시하는 메타데이터가 포함되어 있다”며, “사용자가 정책을 위반할 경우 조치를 취하고 실제 사용과 피드백에서 항상 학습하고 있다”고 밝혔다.

그는 왜 사용자들이 가짜 영수증을 만들 수 있게 허용하느냐는 질문에 “사용자에게 최대한의 창의적 자유를 보장하는 것이 목표”라며, “금융 교육이나 광고•예술 창작 등 비사기적 목적의 활용 가능성도 고려해야 한다”고 답했다.