"얼굴 사진 AI 합성 여부 구별하기 사실상 불가능"

英·美 연구진 실험..."범죄 악용 우려, 안전 장치 필요"

인간의 눈으로는 인공지능(AI)이 만든 합성 얼굴에 대해 그게 실제 사람 얼굴인지 가짜 얼굴인지를 구별하지 못한다는 연구 결과가 나왔다.

이에 따라 가짜 얼굴을 실제 얼굴인 것처럼 각종 범죄에 악용할 가능성이 커져 이를 방지하기 위한 안전 장치가 필요하다는 지적이다.

영국 랭커스터대와 미국 버클리 캘리포니아 대학 연구진은 참여자들을 대상으로 AI로 만든 가짜 얼굴과 실제 인물 사진을 구별하게 하는 실험을 하고 그 결과를 15일(현지 시각) 미국 국립과학원회보(PNAS)에 게재했다.

이에 따르면 인간의 눈으로는 이제 실제 얼굴 사진과 AI 합성 얼굴 사진을 구별하기가 사실상 불가능하다는 결론에 이르게 됐다.

가장 신뢰할 수 있는 얼굴 4개(위)와 가장 덜 신뢰할 수 있는 얼굴 4개(아래). 합성얼굴(S)이 상위 3개에 올랐으며 실제 얼굴(R)이 모두 하위를 기록했다(이미지=pnas)

연구진은 이 실험을 위해 기계 학습 프레임워크를 이용해 만든 가짜 얼굴 사진 400장과 실제 인물사진 400장을 만들었다.

첫 번째 실험에서는 참가자 315명을 대상으로 아무런 설명을 하지 않은 채 800장의 사진 중 128장을 뽑아 실제인지 합성인지 구별하게 했다. 

그 결과 정확도는 48.2%로 나타났다.

이는 실제 사진과 합성 사진을 거의 구분하지 못하다는 뜻으로 풀이된다.

두 번째 실험에서는 219명의 새로운 참여자에게 AI가 만든 얼굴을 분류하는 방법 설명한 후 진행했다. 이 실험은 정확도 59%를 기록했다. 정보를 줘도 실제로 구분하는 데는 큰 영향이 없다는 것으로 풀이된다.

특히 주목되는 것은 얼굴에 대한 신뢰도 반응 실험이다.

세 번째 실험에서는 참가자 223명에게 1(매우 신뢰할 수 없음)에서 7(매우 신할 수 있음)의 척도로 신뢰도을 평가하도록 했다.

그 결과 여성이 남성보다 신뢰도가 높았으며, 특히 합성 얼굴 평균 신뢰도가 4.82로 실제 얼굴 4.48보다 더 높은 것으로 나타났다.

연구진은 “합성된 얼굴이 신뢰할 수 있는 것으로 간주되는 평균적인 얼굴과 유사하기 때문에 더 신뢰도가 높은 것으로 보인다”며 “실험 결과 예상보다 더 실제와 구별이 어려웠던 만큼 딥페이크 등으로부터 보호하기 위한 방안이 필요할 것 같다”고 전했다.