배경훈 부총리 "AI 딥페이크, 기술로 막겠다"…'투트랙' 대응 원칙 재확인

이상휘 의원 '가짜뉴스' 비판…"오남용 방지책 공감, AI 원천기술 발전 병행돼야"

배경훈 부총리 겸 과학기술정보통신부 장관이 인공지능(AI) 딥페이크 기술의 정치적 악용을 방지하기 위한 원천 기술 발전이 필수적이라고 선언했다.

국회 과학기술정보방송통신위원회는 13일 국정감사를 열고 AI 기술의 위험성을 점검했다. 이날 배 부총리는 관련 질의에 "AI 역기능을 막기 위한 제도적 장치와 기술 고도화를 동시에 추진하는 '투트랙' 전략이 필요하다"고 답했다.

이날 질의는 국민의힘 이상휘 의원이 직접 제작한 '가짜 영상'을 재생하며 시작됐다. 이 의원은 박장범 KBS 사장의 목소리와 영상을 합성해 "수신료 분리징수가 맞으며 경영이 안 되면 KBS를 팔아서라도 해결해야 한다"고 말하는 조작 영상을 실시간으로 시연했다.

배경훈 부총리

이 의원은 "이전 시대가 그대로 방치되면 AI는 '디지털 괴벨스'가 될 것"이라며 "정부가 AI 산업 육성에만 몰두한 나머지 조작 콘텐츠 대응에는 손을 놓고 있다"고 비판했다.

이에 대해 배 부총리는 "위원님 말씀에 충분히 공감하며 AI 오남용과 악용에 대한 방지책을 마련해야 한다"면서도 "딥페이크 방지 기술을 만들기 위해서라도 AI 기술을 발전시켜야 한다"고 강조했다.

부정적 사용 기술이 빠르게 발전하는 만큼 이를 막을 방어 기술 역시 높은 수준의 AI 역량이 뒷받침돼야 한다는 설명이다.

배 부총리는 "한국은 언어 모델에 비해 영상 등을 다루는 멀티모달 기술에서 글로벌 격차가 크다"며 "AI기본법에 안전과 신뢰성 부분을 담고 AI안전연구소를 통해 딥페이크 방지 기술 R&D를 진행하고 있다"고 밝혔다.

이어 "기술을 방지하기 위한 제도적 장치와 AI 기술 발전 노력이 동시에 필요하다" 말했다.