[고삼석 칼럼] 가짜뉴스 ‘규제’는 왜 실패하는가?

고삼석 동국대 AI융합대학 석좌교수·전 방통위 상임위원

가짜뉴스(Fakenews) 문제가 정치권은 물론, 사회 영역, 심지어 테크(Tech) 영역에서 핫이슈로 다시 부상하고 있다. 국내뿐만 아니라 해외 각국, 그리고 국제기구에서도 활발하게 논의되고 있다. ‘민주주의의 꽃’이라는 선거가 전 세계적으로 치러지는 가운데 첨단 인공지능(AI) 기술을 악용하여 만들어진 ‘진짜 같은 가짜뉴스’가 쏟아져나오고 있기 때문이다.

올 한 해 동안 전 세계 50개 국가에서 40억명의 유권자가 투표에 참여한다고 한다. 권위주의 국가에서도 선거가 치러지는 만큼 가짜뉴스의 영향으로부터 자유로운 나라는 없다고 해도 과언은 아니다.

선거는 차치하더라도 정치 공간에서 가짜뉴스로 인해 골머리를 앓는 것은 민주주의 국가나 권위주의 국가나 ‘동병상련’이다. 서양과 동양이 크게 다르지 않다. 여러 국가에서 가짜뉴스에 대한 ‘자율규제론’이 힘을 잃으면서 정부만큼이나 글로벌 빅테크 기업들의 고민도 깊다.

지난 16일(현지 시간) 독일 뮌헨에서 열린 안보회의(MSC)에서 구글, 메타, 아마존, 틱톡, 오픈AI 등 20여개 글로벌 빅테크 기업들은 AI를 이용해 만든 가짜뉴스가 선거에 악용되거나, 선거를 방해하는 것을 막기 위해 공동 대응한다는 내용의 협정문에 서명했다.

‘선거에서 AI의 기만적 활용을 방지하기 위한 기술 협정’이란 제목의 협정문 골자를 보면, 글로벌 빅테크 기업들은 선거 관련 인공지능(AI) 생성 콘텐츠의 위험성을 최소화하기 위한 기술을 개발하는데 서로 협력하기로 했다.

대표적으로 이용자들이 AI로 만든 콘텐츠임을 알아볼 수 있도록 워터마크(Watermark)를 넣거나 라벨을 붙이는 기술 개발, AI로 만든 콘텐츠 여부를 판별할 수 있는 기술을 개발하기로 했다. 또한 개발 중인 각 사 AI 모델의 위험성을 평가하거나 이용자 대상 정보공개 및 교육 지원도 함께 하기로 의견을 모았다.

그러나 협정문에서도 확인할 수 있듯이 이번 뮌헨협정은 강제력 있는 합의가 아니라 일종의 ‘상징적 합의’이자, 자율 규제 선언이라고 할 수 있다. 협정문에 서명한 빅테크 기업들은 딥페이크 콘텐츠를 금지하거나 제거하겠다고 약속하지는 않았다.

그것은 이 기업들이 딥페이크 콘텐츠를 근절하는 것이 불가능한 일이거나 기술의 진보 트렌드 또는 기업의 이익에 부합하지 않는 일이라고 인식하고 있기 때문이다.

실제로 메타의 닉 끌레그(Nick Clegg) 글로벌 담당 사장은 “어떤 기업, 정부, 시민단체도 AI의 출현과 그로 인해 발생할 수 있는 악의적인 사용에 스스로 대처할 수 없다는 점을 모두 인식하고 있다”는 말로 딥페이크를 활용한 가짜뉴스 생산과 유통, 이용을 규제하는 일이 결코 쉽지 않다는 점을 고백하였다.

베라 요우로바(Vera Jourava) EU집행위원회 부위원장은 이번 협정문 도출에 대해 “(이번 합의가 모든 문제를 해결할 정도로 충분히) 포괄적일 수는 없지만 매우 영향력 있고 긍정적인 요소를 포함하고 있다”고 평가하는 한편, “AI로 만든 허위정보가 EU회원국 뿐만 아니라 민주주의의 종말을 가져올 수도 있다”고 경고했다.

국내에서도 가짜뉴스 규제는 ‘뜨거운 감자’이자, 해법 마련이 쉽지 않은 오래된 골칫거리이다. 지금은 헌법재판소의 위헌 판정으로 사라졌지만, ‘공익을 해칠 목적으로 인터넷에 허위 사실을 유포한 혐의(전기통신기본법 제47조 제1항 위반)’로 정부가 인터넷 논객의 처벌을 시도한 이명박정부 당시 소위 ‘미네르바 사건’은 온라인 상의 가짜뉴스 규제를 둘러싼 사회적 논란을 촉발시켰다.

박근혜정부 때도 가짜뉴스에 해당하는 유언비어, 허위조작정보에 대한 정부 차원의 대책은 꾸준히 나왔다. 박근혜 전 대통령은 수석비서관회의에서 직접 ‘유언비어 단속’을 주문하기도 했다. 박 대통령의 유언비어 단속 발언은 2014년 4월 16일 ‘세월호 참사’ 이후 한층 강경해졌다.

박 전 대통령은 같은 해 4월 21일 세월호 참사 대책을 논의한 청와대 수석비서관회의 모두 발언에서 "지금 SNS와 인터넷을 통해 온갖 유언비어와 루머가 많다"면서 "이런 거짓말과 유언비어의 진원지를 끝까지 추적해서 그들의 행동에 대해 책임을 지도록 해야 할 것"이라며 강력한 대응을 지시했다. 몇 년 후 박근혜 대통령은 가짜뉴스라고 부인했던 ‘국정농단사건’으로 인해 탄핵되었다.

박근혜정부를 무너뜨린 ‘촛불혁명’으로 출범했다는 문재인정부는 어떠했는가? 문재인 대통령은 2018년 10월 8일 국무회의에서 ‘가짜뉴스 근절을 위한 범부처 종합대책’을 보고 받고 “허위조작정보는 보호받아야 할 영역이 아니다”라며 강력한 대책을 주문하였다.

문재인 대통령은 당시 방송통신위원회가 보고한 ▲법에 근거한 규제와 ▲업계의 자율 규제, 그리고 ▲이용자 미디어 리터러시 증진 등을 골자로 하는 가짜뉴스 대책을 수용하지 않았다. 대신 중장기 대책보다는 규제 일변도의 강력하고 즉각적인 효과를 발생시키는 대책을 주문했다.

문재인 정부에서 가짜뉴스 규제 이슈는 2018년 10월 국무회의를 계기로 언론의 이목을 집중시키면서 공론화되었다. 그러나 정부 내에서의 논의는 이보다 훨씬 빠른 2018년 연초부터 본격 시작되었다. 이 당시 집권 세력 내부 논쟁은 언론의 자유를 보장하면서 업계의 자율 규제를 중심으로 가짜뉴스에 대응하자는 주장(자율 규제론)과 법률을 폭넓게 해석하여 강력하게 행정 규제를 해야 한다는 주장(강경 규제론)이 첨예하게 충돌하면서 상당 기간 진행되었다.

결과는 ‘강경 규제론’이 완승했다. 문재인 대통령이 그들의 손을 들어줬기 때문이다. 그로 인해 문재인정부의 가짜뉴스 대책은 주무기관인 방송통신위원회보다는 대통령비서실이 주도권을 행사했다. 대통령비서실이 직접 여당(민주당)과의 협의를 통해 허위조작정보에 대한 ‘징벌적 손해배상제’ 도입과 같은 입법을 주도했고, 자율 규제론은 설 자리를 잃었다.

진보적인 언론시민단체들이 “문재인정부에서 가짜뉴스 대책 이외에 미디어 정책은 실종되었다”고 평가할 만큼 가짜뉴스 규제에 모든 역량을 집중했다. 그러나 2022년 대통령선거에서 문재인정부와 민주당은 정권 재창출에 실패했다.

짧게 살펴보았지만 역대 정부에서 가짜뉴스는 ‘목에 걸린 가시’처럼 권력을 매우 불편하게 만드는 존재였다. 때로는 정당한 비판도 가짜뉴스로 규정하고 억압하였다. 이를 위해 다양한 행정 및 입법 규제 수단을 동원했지만, 정부에 의한 가짜뉴스 규제는 성과를 거두지 못했다. 결과적으로 실패했다.

4월 국회의원 선거를 앞두고 가짜뉴스 규제가 민생만큼 중요한 현안으로 다뤄지고 있는 것이 한국 정치의 현실이다. 최근 가짜뉴스 규제에 속도를 내고 있는 윤석열정부가 역대 정부의 가짜뉴스 규제 시도를 ‘반면교사’ 삼아서 같은 실수를 되풀이하지 않도록 몇 가지 조언을 하고자 한다. 열린 마음으로 참고하기 바란다.

첫째, 정부가 법 집행의 주체라고 하더라도 가짜뉴스 여부를 판단하는 주체가 돼서는 안 되고, 특히 행정력을 동원한 자의적인 규제를 해서는 안 된다. 가짜뉴스 규제와 관련하여 현재 가장 논란이 되는 것은 가짜뉴스의 범위를 규정하는 일, 즉 개념을 정의하는 일이다.

그동안 치열한 논쟁을 통해 가짜뉴스에 대한 개념 정의는 어느 정도 공통분모를 찾아가고 있다. 여·야가 국회에 제출한 입법안을 중심으로 살펴보면, 가짜뉴스는 ▲정치·경제적 이익을 목적으로 ▲의도적으로 왜곡 혹은 날조하고 ▲언론 보도의 형태를 가장한 거짓 정보로 정의할 수 있다.

그러나 최근에는 가짜뉴스가 양적·질적으로 폭증 및 확장하면서 언론 보도 형태를 띠지 않더라도 앞서 설명한 일정한 조건을 충족한 콘텐츠라면 가짜뉴스 혹은 허위조작정보로 정의하고 있다. 물론 입법과정에서 가짜뉴스의 범위를 확장하는 것은 매우 신중해야 한다. 최소 규제의 원칙이 맞다.

여러 정권을 거친 수 년 간의 사회적·정치적 논란에도 불구하고 가짜뉴스와 관련된 입법은 진전이 없다. 정권교체로 여야 간 위치가 바뀔 때마다 여야는 가짜뉴스 규제 찬성과 반대를 오가며 입장을 수시로 바꿨다. 이것은 정치권의 무능이거나 직무유기이다. 총선을 앞둔 지금은 어렵다고 하더라도 총선 이후 구성될 제22대 국회는 가짜뉴스 관련 규제에 대한 사회적 타협을 전제로 정치적 합의, 즉 입법을 마무리해야 한다. 정부는 그 범위 내에서 법을 엄격하게 집행해야 한다.

둘째, AI와 같은 첨단 기술 발전의 트렌드를 무시하거나 규제 일변도로 접근해서는 안 된다. 지난 1월 중앙선거관리위원회는 4월 국회의원 총선거를 앞두고 AI 기반 딥페이크 음향, 이미지, 영상을 이용한 선거운동을 전면 금지시켰다. 선관위는 “누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 딥페이크 영상 등을 제작·편집·유포·상영·게시할 수 없다”는 운용 기준을 발표하였다. 이 운용 기준에 따라서 기존에 인터넷상 게시된 딥페이크 영상 등은 선거일 전 90일 전까지 삭제하도록 하였다.

다만, 선관위는 포토샵이나 그림판처럼 사용자가 직접 조작을 해야 하는 프로그램을 이용한 결과물은 금지 대상에 포함시키지 않았다. 그렇더라도 포괄적 금지로 인한 첨단 기술의 선거 이용 원천 봉쇄, 인공지능 기술 기준의 명확성을 놓고 논란이 없는 것은 아니다. 딥페이크 영상 등이 문제가 된다고 선거운동 이용에 원천적으로 금지하는 것은 기술의 발전을 도외시한 “너무 단순한 접근”이라는 비판이 나오는 이유다.

셋째, 가짜뉴스 규제를 빌미로 시민들의 인터넷 이용을 통제하거나 인터넷을 활용한 표현의 자유를 억압해서는 안 된다. 다양한 정치 관련 콘텐츠 제작과 유통을 통해 정치에 참여하려는 시민들의 욕구를 억제해서도 안 된다.

인터넷과 정치참여의 관계를 연구한 다수의 논문들을 보면, 온라인 공간에서 정보의 홍수로 인해 오히려 정치적 무관심이 증가하거나 양극화가 심화되는 등 부작용도 적지 않다. 또한 유튜브 등에서 작동하는 추천 알고리즘은 가짜뉴스를 통한 확증편향을 강화하여 진영 간 극단적인 정치적·이념적 대립을 조장한다. 그렇더라도 인터넷 공간에 대한 정치적·행정적 규제는 최소화하는 것이 바람직하다.

인터넷 공간은 정치참여의 유력한 수단이자 민주적 학습과 공론의 장인 만큼 이용자들의 자율 규제를 근간으로 작동되도록 보장하는 것이 맞다. 인터넷 공간에서 가짜뉴스 생산과 유통 등 일탈 행위는 입법을 전제로 엄격하게 규제하되 정치참여는 장려하고, 사회적 공론장이 활성화될 수 있도록 정부는 정책을 정교하게 추진해야 한다.

넷째, 온라인상의 가짜뉴스를 규제하는 효율적인 방법은 바로 팩트체크(Fact Check) 기능을 활성화하는 것이다. 물론 온라인상의 가짜뉴스를 그대로 믿는 사람들 중 일부는 사실을 바로잡는 팩트체크에도 불구하고 이를 의도적으로 피하는 경향이 있다는 일본의 연구결과도 있다. 그럼에도 뉴스의 진위 여부를 검증하고, 객관적인 팩트 판단 기준을 제시해 주는 일은 가장 강력한 가짜뉴스 대응책이 될 것이다.

허위정보 대응 노력을 인정받아 2021년 노벨평화상 후보에 오른 국제팩트체크네트워크(IFCN)의 앤지 홀란(Angie Holan) 디렉터는 국내 한 언론사와의 인터뷰에서 “인터넷과 SNS에서 떠도는 허위정보를 줄이기 위해서는 정부의 역할도 필요하다. 그러나 허위정보로 인해 자유로운 발언들까지 제한받는 일이 없어야 하기 때문에 팩트체커와 같은 독립적인 사람들이 (허위정보를 가리는 일을) 하는 것이 옳다”고 강조했다.

지난해 정부는 정치적 편향성을 이유로 팩트체크 플랫폼에 대한 각종 지원을 중단하였다. 그런데 가짜뉴스 규제기관인 방송통신위원회는 “온라인을 타고 확산되어 사회 안전을 위협하는 가짜뉴스에 대한 대응 기반을 마련”한다는 명분으로 중단되었던 팩트체크 플랫폼 사업을 올해부터 재개하기로 했다.

정부가 제시한 명분이나 배경과 별개로 팩트체크 사업 지원을 재개한 것은 일단 잘한 일로 평가할만하다. 다만 팩트체크 사업 수행 사업자 선정 및 운영과 관련하여 또 다른 편향성 문제나 정치적 악용 논란이 발생하지 않도록 정부는 각별하게 조심하여야 할 것이다.

마지막으로 테크 업계의 자율 규제 노력을 권장하고, 시민들의 미디어 이용역량(Media Literacy) 증진과 같은 근본적이고 중장기적인 대응책을 포기해서는 안 된다. 글로벌 빅테크 기업들이 AI를 악용한 가짜뉴스 근절을 위해 공동 대응한다는 뮌헨협약은 여러 필요조건 중 하나에 불과하다. 가짜뉴스의 생산과 확산을 막기 위한 충분조건은 아니다.

그럼에도 구글(유튜브)이나 메타(페이스북·인스타그램), 틱톡 같은 소셜미디어 플랫폼이 가짜뉴스 유통과 소비의 주된 플랫폼이라는 점을 고려할 때 이들이 뮌헨협약을 충실히 이행한다면 적지 않은 효과를 거둘 수 있을 것으로 기대한다. 또한 빅테크 기업들이 자율 규제를 이행한다면 기업 활동에 대한 정부의 불필요한 개입과 간섭, 그리고 가짜뉴스 규제를 둘러싼 편향성 논란도 최소화할 수 있을 것이다.

가짜뉴스 대책 가운데 가장 근본적인 처방은 미디어 이용자들의 미디어 이용역량을 증진하는 것이다. 미디어 교육을 통해 가짜뉴스 생산과 유통이 범죄 혹은 최소한 공동체를 파괴하는 윤리 위반 행위라는 점을 이용자들에게 확실하게 인식시켜 주어야 한다.