"페이크냐, 범죄냐"...AI 본격 개화 속 규제 공백에 '혼란'

"놀랍고 끔찍합니다. (딥페이크와 싸우기 위해) 우리는 빨리 움직여야 하고 행동해야 합니다."

지난 1월 말 미국 NBC 나이트 쇼에서 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)는 팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란 이미지가 온라인상에서 확산된 것에 대해 분노했다.

나델라 CEO는 "기술 주변에 가드레일(안전 장치)를 설치해 안전한 (인공지능·AI) 콘텐츠가 더 많이 생산될 수 있도록 해야 한다"며 "특히 법과 법 집행 기관, 기술 플랫폼이 함께 할 때 훨씬 더 많은 것을 규제할 수 있다"고 말하며 AI 규제의 필요성을 강조했다.

미국 싱어송라이터 테일러 스위프트가 합성 사진으로 지난 1월 곤욕을 치렀다. (사진=지디넷코리아 DB)

최근 AI 기술이 빠른 속도로 진화하고 있지만 전 세계적으로 관련 법규가 미흡하다는 지적이 일고 있다. 생성형 AI의 등장과 함께 시장은 커지고 있지만 '적정 규제'에 대한 기준이 모호해 사회 곳곳에서 혼란을 겪는 모양새다.

4일 업계에 따르면 우리나라를 비롯해 유럽연합(EU), 미국 등에서 AI 규제 공백에 대한 우려의 목소리가 높아지고 있다. AI가 큰 변화를 불러오는 원동력이 되고 있지만, 발전 속도에 맞춘 명확한 규제가 존재하지 않아 다양한 갈등을 해결할 수 있는 대책이 마땅치 않다는 점에서다.

최근 음악, 영화, 드라마, 웹툰 등 문화산업에서 생성형 AI가 저작권을 거리낌 없이 침해하고 있는 것이 대표적인 예다. 얼굴이나 목소리를 무단으로 사용하는 등 개인정보침해도 문제로 지적되고 있다.

업계 관계자는 "AI 산업 기반을 다지기 위해선 규제보다 지원에 우선 초점을 맞춰야 한다는 판단이 많다"면서도 "점차 가짜와 진짜가 구분되지 않고, AI 저작권 침해와 디지털 무한복제에 인간 창의성과 존엄성이 유린당하고 있는 분위기가 조성되고 있다는 점에선 규제 논의가 본격적으로 이뤄져야 할 시점"이라고 지적했다.

AI 규제 불 지핀 테일러 스위프트 논란…美 정치권도 '시끌'

지난 1월 테일러 스위프트를 합성한 이미지가 소셜미디어인 '엑스(옛 트위터)'를 통해 유포된 것은 규제 논의를 촉발시키는 데 큰 역할을 했다. 이 이미지는 딥페이크(deep fake)로, 익명 메신저앱 텔레그램 내 특정 그룹 사용자들이 생성형 AI로 만든 것으로 파악됐다. 이 그룹에선 마이크로소프트(MS)의 이미지 생성 도구인 디자이너(Designer)로 만든 성착취 이미지가 그간 은밀하게 공유된 것으로 전해졌다.

이후 MS는 디자이너 필터링을 강화하는 조치를 취했다. 엑스도 문제의 이미지를 전량 삭제하고 스위프트와 관련된 검색어를 잠정 차단하며 진화에 나섰다.

이같은 미국 IT 업체들의 강경 대처에도 불구하고 일각에선 '사후 약방문'이라고 지적했다. 이들이 표현의 자유를 이유로 그간 콘텐츠 검열을 자제해 왔던 탓이다. 테일러 스위프트 딥페이크가 문제가 된 엑스 계정에서 정지되기 전까지 17시간 동안 무려 4천500만 회의 조회수를 기록한 것도 이 때문이다.

미국 정치권에서도 AI 때문에 문제가 됐다. 조 바이든 대통령의 목소리를 흉내 낸 '로보콜(robocall· 녹음된 음성이 재생되는 자동전화)'이 무더기로 유포된 것이다. 민주당 뉴햄프셔주 비공식 경선 전날인 지난 1월 22일 '투표에 참여하지 말라'는 로보콜을 받았다는 유권자들의 증언이 쏟아졌고, 결국 백악관이 나서서 "해당 로보콜은 바이든 대통령의 녹음본이 아닌 AI에 의한 딥페이크"라고 해명해야 했다.

테일러 스위프트를 상대로 한 성 착취물 소식에 카린 장 피에르 미국 백악관 대변인은 지난 1월 26일 브리핑에서 "매우 우려스러운 일"이라며 의회를 향해 AI 규제와 관련한 입법에 나설 것을 주문했다. 조 모렐 민주당 하원의원(뉴욕주)은 디지털로 조작된 포르노 이미지를 동의없이 공유하는 것을 연방범죄로 규정하고 징역형과 벌금을 부과하는 법안을 통과시킬 것을 촉구했다. 공화당 소속 톰 킨 주니어 하원의원도 "AI 기술이 필요한 보호 장치가 마련되는 속도보다 더 빠르게 발전하고 있다"며 "안전장치를 마련해야 한다"고 주장했다.

저작권 침해에 대해서도 논란이 많다. 생성형 AI가 대량의 콘텐츠를 학습하고 결과물을 내놓는 과정에서 저작권을 침해한 듯한 사례가 쏟아지고 있어서다.

실제로 미국 뉴욕타임즈를 비롯해 더 인터셉트, 로 스토리, 알터넷 등 여러 언론사들은 오픈AI와 MS를 저작권 침해로 고소했다. 이 업체들의 AI 모델 학습 과정에서 저작권 정보를 삭제했다는 이유에서다.

중국에선 최근 생성형 AI가 그려낸 이미지의 저작권 침해를 세계 최초로 인정해 눈길을 끌었다. 광저우 인터넷법원은 지난달 말 AI 회사가 생성형 AI 이미지 서비스를 제공하는 과정에서 만들어낸 캐릭터 '울트라맨' 이미지가 중국 내 울트라맨 저작권 보유 회사의 저작권과 각색권을 침해했다고 보고 민사 책임을 져야 한다고 판결했다. 다만 손해배상액은 1만 위안(약 185만원)에 그쳤다.

그러면서 "국내에서 2020년께 저작권법 개정안이 마련됐지만, 아직 통과는 안된 상황"이라며 "생성형 AI가 활성화 되기 전에 마련됐던 것인 만큼 이를 다시 반영해 법안을 만들어야 하지 않을까 싶다"고 덧붙였다.

AI 규제 논의 나선 美…EU도 '촉각'

AI의 발전과 함께 곳곳에서 폐해들이 나타나자 일부 국가에서 최근 규제안 마련에 나서는 모양새다.

바이든 행정부는 같은 해 7월 오픈AI·구글·메타 등 7개 주요 AI 기업들로부터 워터마크 부착 약속도 받아냈다. 기업 자율에만 맡기지 않고 정부가 적극 개입하겠다는 의지를 드러낸 것으로 해석된다. 다만 워터마크 부착 정도로는 각종 딥페이크물 피해를 예방하기 어렵다는 것이 전문가들의 중론이다. AI 기술이 갈수록 고도화돼 탐지 소프트웨어와 워터마크 모두 사용자들에 의해 무력화될 수 있어서다.

유럽에서도 지난 2일 AI 첫 규제 법안이 나왔다. 유럽연합(EU) 27개 회원국이 승인한 'AI 규제법(The AI Act)'은 생체정보 수집 제한, 투명성 의무 강화 등을 골자로 하고 있다.

3년 전 EU 집행위원회가 발의한 이후 작년 6월 초안을 마련해 그해 12월 초 EU 입법 절차상 가장 중요한 관문인 이사회·집행위·유럽의회 간 3자 협상을 통과했다. 이후 지난 2일(현지시간) EU 27개국 대사급 상주대표회에선 최종 타협안을 승인했고, 지난 13일 유럽의회의 담당 위원회 표결에서도 통과했다. 오는 3월 혹은 4월께 의회 본회의를 최종 통과하면 세계 최초 AI 규제법이 탄생하게 된다. 이 법은 2026년부터 시행된다.

EU는 AI 기술 위험에 따라 4등급으로 분류해 차등적 규제를 적용하고, 규정을 어긴 기업엔 최대 3천500만 유로(약 500억원) 또는 세계 매출 7%에 해당하는 거액의 과징금을 부과한다.

가장 강한 등급인 '용인할 수 없는 위험' 등급에서는 공공장소에서 이용되는 실시간 원격생체인식 시스템 사용, 인터넷이나 CCTV 영상에서 스크랩을 통해 안면인식 데이터베이스를 구축하는 행위를 엄격하게 금지했다.

그러나 군사, 범죄수사, 보안 목적을 위한 수집의 경우 예외를 둔다. 또 자율 주행 자동차나 의료 장비와 같은 제품 등 '고위험' 등급에 해당하는 AI는 위험관리 시스템의 구축 및 유지, 품질 기준 충족 등에는 의무가 부과된다. 오픈AI의 챗GPT, 구글의 바드 등 대규모 언어 모델(LLM)에는 EU 저작권법 준수, 학습에 사용한 콘텐츠에 대한 요약본 배포 등 투명성 의무를 부과했다.

업계 관계자는 "규제에 대한 표준 마련과 어떤 것이 AI로 인해 폐해가 되는 지에 대한 분명한 정의가 내려져야 할 시점"이라며 "자동차도 위험을 테스트하고 나오듯 안전성과 관련해선 AI도 강력한 규제를 토대로 산업이 발달돼야 한다"고 주장했다.

EU·美서 규제 논의 '한창'…국회서 제 속도 못내는 韓

유럽, 미국의 움직임과 달리 우리나라의 AI 규제법안 마련 속도는 다소 더디다. 지난해 국회에 상정한 AI 기본법은 1년 넘게 논의조차 되지 못하고 있는 상태다. 오는 5월 21대 국회 임기가 종료되는 것을 고려하면 AI 기본법은 이번에도 물 건너 갔다고 보는 것이 업계의 중론이다.

국회 의안정보시스템에 따르면 이른바 'AI 기본법(AI 산업 육성 및 신뢰 기반 조성에 관한 법률안)'은 국회 과학기술정보방송통신위원회(과방위)에 1년 넘게 계류 중이다. 이 법은 AI에 대한 개념 규정과 AI 산업 육성·안전성 확보를 위한 방향성을 담고 있다. AI 기술을 발전시켜 관련 제품·서비스를 먼저 출시하고 사후 규제하자는 것으로, AI 저작물에 워터마크를 포함하는 내용도 있다.

오픈AI의 달리3로 그린 '디지털 워터마크 부착한 생성형 AI 이미지' (사진=오픈AI)

AI 기본법은 본래 여야 이견이 적을 법안으로 예상됐으나, 시민단체가 위험성을 예방하기에 부족하다고 지적하자 논의 자체가 멈춰 상임위 문턱도 못넘었다. AI 기본법 제정에 시간이 많이 걸리다 보니 '워터마크만 먼저 표기하자'는 대안도 나왔으나, 기업들이 AI 산업 발전을 저해한다며 반발하고 있다.

이에 정부에선 아쉬움을 드러냈다. 박윤규 과기정통부 2차관은 최근 진행한 AI 규범 간담회에서 "AI 법이 국회 문턱을 못 넘고 있는 것은 아쉬운 부분"이라며 "지난해 2월 이후 생성형 AI 나오면서 여러 요구사항을 반영한 대안 만들었고, 여야 공감대가 분명한 만큼 국회에서 하루 빨리 통과되길 기대한다"고 밝혔다.

업계 관계자는 "인류의 생존을 위협하는 기술이 등장하는데 국내 규제 논의를 보면 답답한 심정"이라며 "다른 기술의 표준 논의와 달리 인공지능은 인간 사회에 미치는 영향이 커 사회 기술적인 논의가 하루 빨리 이뤄져야 한다"고 지적했다.

AI 윤리 마련 더 시급…"투명성·통제성·책무성·공공성 고려돼야"

일각에서 AI 규제 마련이 시급하다는 목소리가 점차 커지고 있지만, 규제에만 치중할 경우 산업 발전을 저해할 수 있는 만큼 업계에선 신중하게 접근해야 한다는 의견이 지배적이다. 생성형 AI 산업이 아직 발전 초기에 있는 점을 고려할 때 권리 보호와 산업 발전 간 균형을 맞출 필요가 있다는 판단이다.

정부에서도 AI 규제를 두고 신중론을 펼치고 있다. 류제명 과학기술정보통신부 네트워크정책실장은 지난달 26일 스페인 바르셀로나에서 열린 MWC 2024 장관 세션에 참석해 "AI에 대한 규제는 기민(agile)하되 조급(hasty)하지 않아야 한다"며 "한국 정부가 최근 입안한 AI법은 필요 최소한의 규제만을 담는 한편, 세부적인 규제보다는 민간 자율 규제에 가까운 접근방식을 채택했다"고 밝혔다.

전문가들은 우리나라가 EU, 미국의 규제안을 따라갈 필요가 없다고 조언했다. 또 AI 규제와 함께 AI 윤리에 대한 사회적 공감대도 함께 마련돼야 한다고 지적했다. 사회에서 자율 규제를 마련하는 속도보다 유해한 AI 저작물 확산 속도가 훨씬 빠르다는 점도 고려해야 한다는 주장이다.

유재규 태평양 변호사는 "EU, 미국 등 여러 나라에서 자국 상황에 맞게 규제안을 만들고 있지만, 어떤 곳이 더 AI 규제를 잘 마련했다고 비교하기는 현재로선 힘들다"며 "AI 산업이 태동하고 있는 시기에 우리나라가 특정 나라에 맞춰 규제안을 만들 필요는 없을 듯 하다"고 말했다.

이어 "산업혁명 때도 기술 발전에 따른 부작용이 있었던 것처럼 AI 역시 신기술과 부작용이 동시에 부각되는 문제가 나타나는 분위기"라며 "전 산업별로 AI가 빠르게 도입되고 있는 만큼 각 분야별로 발전 상황에 맞춰 부작용을 최소화하기 위해 노력해야 할 듯 하다"고 덧붙였다.

김봉제 서울교대 윤리교육과 교수는 "AI 규제와 관련해선 전 세계 어느 나라나 똑같은 상황"이라며 "해외에서 제시하고 있는 규제가 더 선진화됐다라고 보기엔 애매한 부분이 있다"고 밝혔다.