[방은주의 AI세상] 챗GPT 수난…伊 사용금지, 美서도 '견제'

호사다마인가요? 챗GPT와 GPT4로 인류에 놀라움을 안겨주며 세계 AI시장 최강자로 부상한 미국 오픈AI에 최근 악재가 잇달았습니다.

외신에 따르면 이탈리아는 지난달 31일(현지시각) 서유럽 국가 중 처음으로 챗GPT 서비스 일시 금지를 오픈AI 회사에 명했습니다. 뿐만 아니라 챗GPT가 유럽연합(EU)의 개인정보보호법인 GDPR(General Data Protection Regulation)을 위반했는 지도 조사하겠다고 했습니다. GDPR은 전세계에서 프라이버시 보호가 가장 막강한 EU가 2018년 5월부터 시행하고 있는 일종의 개인정보보호 법령인데요, 위반시 기업은 세계 매출의 4%를 벌금으로 내놓아야 합니다. 일단 오픈AI는 "이탈리아 당국에 협조하겠다"는 입장을 보였습니다.

이탈리아의 챗GPT 서비스 금지 하루 앞선 지난달 30일에는 CAIDP(Center for AI and Digital Policy)라는 미국 비영리 AI전문 단체가 미국 연방거래위원회(FTC)에 오픈AI와 GPT4를 조사해달라는 청원을 냈습니다. FTC는 우리나라 공정거래위원회 같은 곳으로 공정거래 여부를 다루는 미국 공공기관입니다. CAIDP는 AI 사용이 공정하고, 투명하며, 설명가능해야 한다는 FTC 천명에 부합해야 하는데 GPT4가 그렇지 못하다는 겁니다.

또 이보다 하루 앞선 미국 시각 지난달 29일에는 GPT4의 후속 제품을 비롯해 거대AI 개발을 최소 6개월 잠시 중지하자는 성명서(open letter)가 공개되기도 했습니다. '거대 AI 실험을 멈추자(Pause Giant AI Experiments)'는 제목의 이 공개 서한(Open Letter)에는 산업계와 학계의 IT거물들이 많이 참여했습니다. 1200여명이 서명을 한 것으로 알려졌는데요,

테슬라 최고경영자(CEO) 머스크와 애플 공동창업자 스티브 워즈니악(Steve Wozniak), AI 4대 천왕 중 한명인 요슈아 벤지오(Yoshua Bengio) 캐나다 몬트리올 교수 등이 이름을 올렸습니다. 오픈AI CEO인 샘 알트만도 잠시 이름을 올렸다 삭제하는 등 서명자를 놓고 해프닝도 있었는데요, 이를 공개한 FLI(Future of Life Institute)의 외부 자문가로 오픈AI와 대립각을 세우고 있는 머스크가 있으며, 또 머스크가 이 단체를 후원하고 있다는 점에서 공개서한의 진정성을 놓고 논란이 되기도 했습니다.

■이탈리아, 챗GPT 사용 일시 금지...GDPR 위반 여부도 조사

로이터 등 외신에 따르면 이탈리아 데이터보호청(Data Protection Authority)은 "챗GPT가 개인정보 수집시 적절한 법적 기반을 갖추지 못하고 있다"면서 "챗GPT 서비스 사용을 일시적으로 금지하는 한편 프라이버시 위반 문제를 즉시 조사하겠다"고 밝혔습니다.

이탈리아 데이터보호청은 오픈AI가 사용자 나이를 제대로 체크하지 않아 미성년자들이 챗GPT의 부적절한 답에 노출될 수 있다는 점도 지적했습니다. 또 지난달 20일 불거진 챗GPT의 결제 데이터 및 사용자 대화 유출 문제도 거론했습니다. 보호청은 챗GPT의 GDPR 위반 여부를 조사할 예정인데요, GDPR은 EU 국가 내 사업장을 운영하는 기업 뿐 아니라 전자상거래 등을 통해 해외에서 EU 주민의 개인정보를 처리하는 기업에도 적용됩니다.

지난해 11월 등장한 챗GPT는 시장에 나오자 마자 세계적으로 큰 인기를 끌었는데요, 특히 월 사용자가 두달만에 1억명을 돌파, 사용자 1억명을 세계에서 가장 단시간에 모은 IT서비스로 기록되기도 했습니다. 방대한 데이터를 수집하다 보니 챗GPT가 정보 유출에 민감한 중국과 러시아 같은 나라에서는 이의 사용을 금지하고 있는데요, 미국에서는 민간기업과 대학 등 일부 학교도 챗GPT 사용을 금하고 있습니다.

세계적 투자사 JP모건과 미국 1위 이동통신기업 버라이즌이 챗GPT 사용을 금지한 대표 기업인데요, 일본에서는 소프트뱅크가 직원들에게 기업 기밀을 챗GPT에 넣지 말라는 주의를 주기도 했습니다. 우리나라에서도 모 대기업의 반도체 사업장에서 챗GPT에 따른 기업 정보 유출 사고가 일어나기도 했습니다. 미국은 기업 뿐 아니라 대학과 일부 공립학교에서도 챗GPT 사용을 금했는데요, 우리나라 대학도 연세대가 챗GPT 대필로 의심되는 과제를 0점으로 처리하기로 하는 등 챗GPT가 쓴 건지 학생이 쓴 건지 '판별'하기 위한 학교들 고심이 커지고 있습니다.

■CAIDP, 미국 FTC에 "오픈AI와 GPT4 조사해야" 청원

미국시각 지난달 30일 'AI와 디지털정책을 위한 센터(Center for AI and Digital Policy, CAIDP)'라는 긴 이름을 가진 비영리단체가 미국 연방거래위원회(Federal Trade Commission, FTC)에 민원을 제기해 "지난달 출시된 GPT4와 이를 만든 오픈AI 회사를 조사하라"고 촉구했습니다.

AI는 공평하고 투명하며 설명가능해야 한다고 FTC가 천명했는데 GPT4가 이들 조건 중 어느 하나도 충족하지 못하고 있다는 겁니다. 1914년 설립된 FTC는 우리나라의 공정거래위원회처럼 독과점과 불공정거래를 규제하는 미국의 대표적인 경제 규제기관입니다. 미국 정부는 공정거래기구로 법무성 산하 독점금지국(Antitrust Division)과 방거래위원회(FTC)로 이원화해 운영하고 있는데요 독점금지국은 민·형사 사건 모두를, FTC는 민사사건만 취급하는 것이 다른 점입니다.

이번에 청원을 제기한 CAIDP는 워싱턴에 사무실이 있습니다. '보다 나은 사회(better society)를 위한 더 공평하고(more fair) 더 공정한(more just) 사회'를 만드는 걸 기치로 내걸고 있으며 설립자 겸 대표는 마크 로텐버그(Marc Rotenberg)입니다. 그는 조지타운법대에서 GDPR과 프라이버시법을 가르치고 있으며 OECD내 AI 전문가그룹이 발간하는 'AI 정책 북'의 편집장을 맡고 있습니다.

하버드 칼리지와 스탠포드 로스쿨, 또 조지타운대에서 법학 석사를 받았습니다. 2016년에는 '프라이버시 법과 사회(Privacy Law and Society)'라는 책을 공동 저자로 발간했고, 유럽의회와 유럽위원회 등 여러 기관 및 단체에 AI 정책을 자문하고 있는 AI와 법 관련 전문가입니다. 특히 2020년에 'AI와 민주주의 가치(Artificial Intelligence and Democratic Values)'라는 AI 정책과 실행에 대한 책자를 30개 나라에서 펴내기도 했습니다.

CAIDP는 "FTC가 불공평하고 기만적인 거래 행태를 금지하고 조사할 명백한 책임이 있다"며 "FTC는 당연히 오픈AI와 GPT4를 면밀히 조사해야 한다"며 FTC를 압박했습니다. CAIDP는 지난달 중순 출시된 GPT4가 악성 코드를 양산하거나 편향된 데이터 학습으로 고도의 선전에 악용될 수 있으며 또 채용 등에 있어 불공평한 젠더 및 인종 차별을 초래할 수도 있다고 우려했습니다. 또 최근의 결제 사고에서 보듯이 오픈AI 제품이 인터페이스 차원에서 심각한 프라이버시 문제를 안고 있다고 지적했습니다.

특히 CAIDP는 GPT4 이후 상업 버전 출시 중단은 물론 이와 같은 거대 AI의 경우 출시전 이를 평가할 수 있는 독립기구가 필요하다고 FTC에 제안했습니다. 이번 제소에 FTC가 조사에 나설지 귀추가 주목되는데요, 최근 한 회의에서 리나 칸(Lina M. Khan) FTC 위원장은 "인공지능 주요 모델 및 특정 플랫폼에 지배되지 않도록 AI 발전과 과정에 주목하고 있다"고 말하기도 했습니다.

앞서 오픈AI는 GPT-4를 출시하면서 이 제품이 데이터를 어떻게 학습했는지 공개하지 않아 논란이 된 바 있습니다.

■FLI "거대AI 개발 데이터 학습 6개월간 중지해야"···벤지오 등 AI거물들 서명

지난달 29일(현지시각)자 월스트리트저널(WSJ)에 따르면 일련의 테크기업 경영자와 AI학자들들, 예컨대 일론 머스크 테슬라 최고경영자(CEO)와 딥러닝 대부 요슈와 벤지오(Yoshua Bengio) 캐나다 몬트리올대 교수 등이 거대AI 개발을 최소 6개월 정도 멈춰야 한다고 주장했습니다. AI에 대한 안전 표준을 만들고, AI가 야기할 수 있는 잠재적 피해를 막을 수 있을 때까지 더 강력하고 새로운 생성형AI 출현을 막아야 한다는 것인데요, 이들은 미국 비영리단체인 '미래생명연구소(Future of Life Institute, FLI)'가 지난 수요일(29일) 공개한 '거대 AI 실험을 중지하자(Pause Giant AI Experiments)'는 제목의 공개 서한(Open Letter)에 서명했습니다.

서명자가 1200여명에 달하는데요, 서명자 중에는 머스크와 벤지오 교수 외에 애플 공동설립자이자 IT거물 스티브 위즈니악(Steve Wozniak), 세계적 AI 권위자로 꼽히는 스튜어트 러셀 버클리 캘리포니아대(UC버클리) 컴퓨터과학과 교수, 이미지 생성 AI 프로그램 개발사 ‘스테이빌리티 AI’ CEO 에마드 모스타퀴(Emad Mostaque) 등이 있습니다.

FLI는 공개서한에서 “모든 작업을 자동화해야 하냐?"면서 "강력한 AI 시스템은 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다”고 촉구했습니다. 이어 서한은 AI 개발사들에게 "더 강력한 AI 개발을 일시 중지한다는 사실을 공개적으로 선언해야 한다"고 압박하면서 “(AI 개발) 중단이 신속히 이뤄지지 않는다면 정부가 개입해야 한다”고 촉구했습니다.

공개서한은 모든 AI개발을 중지하자고 하지는 않았습니다. 앞으로 나올 GPT4보다 더 막강한 AI의 데이터 학습(훈련)을 6개월이나 그 이상 중지하자는 것입니다. 여기에는 GPT4의 다음 버전인 GPT5도 들어가는데요, 오픈AI는 "아직 GPT5의 데이터를 학습하지 않고 있다"고 밝혔습니다.

챗GPT, GPT4와 직접 경쟁하고 있는 구글도 비슷한 제품을 개발중인데요, 이외에도 어도비와 세일즈포스, 줌 같은 전통적 미국 SW기업들도 보다 고도화한 AI 툴들을 선보였는데요, 특히 오픈AI와의 탄탄한 협력을 기반으로 챗GPT의 가장 큰 수혜자로 떠오른 마이크로소프트(MS) CEO 사티야 나델라(Satya Nadella)는 지난달 "이제 레이스가 시작됐다. 우리는 움직이기 시작했고, 더 빨리 움직일 것이다"고 말하기도 했습니다.

서명에 동참한 스태빌리티AI CEO 모스타퀴는 공개서한이 공개된 날 트위터에서 "서명한 건 맞지만 6개월간 (개발을) 멈추자는 건 동의하지 않는다"고 밝히기도 했느데요, 가장 중요한 당사자인 MS와 구글은 공개서한에 아무런 코멘트도 없었습니다.