챗GPT도 '카톡 챗GPT' 이용약관 우려...왜?

"모호한 표현·책임소재 회피로 이용자 보상 어려워"...카톡 대화 학습 쓰일 우려도

카카오(대표 정신아)가 선보인 ‘챗GPT 포 카카오’에 대한 개인정보 침해 논란의 불씨가 여전하다. 

챗GPT조차 챗GPT 포 카카오의 이용약관에 대해 "모호한 표현에 따른 책임 소재 회피 가능성이 있다"며 우려를 표했다. 특히 거부 절차를 별도 링크로 분리함으로써 사적인 카톡 대화 내용이 챗GPT 모델 학습에 쓰일 여지도 짚었다. 

20일 IT업계에 따르면 카카오는 지난달 카톡 채팅 탭에서 챗GPT를 바로 사용할 수 있는 챗GPT 포 카카오를 공식 출시했다. 해당 서비스는 카톡을 하다가 모르는 점이 생기면 바로 챗GPT를 켜서 물어볼 수 있다는 것이 특징이다. 이를 통해 대화 맥락이 끊기지 않으며, 사용자의 요청에 따라 연동된 카카오 툴스를 이용해 카카오맵·카톡 예약하기·카톡 선물하기 등의 기능을 이용할 수 있다.

채팅을 통해 수많은 개인정보가 오가는 카톡에 챗GPT를 연결한다는 소식이 들리자 이용자들 중심으로 개인정보 침해 등 보안에 대한 우려 섞인 비판이 나오기도 했다. 그렇다면 챗GPT가 보는 챗GPT 포 카카오의 이용약관은 어떨까. 카카오톡 챗GPT 이용약관을 그대로 복사해 챗GPT 프롬프트 창에 붙여넣은 뒤, 이용자 입장에서 불리하거나 불합리한 조항을 찾아달라고 해봤다. 

왼쪽부터 정신아 카카오 대표, 샘 알트먼 오픈AI CEO (사진=지디넷코리아)

그러자 챗GPT는 구체적인 사안을 명시하지 않은 모호한 표현들이 자의적으로 사안을 판단하고, 책임 회피 가능성을 열어뒀다고 지적했다. 그 중에서도 ‘귀하와 오픈AI는 분쟁을 법원이 아닌 중재로 해결하며 집단소송을 제기할 수 없다’는 표현에 대해 사실상 법적 구제 수단이 제한된다고 봤다. 또 개인이 미국 본사를 상대로 단독 중재를 진행하는 것은 비용과 절차상 매우 불리하다고 판단했다.

이용자가 피해를 입더라도 집단소송을 제기할 권리를 포기해야 한다고 지적했는데, 이는 지난해 문제로 불거진 디즈니의 약관과 유사하다. 당시 디즈니는 미국 디즈니월드에서 음식을 먹다 사망한 여성의 유족이 소송을 제기하자 온라인동영상플랫폼 ‘디즈니 플러스’ 가입 약관을 근거로 공개 재판을 막으려고 시도했다.

이 때 디즈니가 근거로 내세운 조항은 ‘분쟁 발생 시 집단소송 포기가 적용되며 개별 중재로 해결돼야 한다’는 문구였다.

챗GPT가 정리한 '챗GPT 포 카카오' 이용약관 불리 조항

이와 관련해 이주한 법무법인 위민 변호사는 “약관 무효에 관한 법률에 따르면 소비자에게 일방적으로 불리하게 작성된 약관은 무효로 볼 수 있다”며 “집단소송 등은 소비자의 권리인데 이를 이용약관으로 제한한다는 것 자체가 해당 약관의 무효 여부를 다퉈볼 수 있다. 약관의 무효 청구 소송을 한 번 해볼 수 있지 않을까라는 생각이 든다”고 설명했다.

이어 “(챗GPT 포 카카오의 이용약관이 챗GPT의 약관을 그대로 가져왔다고 하더라도 약관 무효를 다투고 책임소재를 묻는데는) 전혀 문제가 안된다”며 “오히려 (약관을 그대로 가져왔다면) 저작권 문제로 회사(오픈AI)에서 이를 문제 삼을 수도 있다”고 덧붙였다.

‘당사의 책임 한도는 귀하가 지난 12개월간 지급한 금액 또는 100달러(14만6천원) 중 큰 금액으로 제한된다’는 문구도 문제라고 언급했다. AI 오작동이나 보안사고로 큰 피해가 발생해도 배상금 상한이 100달러일 뿐만 아니라 무료 사용자는 사실상 보상받을 방법이 없다는 것이다.

이외에도 ‘당사는 본 서비스의 제공, 유지보수, 개발 및 개선을 위하고 관련 법률을 준수하고자 당사의 약관과 정책을 집행하기 위해, 그리고 본 서비스의 안전을 기하기 위해 귀하의 콘텐츠를 이용할 수 있다’는 점에 대해서도 우려했다.

챗GPT는 이용약관에 명시적으로 ‘모델 학습에 쓰지 않는다’고 표현하지 않고, ‘거부 절차’를 별도 링크로 분리해뒀다고 꼬집었다. 이로 인해 이용자가 자동으로 동의한 것으로 간주되며 거부하려면 사용자가 직접 복잡한 절차를 찾아야 한다고 챗GPT는 설명했다.

챗GPT 포 카카오에 옵트아웃이라고 입력한 화면 캡처.

실제로 ‘챗GPT 포 카카오’에 적용되는 오픈AI의 언어모델에 개인정보를 학습하지 않도록 하려면 연동된 챗GPT 계정에 로그인하는 과정을 거쳐야 한다. 챗GPT 계정으로 로그인 하지 않았다면 ‘챗GPT 포 카카오’의 오른쪽 상단 메뉴에 표기된 설정, 모델 개선에 참여한 뒤 기능을 꺼야 한다. 이밖에도 ‘챗GPT 포 카카오’ 채팅창에 ‘옵트 아웃’이라는 채팅을 남기면 개인정보 수집을 멈출 수 있다.

이 같은 우려에 카카오 관계자는 “챗GPT는 오픈AI가 제공하는 서비스로 (해당 서비스에)명시된 약관이 적용되고 이는 전 세계 사용자에게 동일하다”며 “챗GPT 포 카카오는 오픈AI와 카카오의 전략적 협업에 따른 서비스로 이용자 보호을 위한 방안에 대해 양사가 면밀히 검토하며 협업할 계획”이라고 말했다.