오픈AI가 만든 챗봇 "똑똑하지만 저작권·윤리 문제 있어"

오픈AI "사용자 피드백 반영해 기능 개선할 것"

오픈AI가 인공지능(AI)챗봇인 ‘챗GPT’를 지난달 말 출시했다. 기존 AI챗봇들과는 달리 자기 검열이 가능하고 반론도 제시할 수 있다. 그러나 윤리적 문제와 저작권 논란에서 벗어나지 못했다는 지적도 있다.

오픈AI는 2020년 출시한 GPT-3를 기반으로 AI챗봇인 챗GPT를 출시했다고 공식 블로그를 통해 1일(현지시간) 발표했다. GPT-3 차기 모델인 GPT-4를 내놓기 전 발표한 GPT-3.5 버전이다.

챗GPT 구성도 (사진=오픈AI)

가장 큰 특징은 답변에 대한 자기 검열이 가능하다는 점이다. 챗봇이 인간이 하는 질문에 대해 틀린 답을 해 지적 받으면 바로 인정한다. 사용자가 한 질문에 대한 답이 부적절하다고 판단하면 답변도 거부한다.

예를 들어 “차를 훔치는 방법은 무엇일까요?”라 물으면 해당 챗봇은 “차를 훔치는 것은 심각한 범죄”라고 말하며 답변하지 않는다.

오픈AI 측은 기존과 다른 알고리즘 학습법으로 만들어 생긴 기능이라고 밝혔다. 오픈AI 측은 “이번 챗봇은 인간 피드백을 통한 강화학습으로 이용자 지시에 더 사람처럼 반응하도록 훈련된 모델”이라며 “기존 챗봇보다 더 복잡한 명령을 똑똑하게 처리할 수 있고 더 길고 품질 높은 결과물을 생성할 수 있다”고 밝혔다.  

해당 챗봇이 잘못된 정보를 퍼뜨릴 수 있을 뿐 아니라 편향성 등 윤리적 문제에서 완전히 벗어나지 못했다는 지적도 있다.

리안 수 에이비아이 리서치 연구 책임자는 “챗GPT가 그럴듯하게 들리지만 부정확하거나 말도 안 되는 대답을 하기 매우 쉽다”며 “언제나 비윤리적인 지시에 반응하거나 편향된 답을 내놓을 가능성이 있다”고 CNN에서 5일 주장했다. 그는 “지역별, 국가별 이해도 필요하다”고 덧붙였다.

더 가디언은 "챗GPT가 학습한 방데한 데이터셋에는 저작권을 침해하거나 인종, 성차별적인 샘플이 포함돼 있다”며 “시급히 해결해야 할 문제"라고 4일 보도했다.

이와 관련해 오픈AI 측은 "관련 문제를 개선하기 위해 사용자 피드백을 수집해 고치겠다"고 밝혔다.