스택오버플로우가 오픈AI의 대화형 챗봇을 이용한 답변 등록을 금지했다. 사용자의 질문에 AI로 생성한 답변을 올리면 잘못된 정보를 공유할 수 있다는 우려 때문이다.
6일(현지시간) 더버지 등 외신에 따르면, 스택오버플로우는 사용자가 '챗GPT'를 이용해 AI로 생성한 답변을 공유하는 것을 일시적으로 금지했다.
지난주 공개된 챗GPT는 오픈AI의 자연어 생성 인공지능을 기반으로 질문과 답변을 주고 받을 수 있는 AI 챗봇이다. 올해 초 마이크로소프트 애저 AI 슈퍼컴퓨터 인프라를 통해 추가 학습을 마친 언어 AI 모델 GPT-3.5에서 미세조정을 거쳐 개발됐다. 이 AI 모델은 사람과 자연스러운 대화를 주고받는 것을 목표로 한다. 실제 사람의 행동을 모방하는 역강화학습인 '행동 복제 학습' 등을 적용했다.
챗GPT는 컴퓨터 프로그래밍 코드 작성에 대한 질문에 답변을 제시할 수 있다. 오픈AI는 코드 디버깅에 유용할 것이라고 밝혔다. 질문과 답변을 주고 받는 중에 실수를 인정하고 부적절한 전제나 요청을 거부할 수 있다고 오픈AI 측은 설명했다.
스택오버플로우 측은 "챗GPT에서 정답을 얻는 평균 비율이 낮기 때문에 챗GPT에서 만든 답변을 게시하는 것은 사이트와 정답을 묻는 사용자에게 매우 해롭다"고 밝혔다
이어 "주요 문제는 챗GPT의 생성 답변이 오답률이 높고, 일반적으로 좋은 듯 보이며 답변을 생성하기 매우 쉽다는 것"이라며 "게시하기 전에 답변이 올바른지 확인하려는 전문지식이나 의지 없이 챗GPT를 이용해 답변을 하려는 사람도 많다"고 주장했다.
관련기사
- 오픈AI가 만든 챗봇 "똑똑하지만 저작권·윤리 문제 있어"2022.12.06
- AI 화가 ‘달리2’ 마이크로소프트 애저에서 쓴다2022.10.13
- "시리야, 애저에 SQL 서버 만들어줘"2022.10.27
- 코파일럿, 지적재산권 위반 혐의 피소2022.11.10
스택오버플로우는 답변의 양이 챗GPT 공개 후 상당히 늘었으며, 답변의 품질을 판단하는 자원봉사 기반의 품질 큐레이션 인프라를 압도했다고 밝혔다.
이 조치는 일시적인 것이며, 논의를 거쳐 챗GPT 허용 여부를 결정할 것이라고 스택오버플로우는 강조했다.
