인스타그램 창업자 "AI 챗봇, 기업 참여지표 부풀리기에만 집중" 비판

케빈 시스트롬, '스타트업그라인드'서 견해 밝혀

인스타그램 공동 창업자가 인공지능(AI) 챗봇이 실질적인 도움보다 사용자 '참여 유도'에만 집중하고 있다고 지적했다. 이같은 전략이 과거 소셜미디어가 취했던 중독 유도 전략과 다르지 않다는 주장이다.

4일 테크크런치 등 외신에 따르면 케빈 시스트롬 인스타그램 공동창업자는 최근 미국 스타트업 행사 '스타트업그라인드'에서 "AI 챗봇이 매번 질문을 마친 뒤 또 다른 질문을 던져 다음 질문을 유도하려 한다"며 "이는 우리가 이미 소셜미디어에서 봐온 참여 지표 부풀리기 전략"이라고 비판했다.

시스트롬이 특정 기업명을 언급하지 않았으나 업계에서는 오픈AI를 중심으로 한 생성형 챗봇 전반을 겨냥한 것으로 해석하고 있다.

케빈 시스트롬 인스타그램 공동창업자 (사진=위키 커먼스)

해당 발언은 최근 '챗GPT'가 사용자에게 과도하게 친절하고 직설적인 대답을 회피한다는 비판이 나온 이후 제기됐다. 오픈AI는 이에 대해 "단기 사용자 피드백에 따른 결과"라며 사과 입장을 밝힌 바 있다. 일각에서는 이 같은 사용자 친화 전략이 알고리즘 개선 목적보다 사업 지표 부풀리기에 방점이 찍혀 있다고 보고 있다.

시스트롬은 이러한 현상이 우연이나 실수라기보다 설계된 전략이라고 지적했다. 그는 챗봇의 '질문 유도형 설계'가 실질적인 답변보다 '하루 이용 횟수', '체류 시간' 같은 지표를 키우기 위한 방식이라고 평가했다. 이는 과거 페이스북, 인스타그램 등 소셜미디어가 성장기에 활용한 메커니즘과 유사하다.

이에 대한 테크크런치의 질문에 오픈AI는 자사의 사용자 사양서를 근거로 해명했다. 해당 문서에 따르면 '챗GPT'는 "좋은 답변을 제공할 만큼 정보를 충분히 갖고 있지 않은 경우 추가 설명을 요청할 수 있다"고 명시돼 있다. 다만 질문이 명확한 경우에는 "먼저 답변을 시도한 뒤 필요시 더 구체적인 정보를 요구하라"는 가이드라인도 포함돼 있다.

테크크런치는 "시스트롬은 챗봇이 과도하게 대화를 이어가려는 성향이 버그가 아니라 기업들이 체류 시간, 일간 사용자 수 같은 지표를 부풀리기 위해 설계한 의도적 기능이라고 봤다"며 "AI 기업은 지표를 쉽게 올리는 데 집중하기보다 고품질의 답변 제공에 '레이저처럼 집중'해야 한다는 입장을 밝혔다"고 분석했다.