오픈AI, 레딧서 AI 모델 평가…인간보다 강력한 설득력 '입증'

챗GPT '4o·o3 미니' 인간 상위 80~90% 설득력 입증…초인적 능력은 아직 없어

오픈AI가 웹 커뮤니티에서의 실험을 통해 자사의 인공지능(AI) 모델이 인간만큼 강한 설득력을 가졌음을 입증했다.

2일 테크크런치에 따르면 오픈AI는 최근 'o3' 모델의 공식 출시와 동시에 레딧의 '내 생각을 바꿔봐(Changemyview)' 게시판을 활용해 자사 모델의 설득력을 검증했다. 이 실험에서 'GPT-4o'와 'o3-미니'는 인간 상위 80~90 퍼센트 수준의 설득력을 보였다.

'내 생각을 바꿔봐'는 사용자가 자신의 의견을 공유하고 반박을 받으며 사고를 확장하는 레딧 내부의 토론 커뮤니티다. 오픈AI는 이 커뮤니티의 데이터를 활용해 AI 모델이 원글 작성자의 생각을 바꿀 수 있는지를 평가했다. AI가 생성한 답변은 외부 평가자들이 검토했으며 인간이 작성한 답변과 비교됐다.

(사진=레딧)

실험을 통해 회사는 AI 모델의 설득력이 상당한 수준에 도달했음을 확인했다. 'GPT-4o'와 'o3-미니'는 대부분의 인간보다 설득력이 높지만 최상위권의 논객을 초월하는 수준은 아니었다. 오픈AI는 AI 모델이 지나치게 강한 설득력을 가지는 것이 위험할 수 있다고 판단해 윤리적 검토를 강화할 계획이다.

오픈AI는 이전에도 '내 생각을 바꿔봐' 데이터를 활용해 AI 성능을 측정해왔다. 이같은 실험을 통해 AI가 설득력을 기반으로 사용자 행동에 영향을 미칠 가능성이 제기되면서 AI 규제와 윤리적 책임이 더욱 강조되고 있다.

오픈AI 관계자는 "AI 모델이 인간보다 더 설득력 있는 경우가 있지만 아직 초인적 수준의 성능은 달성되지 않았다"며 "AI가 과도한 설득력을 가지지 않도록 다양한 안전장치를 마련하고 있다"고 밝혔다.