오픈AI 연구진 "인류 위협하는 모델 나왔다" 경고

데이터셋 응용 스스로 연산 문제 해결

지난 일주일 간 벌어졌던 오픈AI CEO 해임 사태의 원인이 조금씩 확인되고 있다. 인류를 위협할 정도로 강력한 인공지능(AI) 모델이 나타났고, 몇몇 연구원이 이사회에 이메일을 보내 경고했다는 것이다.

22일 미국 디인포메이션은 오픈AI 연구진이 강력한 일반인공지능(AGI)을 개발했다는 내용의 서한을 이사회에 보냈다고 보도했다. 서한을 보낸 시점은 샘 알트먼 해임 소동 발생 직전이다.

보도에 따르면 AI 모델 이름은 '큐 스타'다. 기존 모델 발전 속도가 몇십 배 더 빠르다. 연구진들은 모델의 수학 연산 능력을 테스트한 뒤 충격을 감추지 못했다는 입장이다. 

(사진=오픈AI)

일반적으로 챗GPT 등 생성형 AI는 통계 기반으로 다음 단어를 예측하는 방식으로 문자를 생성한다. 수학 연산도 마찬가지다. 데이터 학습 범위 내에서만 연산할 수 있다. 학습하지 않은 새로운 수학 문제 정답을 맞힐 수 없다. 

큐 스타는 다르다. 추가 데이터 학습 없이 연산 문제 이해부터 푸는 것을 스스로 할 수 있다. 기존 데이터셋을 응용할 수 있기 때문이다. 데이터셋에 없던 새로운 연산 문제도 능숙하게 풀 수 있는 이유다. 사람처럼 기존 지식을 응용해 새로운 문제를 해결할 수 있는 셈이다. 

일반 사람들이 보기에 AI의 이런 능력이 간단해 보일 수 있지만, AI 연구 분야에선 기술 혁신에 가깝다. 22일 더 버지는 "큐 스타가 수학 문제를 스스로 풀 수 있다는 건 AGI에 한발짝 더 가까워졌다는 신호"라고 전했다.

연구진들은 서한을 통해 "모델 큐 스타는 인류를 파괴할 정도로 강력한 시스템으로 사용될 수 있을 것"이라며 "개발 속도에 대한 경각심을 가져야 할 것"이라고 이사회에 경고했다.

이들은 알트먼이 위협적인 모델 개발을 암시한 발언을 했다고 전했다. 그는 해고 소동이 겪기 직전인 지난 16일 아시아태평양경제협력체(APEC) 정상회의에서 "오픈AI는 미지 속 베일을 걷어내고 기술 발전 지평을 넓힐 수 있을 것"이라며 "이런 순간을 이끌 수 있어 영광"이라고 언급한 바 있다.

해당 발언은 알트먼 해고 때문에 외부에 거의 알려지지 않았다고 디인포메이션이 전했다.