메타 AI 책임자 "챗GPT는 혁신적이지 않다"

얀 레쿤 "기술은 이미 있던 것, 잘 만들어진 공학적 성과"

"챗GPT는 특별히 혁신적이지 않고, 혁신적인 것도 없다."

메타의 수석 인공지능(AI) 과학자가 최근 온라인으로 개최된 '콜렉티브[i]' 주최 포럼에서 한 말이다.

오픈AI의 챗GPT가 많은 관심을 받고 업계에 큰 충격을 주고 있지만, 혁명적 성과는 아니란 것이다.

얀 레쿤 메타 수석 AI 과학자

그는 "기본 기술 측면에서 챗GPT는 특별히 혁신적이지 않다"며 "대중이 그렇게 인식하기는 하지만 혁명적인 것은 아니고, 단지 잘 짜여져 있고 훌륭하게 완성된 것"이라고 말했다.

그는 "데이터 기반 AI 시스템은 과거에 많은 회사와 연구소에서 구축했다"며 "오픈AI가 다른 연구실에 비해 특별히 발전된 것은 아니며, 유일하다는 생각은 정확하지 않다"고 강조했다.

얀 레쿤은 MILA의 벤지오 교수, 구글의 지오프레이 힌튼과 함께 2019년 튜링상을 받은 인물이다.

그는 "구글과 메타뿐 아니라 기본적으로 매우 유사한 기술을 보유한 신생기업만 6개나 있다"며 "매우 쉬운 일이라 말하고 싶진 않지만, (자연어생성모델은) 실제로 공유되고 비밀도 없다"고 덧붙였다.

오픈AI의 챗GPT는 작년 11월 공개된 후 한달만에 1천만 사용자를 모으며 폭발적 관심을 끌고 있다. AI가 사람과 동등한 수준의 문장, 코드 작성 능력을 보이자 사그러드는 듯 했던 AI에 대한 기대감에 다시 불을 붙였다.

챗GPT의 인기를 향한 시각은 여러 갈래로 나뉜다. 얀 레쿤의 발언은 그동안 AI 모델을 연구해온 종사자의 입장을 대변한다. 챗GPT가 기존에 존재하던 방법론을 사용했고, 이미 유사한 기술이 많이 나와 있었다는 것이다.

챗GPT를 구축하는데 사용된 기술은 '트랜스포머 아키텍처'와 '강화 학습'이다. 얀 레쿤은 "챗GPT와 이를 구축하는 오픈AI의 GPT-3는 수년에 걸쳐 개발한 여러 기술로 구성돼 있다"며 "자기 지도 학습으로 사전 훈련된 트랜스포머 아키텍처를 사용한다는 사실을 깨달아야 하며, 자기 지도 학습은 오픈AI 존재 전부터 오랫동안 옹호돼온 것"이라고 말했다.

그는 2017년 구글에서 공개한 언어 신경망을 언급했다. 그는 "트랜스포머는 구글의 발명품"이라고 밝혔다. 트랜스포머는 실제로 현존하는 다양한 언어 프로그램의 기반이다.

그는 "대형 언어 모델, 최초의 신경망 언어모델은 당시엔 컸지만 오늘의 기준으로는 작았다"며 "20년전 캐나다ㅏ MILA 개발자인 요수아 벤지오가 개발한 것"이라고 말했다.

벤지오의 연구결과는 이후 구글에서 채택돼 트랜스포머로 이어졌고, 이후 모든 언어 모델의 중추 요소가 됐다.

오픈AI의 프로그램은 사람의 피드백을 통한 강화학습이란 기술을 사용했다. 구글의 페이지랭크처럼 인간이 기계의 출력순위를 매겨 개선하도록 돕는 것이다. 이는 구글 딥마인드에서 개척됐다.

얀 레쿤은 "챗GPT에 대한 전체 역사가 있고, 챗GPT는 공백에서 나온 게 아니다"라고 강조했다.

그는 챗GPT를 '잘 만들어진 공학적 성과'라고 평가한다. 2011년 TV퀴즈쇼 '제퍼디'에서 IBM의 왓슨 시스템, 2005년 DARPA의 그랜드챌린지에서 우승한 세바스티안 스룬의 자율주행차 등과 비교했다. 레쿤은 "스룬의 기술은 기본 과학 측면에서 특별히 혁신적이지 않았지만, 그냥 아주 잘 설계됐다"며 "그것이 바로 오픈AI가 한 일이며, 그것에 대해 그들을 비난하지 않을 것"이라고 말했다.

사실 챗GPT 공개 3개월 전 메타도 유사한 챗봇을 공개했었다. 챗GPT가 폭발적 인기를 누린 것과 달리 메타의 챗봇 '블렌더본(Blenderbot)'은 관심을 끌지 못했다.

얀 레쿤은 기존 빅테크 기업의 대형 언어 모델과 오픈AI의 챗GPT의 인기를 가른 요인을 과감성으로 꼽았다. 빅테크 기업은 조심스러웠지만, 오픈AI 같은 스타트업은 과감했다는 것이다.

그는 "블렌더봇이 지루했던 이유는 안전했기 때문"이라며 "사용자가 종교를 물으면 챗봇이 주제를 바꾸도록 지시한 것처럼 메타에 대해 대중은 콘텐츠 조정에 지나치게 주의를 기울이고 있다고 비난했다"고 말했다.

그는 "구글과 메타 모두 물건을 구성하는 시스템을 내놓으면 잃을 게 많다"고 덧붙였다.

메타의 태도 변화에 대해서도 입장을 내놨다. 비즈니스 고객 대상으로 생성 AI를 활용할 것이란 얘기다.

그는 메타의 AI팀인 FAIR팀이 오픈AI와 같은 방식의 혁신으로 대중의 인기를 얻을 수 있느냐는 질문에 "메타에서 보게 될 것"이라며 "텍스트 생성뿐 아니라 생성 보조 기능도 있고, 생성 예술을 포함해 큰 일이 될 것"이라고 말했다.

그는 "브랜드를 홍보하는 미디어를 자동으로 제작해 소기업이 스스로를 홍보하도록 도울 수 있을 것"이라며 "페이스북에 광고하는 매장은 1천200만개에 달하며, 대부분 소규모 매장이고 멋진 디자인의 새 광고를 만들 자원은 없으므로 그들에게 생성 예술이 많은 도움을 줄 것"이라고 덧붙였다.