딥마인드 CEO "과열된 AI 투자 열풍…허위 광고 덩달아 는다"

AI 기업, 투자 유치위해 자사 제품 거짓 광고 늘려…"AI 안전성 챙겨야할 때"

"최근 생성형 인공지능(AI) 분야에 투자 광풍이 붑니다. 이런 현상은 과학적 진보와 기술 발전을 흐리게 만듭니다. AI 기업이 투자금을 받기 위해 자사 AI 기술로 허위 광고를 하기 시작했습니다. AI 허위 광고 증가 현상은 점점 늘고 있습니다."

데미스 하사비스 딥마인드 최고경영자(CEO)는 지난달 31일 파이낸셜타임스(FT)와 인터뷰에서 AI 기업에 쏟아지는 투자 광풍이 자칫 과학적 발전을 퇴색시킬 수 있다는 우려를 표했다. AI 분야에 수십억 달러 투자가 이어짐에 따라 과학 발전보다 AI 기술 허위·과대 광고가 더 주목받을 수 있다는 이유에서다.

2022년 11월 오픈AI가 챗GPT를 출시한 이후, 생성형 AI 분야에 투자가 이어지고 있다. 투자자들도 미국 빅테크 마이크로소프트를 비롯한 구글, 엔비디아, 아마존 등에 지속적으로 돈을 걸고 있다. 미국 시장분석기관 CB인사이츠에 따르면, 지난해 벤처캐피탈은 2천500개 AI 스타트업에 425억 달러(약 57조 1천327억원)를 투자한 바 있다.

데미스 하사비스 구글 딥마인드 CEO는 과열된 AI 투자 열풍이 허위 기술 광고를 증가시킨다고 주장했다. (사진=MWC 2024)

AI 기업들도 투자 경쟁을 벌이는 추세다. 이에 스타트업들은 투자 유치를 위해 자사 기술에 대한 허위 광고를 일삼고 있다. 

예를 들어, 기업들은 자사 거대언어모델(LLM)이 오픈AI의 GPT-4를 능가하는 수준이라는 광고를 하거나, 특정 생성형 AI 서비스를 세계에서 처음으로 출시했다는 등 증명할 수 없는 홍보를 일삼는 추세다. 이에 미국 증권거래위원회(SEC)는 허위 기술을 주장하는 AI 기업 단속에 나섰을 정도다. 현재 미 규제 당국은 AI 관련 허위 광고를 하는 기업 대상으로 조사를 진행 중이다.

다만 그는 AI가 인류 역사상 가장 혁신적 기술이라는 점을 재차 강조했다. 하사비스는 "현재 인류는 과학계의 르네상스 시대를 맞이하고 있다"며 "AI 기술을 허위 광고하는 기업이 늘고 있지만, 실제 과학 발전이 이어지는 건 분명한 사실"이라고 말했다.

하사비스 CEO는 2021년 출시된 딥마인드의 '알파폴드' 모델을 이에 대한 근거로 들었다. 그는 "알파폴드는 2억개에 달하는 단백질 구조를 예측하도록 돕는다"며 "현재 전세계 100만명 넘는 생물학자가 이를 활용하고 있다"고 설명했다.

"한국 'AI 안전성 회의' 환영…각국 대화 이어져야"

하사비스 CEO는 국가들이 AI 안전성도 챙겨야 한다는 입장이다. 

하사비스 CEO는 국가들이 AI 안전성도 챙겨야 한다는 입장이다. (사진=구글)

하사비스는 지난해 11월 영국서 시작해 올해 5월 한국에서 열리는 'AI 안전성 정상회의'에 대해서도 환영한다고 했다. 그는 "AI 기술은 기하급수적으로 발전하고 있다"며 "각국은 AI 안전성에 대한 대화를 지속적으로 진행해야 할 것"이라고 강조했다.

그는 딥마인드가 생성형 AI에서 발생하는 오류를 줄일 수 있는 방안을 연구 중이라고 했다. 실제 딥마인드 연구팀은 거대언어모델(LLM)서 발생하는 환각 현상을 줄이기 위해 새 방법론 '세이프'를 발표한 바 있다. 

새 방법론을 통해 모델 신뢰성을 높이고 기업이 생성형 AI를 상업용으로 이용할 수 있도록 돕기 위해서다. 하사비스는 "구글 검색이나 구글 스콜라에 대한 응답을 교차 대조해서 사실 확인을 하는 식"이라며 "LLM 대답의 근거를 마련하는 다양한 방법을 모색하고 있다"고 말했다.