노트북에서도 고성능 AI 지원…구글, 젬마2 2B 출시

20억 매개변수로 70억 매개변수 수준 AI 성능 달성

구글이 보다 적은 매개변수로 노트북이나 모바일 환경에서 기존 고성능 인공지능(AI) 수준의 성능을 낼 수 있는 새로운 AI를 공개했다.

1일 벤처비트 등 외신에 따르면 구글은 AI모델 젬마2 2B(Gemma 2 2B)를 공식 개발자 블로그를 통해 공개했다. 젬마2 2B는 허깅페이스를 통해 다운로드 받을 수 있다.

젬마2 2B는 구글의 오픈소스 인공지능(AI) 모델 젬마2의 신규 버전이다. 젬마 시리즈는 개인PC 등 보편적인 컴퓨팅환경에서도 AI를 개발하거나 활용할 수 있도록 낮은 요구사양이 특징이다.

20240731-Gemma-Blog-ResponsibleAI-header-wagtai

이번 버전은 20억(2B)개의 매개변수를 사용해 270억(27B)개와 90억(9B)개를 사용한 기존 젬마2보다 낮은 사양을 요구한다. 이를 통해 모바일 디바이스나 노트북, 엣지컴퓨팅 등에서도 자유롭게 사용할 수 있다.

구글은 젬마2 2B의 매개변수를 대폭 줄였지만 성능은 그대로 유지하고 있다고 밝혔다. 구글에서 공개한 LMSYS 챗봇 아레나 벤치마크 점수표에 따르면 젬마2 2B는 1126점을 기록했다.

젬마 2 2B와 70억 매개변수 AI모델의 벤치마크 점수 비교(이미지=구글)

70억 매개변수를 사용한 미스트랄의 인스트럭트 v0.1(1114점)과 오픈AI의 GPT 3.5(1106점), 메타의 라마2(1093점)보다 높은 수치다.

구글은 AI모델 경량화 기법 중 하나인 지식 증류를 적용해 작은 AI모델에서도 높을 성능을 달성할 수 있었다고 밝혔다.

젬마2 2B를 보다 쉽고 안전하게 사용하기 위한 개발 도구 2종도 함께 공개됐다.

실드 젬마는 젬마2를 기반으로 구축된 안전 콘텐츠 분류기 모델 모음이다. 혐오, 분노가 포함되거나 윤리적으로 부정적인 콘텐츠의 입력 및 출력을 필터링해 사용자와 서비스를 보호하는 역할을 한다.

젬마 스코프는 데이터를 해석하는 과정에서 새로운 통찰력을 제공하는 의사결정 모델이다. 복잡하고 밀도 있는 정보를 이해하기 쉬운 형태로 풀어냄으로써 사용자가 보다 치밀하게 의사 결정할 수 있도록 지원한다.

닐 난다 등 구글 연구엔지니어는 "지난 6월에 우리는 270억개와 90억개의 매개변수로 개방형 모델 젬마를 출시해 가장 높은 성능을 기록했다"며 "젬마는 성능을 넘어 모든 사람에게 이로운 미래를 구축하는 데 필요한 도구와 리소스를 제공하려는 우리의 지속적인 노력을 나타내는 것"이라며 AI 저변 확대에 대한 의지를 밝혔다.