생성형 언어모델 '고니' 새 버전 공개…로직코 '이정표' 세워

KISTI, 80억 개 LLM으로 700억 개 파라미터 모델 성능 첫 달성

과학기술에 특화된 생성형 언어 모델 '고니'(KONI)의 업그레이드 버전 2종이 공개됐다.

한국과학기술정보연구원( KISTI)은 과학기술 분야 추론과 글쓰기, 이해 등 다양한 작업에서 성능을 크게 향상 시킨 새 버전 2종을 지난 30일 공개 사이트 허깅 페이스와 KISTI 에이아이다((https://aida.kisti.re.kr)에 오픈했다고 31일 밝혔다.

KISTI는 지난해 12월 '고니'를 처음 공개했다. 이번 새 버전은 누구나 다운로드해 활용할 수 있다.

KISTI 초거대AI연구단. 아랫줄 가운데가 이경하 단장이다.

이번에 공개한 새 버전은 사전학습 LLM인 고니-라마3-8B와 대화형에 특화시킨 챗 모델인 고니-라마3-8B-인스트럭트 2 가지다.

이들 2개 모델은 기존 대비 2배 이상(한국어+영어 200GB)의 과학기술정보를 포함하는 데이터를 활용해 학습했다. 모델명에서 8B는 80억 개의 파라미터를 갖는 모델이라는 의미다.

이경하 초거대AI연구단장은 "한국어 LLM에 대한 종합적인 사고력을 측정하는 로직코(LogicKor) 벤치마크 리더보드에서 동일 크기 LLM 중 1위를 달성했다"고 설명했다.

새로운 이정표도 세웠다. '고니'LLM이 700억 개 이하 LLM 중 처음으로 로직코 점수가 8.21를 기록했다. 지금까지 로직코 점수가 LLM 700억 개 이하에서는 8.0점을 넘은 사례가 없다.

10여 명의 연구팀은 이번 업그레이드 버전을 연구하는 과정에서 KISTI가 보유한 검색 증강 생성 기술(RAG)을 '고니'와 연계시켜 신뢰성이 향상된 질의응답 시스템을 개발했다.

연구팀은 "'고니'의 성능 향상을 위해 과학기술 관련 법령, 규정, 지침을 대상으로 KISTI 내부에서 성능 검증을 통해 연구원들의 다양한 피드백을 수집, 추가 학습했다"고 덧붙였다.

이경하 단장은 "'고니'의 새로운 버전을 주기적으로 공개할 예정"이라며 "향후 국방, 전력, 정책 등 여러 공공기관의 수요를 반영한 도메인 특화 LLM 또한 개발, 보급할 계획"이라고 말했다.

KISTI는 향후 연구자의 과학적 발견을 지원할 에이전트(Agent)체계인 '고니' 기반 자율 연구자 AI를 구축할 계획이다.

생성형언어모델 '고니' 심볼.