오픈AI 경쟁자 앤트로픽, '클로드 2.1' 출시

한번에 20만 토큰 입력 가능

오픈AI 퇴사자 중심으로 구성된 인공지능 스타트업 앤트로픽이 최신 대화형 AI 모델인 '클로드 2.1'을 발표했다. 한번에 15만 단어를 입력할 수 있다.

21일(현지시간) 앤트로픽은 클로드 2.1을 콘솔의 API로 제공한다고 밝혔다.

클로드 2.1은 20만 토큰을 콘텍스트 창에 입력할 수 있으다.

앤트로픽이 클로드 2.1을 공개했다.

앤트로픽의 클로드는 프롬프트 창에 한번에 입력할 수 있는 텍스트의 양에서 오픈AI의 챗GPT를 월등히 앞서왔다. 그 양 덕분에 학술 논문 번역이나 복잡한 계약 분석 등의 용도로 많이 사용되고 있다.

클로드 2.1은 프롬프트 창에 입력할 수 있는 텍스트 양을 두배 더 늘렸다. 약 15만 단어나 500페이지 이상 분량의 자료를 다룰 수 있다.

회사측은 전체 코드베이스, S-1 제무제표, 일리아드, 오딧세이 등의 문서를 업로드할 수 있다고 설명했다.

클로드 2.1은 전 버전 대비 모델 환각 비율을 대폭 감소시켰다. 허위 진술이 2배 감소했다고 회사측은 밝혔다. 특히 법률 문서, 재무 보고서, 기술 사양 문서 등 고도의 정확성을 요구하는 길고 복잡한 문서에 대한 이해력과 요약 측면에서 의미있는 개선을 이뤘다고 강조했다. 해당 사례에서 클로드 2.1의 오답은 전 버전 대비 30% 감소했고, 특정 주장을 뒷받침하는 문서로 잘못된 결론을 내리는 비율이 3~4배 낮은 것으로 나타났다고 한다.

앤트로픽은 클로드 2.1에 기존 프로세스, 제품, API 등과 통합할 수 있는 '툴 사용'이란 베타 기능도 선보였다. 개발자는 정의한 기능이나 API를 조정하고, 웹 소스를 검색하며, 개인 기술 자료에서 정보를 찾을 수 있다.

사용자는 클로드에서 사용할 수 있는 도구 세트를 정의할 수 있다. 모델이 정의된 도구 세트에 따라 사용자를 대신해 복잡한 수치 추론을 위한 계산기 사용, 자연어 요청을 구조화된 API 호출로 변환, 데이터베이스 검색이나 웹 검색 API를 사용해 질문에 답변, 비공개 API를 통해 소프트웨어의 간단한 작업 수행 등의 업무에 필요한 도구를 결정한다.

개발자 경험도 향상됐다. 새 워크벤치 제품을 사용해 플레이그라운드 스타일 환경에서 프롬프트를 반복하고 새로운 모델 설정에 접근해 클로드 행동을 최적화할 수 있다. 여러 개 프롬프트를 생성해 서로 다른 프로젝트에 대해 탐색할 수 있고, 기록 컨텍스트 유지를 위해 수정 내용이 저장된다. 개발자는 코드 스니펫을 생성해 자신의 프롬프트를 앤트로픽의 SDK에서 직접 사용할 수 있다.

앤트로픽 측은 성능 향상을 위해 클로드에게 맞춤 지침을 제공할 수 있는 시스템 프롬프트도 도입할 예정이라고 밝혔다.