"믿을 만한 AI 위해"…라이너, AI 신뢰도 측정하는 지표 만든다

내년 3월까지 카이스트 KIXLAB과 공동연구…벤치마크 데이터셋 구축

믿을 수 있는 인공지능(AI) 시스템 구축을 위해 기업과 대학이 손잡았다. 

라이너는 한국과학기술원(KAIST) 인터랙션 연구실(KIXLAB)과 'AI 에이전트 시스템 신뢰도 측정 지표 및 벤치마크 개발'을 위한 공동 연구를 진행한다고 25일 밝혔다.

 

이번 연구는 AI 에이전트 시스템 신뢰도 제고를 위해 라이너가 전문 대학 연구기관과 진행하는 첫 산학협력 프로젝트이다. 라이너와 KIXLAB은 내년 3월까지 공동 연구를 진행할 예정이다. AI 에이전트 시스템 신뢰도를 측정하고 규정할 수 있는 벤치마크 데이터셋을 구축할 방침이다.

라이너는 한국과학기술원(KAIST) 인터랙션 연구실(KIXLAB)과 'AI 에이전트 시스템 신뢰도 측정 지표 및 벤치마크 개발'을 위한 공동 연구를 진행한다. (사진=라이너)

최근 AI 기술의 활용도는 높아지고 있지만, AI 신뢰도에 대한 우려는 지속적으로 제기되고 있다. 일례로 구글은 지난달 새로운 검색 서비스 'AI 오버뷰'를 공개했지만, 출시 이후 환각 현상으로 인해 비판을 받은 바 있다.

라이너와 KIXLAB은 이러한 AI 신뢰 문제를 해결하기 위해 공동연구를 계획했다. 각자의 전문성과 역량을 결합해 AI 에이전트 시스템 신뢰도를 측정할 수 있는 벤치마크 데이터셋을 개발하겠다는 설명이다.

라이너는 2023년 2월 AI 검색 에이전트를 출시한 정보탐색 AI 스타트업이다. 2015년부터 웹 하이라이팅 서비스를 운영해 왔다. 이를 통해 사람이 직접 중요하고 유용하다고 판단하고 선별한 고품질의 데이터를 수집해 AI 에이전트를 고도화해 왔다. 

카이스트 전산학부 김주호 교수가 이끄는 KIXLAB은 대규모 온라인 시스템에서의 인간-컴퓨터 상호작용(HCI) 분야 연구를 수행하고 있는 연구실이다. KIXLAB은 올해 FAccT 학회에 제출한 논문을 통해 'AI 생성물로부터 정확한 정보를 파악할 수 있는 효과적인 방법'을 제안한 바 있다. 이 연구실은 AI 기술 발전과 더불어 AI 신뢰성 및 투명성 제고에 기여할 수 있는 연구를 진행하고 있다.

김주호 교수는 "기술 중심 AI의 관점을 넘어 사람 중심 AI 관점을 담아내기 위해서는 이에 맞는 평가와 벤치마크의 수립이 필수적이다"며 "앞으로 라이너와 사용자 중심 AI 연구를 진행함으로써, 라이너 효용가치를 올리는 것은 물론 학문적으로도 기여할 것"이라고 기대감을 전했다.

김진우 라이너 대표는 "라이너의 첫 산학협력 프로젝트를 KIXLAB과 함께 할 수 있어 기쁘다"며 "프로젝트를 통해 상호 이익 증진은 물론, AI 검색 엔진에 대한 사용자의 신뢰 향상에 기여하길 바란다"고 밝혔다.