과기정통부, AI 대표기업들 만나 현장 목소리 듣는다

과학기술정보통신부는 '인공지능(AI) 윤리·신뢰성 확산 위한 과기정통부 AI 대표기업 릴레이 방문'을 시작했다고 15일 밝혔다. 첫 기업 일정으로 업스테이지를 찾아 솔루션을 살피고 현장 목소리를 들었다.

이번 현장 방문은 과기정통부가 지난달 11일 개최한 ‘AI 윤리·신뢰성 강화를 위한 간담회’에 이어 AI 윤리·신뢰성 확산 위한 AI 분야별 대표기업 방문의 일환이다. 국내 생성AI 활용의 대표기업인 업스테이지를 첫 기업으로 선정해 진행했다. 박윤규 제2차관은 용인에 위치한 업스테이지 연구소를 방문, 현장의 목소리를 들었다.

행사에는 과기정통부 박윤규 제2차관과 최동원 인공지능기반정책과장을 비롯, 한국정보통신기술협회 이강해 단장, 곽준호 팀장과 업스테이지 이활석 최고기술책임자(CTO), 한지윤 데이터팀 리더, 손해인 마케팅팀 리더가 참석했다.

업스테이지 이활석 CTO(좌)와 과기정통부 박윤규 제2차관. (사진=업스테이지)

이활석 CTO는 업스테이지의 대표 AI 솔루션인 '다큐먼트 AI팩'과 챗AI '아숙업(AskUp)', 추천·검색 서비스를 접목한 '아숙업 서제스트'에 대한 소개와 서비스 시연을 진행했다.

참석자들은 서비스 시연 후 AI 윤리·신뢰성 확보 경험을 공유하고 애로 및 건의사항을 논의했다. 이활석 CTO는 다큐먼트 AI팩 적용시 클라우드 컴퓨팅 환경과 AI 모델 고도화를 위한 대량의 데이터 학습 과정에서 발생가능한 개인의 민감 정보 유출 방지 및 AI서비스 윤리 확보를 위해 데이터 관리 차원에서 대책을 마련했던 경험과 노하우를 공유했다.

또 아숙업 운영에 있던 다양한 AI 윤리·신뢰성 확보 노력도 함께 나눴다. 업스테이지는 아숙업 운영에 있어 생성 AI 단점으로 지적받던 환각 현상을 완화하기 위해 '? 검색'을 도입해 사실 기반의 정보를 제공한다. 이 외에도 개인정보 텍스트에 대한 마스킹 처리, 부적절한 이미지 생성 요청 시 거절 메시지 노출과 출력 거부 조치 등을 적용했다.

업스테이지, 과기정통부 ‘AI 윤리·신뢰성 확보 릴레이 현장 방문’ 첫 일정 개최. (사진=업스테이지)

과기정통부 박윤규 제2차관은 "AI가 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 全 단계에서 윤리와 신뢰성을 확보하는 것이 산업발전의 전제조건이다"고 강조하며 "국내 기업이 자사 제품 및 서비스에 AI 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업현장에 방문해 애로사항과 지원 필요사항을 경청하고 AI 윤리·신뢰성 확산에 앞장서 나가겠다"고 밝혔다.

업스테이지 이활석 CTO는 "생성 AI 시대가 열리며 챗GPT의 환각 현상과 혐오발언등으로 AI 윤리와 신뢰성에 대한 논의가 가속화했다"며 "업스테이지는 선도적인 AI 기술을 바탕으로 이번 행사를 포함 민관 논의 등 다양한 노력을 통해 AI 기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것"이라고 밝혔다.

다큐먼트 AI팩은 금융, 보험, 의료 등 다양한 산업에서 활용될 수 있는 업스테이지 문서 AI 솔루션이다. 광학문자인식(OCR) 기술로 이미지나 PDF 형식의 문서를 텍스트로 변환하고, 자연어 처리(NLP)를 통해 반복된 수작업을 제거하고 필요한 문서의 내용을 추출하거나 분석 및 요약할 수 있다.

올 초 출시 직후부터 삼성생명, 한화생명 등 금융권은 물론 포스코홀딩스, 삼성SDS 등과 계약을 체결한 바 있다.