'AI 폭주' 막아라…NC AI, 독립 반년 만에 '사고 방지' 기술로 시장 선점

NC AI가 자체 개발한 인공지능(AI) 기술을 앞세워 국내 AI 안전성 분야 시장 주도권 확보에 뛰어든다.

NC AI는 고객 상담 챗봇 서비스 '엔써(NCER)'에 자체 개발한 AI 신뢰성 기술 '세이프가드(Safeguard)'를 정식 적용했다고 30일 밝혔다. 이는 국내 AI 기업 중 처음으로 종합 AI 안전 시스템을 상용 서비스에 도입한 사례다.

세이프가드 기술은 삼중 보안 체계를 기반으로 운영된다. 레드팀이 새로운 악성 공격을 연구하면 블루팀이 방어 기술을 개발하고 퍼플팀이 두 팀의 결과를 종합해 정책에 반영하는 순환 구조다.

NC AI가 자체 개발한 인공지능(AI) 기술을 앞세워 국내 AI 안전성 분야 시장 주도권 확보에 뛰어든다. (사진=NC AI)

특히 엔씨소프트 퍼블리싱코디네이션 센터와 협력해 게임 산업 특성을 반영한 '챗봇 네거티브 규제 정책'을 수립했다. 이 정책은 게임 서비스 관련 부적절한 내용이나 유료 재화 편법 등 산업 맞춤형 보안을 구현한다.

세이프가드가 적용된 엔써는 ML커먼스와 국제 벤치마크 연구에서 제시하는 일반적 부적절 내용 차단 기준을 충족한다. 차별, 혐오, 욕설, 외설 등이 여기에 포함된다.

NC AI의 안전성 연구는 지난 2022년부터 시작됐다. 회사는 'NC AI 윤리 프레임워크'를 통해 데이터 프라이버시, 비편향성, 투명성이라는 세 가지 가치 중심의 AI 윤리 경영을 실천해왔다.

이미 '리니지W'와 '리니지2M' 등 실제 게임 서비스에도 NC AI의 기술이 적용돼 있다. 13개 언어의 광고 패턴을 탐지하고 차단하는 스팸 필터링 시스템이 대표적이다.

회사는 현재 텍스트 기반 안전성 기술을 넘어 향후 이미지, 동영상 등 멀티모달 콘텐츠까지 탐지하는 차세대 시스템을 구축할 목표다.

지난 2월 독립 법인으로 분사한 NC AI는 반년 만에 정부 주관 '독자 AI 파운데이션 모델 프로젝트' 주관사로 선정됐다. 한국전자통신연구원 등 주요 연구기관과 포스코DX, 롯데이노베이트 등 총 54개 기관이 참여하는 '그랜드 컨소시엄'에서 AI 안전 기술 개발을 이끈다.

또 에이아이웍스와 협력해 'AI 세이프티 얼라인먼트 데이터셋'을 구축 중이다. 전쟁 및 폭력 등 고위험 상황에 대한 안전한 AI 응답 시스템을 개발해 국가 차원의 AI 안전성 표준 확립에 기여할 방침이다.