AI 공공조달 문턱 낮아졌지만…"납품 후 책임까지 따져야"

'AI 기본법' 대비 세미나…모델 업데이트·성능 유지 등 계약 이후 책임은 과제

인공지능(AI) 제품의 공공조달 진입 문턱이 낮아지고 있지만 기업들이 확인서 취득과 입찰 참여에만 집중해서는 안 된다는 지적이 나왔다. AI는 납품 이후에도 데이터와 모델이 지속적으로 바뀌는 만큼 계약 단계에서부터 업데이트와 성능 유지, 보안사고 등에 대한 책임 범위를 명확히 해야 한다는 목소리다.

방석호 법무법인 린 AI산업센터장은 17일 서울 강남구 포스코타워 역삼에서 열린 'AI 기본법, 대비하고 계신가요?' 세미나에서 "AI는 일회성 검수로 끝날 수가 없는 제품"이라며 "데이터 업데이트와 그 비용을 누가 부담하고 그로 인해 보안에 뚫리면 그 책임을 누가 질지 봐야 한다"고 밝혔다.

KMAC과 법무법인 린, 셀렉트스타가 공동 주최한 이번 행사는 AI 기본법 시행에 따른 기업의 대응 방안과 실제 운영 사례를 공유하는 자리로 마련됐다. 이날 방 센터장은 AI기본법 시행령에 따라 공공기관의 AI 제품·서비스 조달 과정에도 변화가 생길 수 있다고 강조했다.

방석호 법무법인 린 AI산업센터장이 17일 서울 강남구 포스코타워 역삼에서 열린 'AI 기본법, 대비하고 계신가요?' 세미나에서 발표하고 있다. (사진=지디넷코리아)

AI기본법 제16조 3항에 따라 국가기관 등은 제품·서비스 구매나 용역 발주 시 대통령령으로 정하는 AI 제품·서비스를 먼저 고려해야 한다. 사업계획 수립부터 예산 편성, 제안요청서(RFP) 작성까지 AI 대안 검토가 실무에서 새로운 주안점이 된다.

AI 기업의 조달 진입을 돕는 AI 제품·서비스 확인서도 도입됐다. 한국인공지능·소프트웨어산업협회(KOSA)가 신청을 접수하고 한국정보통신기술협회(TTA)가 기술심사를 진행하며 절차는 최대 45일 이내 마무리된다.

다만 확인서는 품질·보안 인증이 아니라 조달 과정에서 일부 기술요건이나 납품실적 등을 대신 입증하는 수단이다. 방 센터장은 "확인이라는 단어와 법에서 말하는 검증은 완전히 성격이 다르다"며 "확인서가 AI의 안전성이나 신뢰성까지 보증하는 것은 아니다"라고 말했다.

조달 계약의 진입장벽도 낮아졌다. 다수공급자계약(MAS) 경쟁 요건은 기존 3개사 이상에서 2개사 이상으로 완화됐고, 일부 적격심사에서는 확인서 보유 제품에 기술점수 1.5점 가점이 적용된다. 상용소프트웨어(SW) 제3자 단가계약에서도 기존 납품실적 요건이 완화됐다.

하지만 업계에서는 AI를 기존 제품과 같은 방식으로 평가하는 데에는 한계가 있다고 본다. 혁신제품 지정에 활용되는 기술성숙도(TRL) 7은 실제 운용환경에서 작동 가능한 시제품을 요구하지만, 납품 이후에도 학습과 모델 개량이 계속되는 AI 특성을 충분히 반영하기 어려워서다.

방 센터장은 "AI는 계속 학습하고 모델이 개량돼야 하는데 납품 시점을 기준으로 성숙도를 판단하는 기존 방식에는 한계가 있다"며 "일반 제품처럼 검수와 납품으로 절차를 끝내는 방식이 AI에는 맞지 않는 구조"라고 지적했다.

공공데이터와 실증 기회의 개방도 과제다. AI 제품은 실제 현장에서 데이터를 활용해 학습·개선해야 한다. 공공데이터가 폐쇄적으로 운영되면 기존 납품·개발 실적을 가진 사업자와 신규 AI 기업 간 실증 기회 격차가 커질 수 있다.

공공조달과 국방조달 간 단절 역시 AI 산업 육성을 위해 풀어야 할 과제로 꼽힌다. 현행 공공조달의 AI 제품 우선 고려 제도는 국방에 원칙적으로 적용되지 않는다. 민간에서 개발한 AI가 공공에서 실증된 뒤 국방으로 확장되는 경로가 제도적으로 연결되지 않은 셈이다.

방 센터장은 "민수·공공·국방이 각각 별개의 시장"이라며 "이 시장을 어떻게 연결할 것인가가 큰 숙제"라고 말했다.

이어 "미국의 경우 민수 시장에 존재하는지를 먼저 검색하고 찾아보고 그게 존재하면 그걸 우선 구매하도록 법이 돼 있다"며 "시장이 법으로 연결된 것"이라고 부연했다.