"우리 회사 AI도 규제 대상일까?"…KOSA, AI 기본법·AX 실전 해법 제시

AI 기본법 지원 데스크 사례집…AI 생성물 표시·고영향 AI 판단 기준 등 핵심 쟁점 정리

한국인공지능·소프트웨어산업협회(KOSA)가 현장 상담 사례를 기반으로 인공지능(AI) 기본법 규제 대응 가이드를 제시했다.

AI 도입 과정에서 기업이 우려하는 규제 리스크를 사전에 식별하고 대응 방안을 마련하기 위한 취지다.

안홍준 KOSA 본부장은 18일 강원 춘천 엘리시안 강촌에서 열린 "제3회 KOSA 리더스 포럼"에서 'AI 기본법 지원 데스크 사례집'과 'AX 사례집'의 주요 내용을 소개하며 기업이 실제 현장에서 활용할 수 있는 기준을 제시했다.

안홍준 KOSA 본부장(사진=지디넷코리아)

안 본부장은 "기업 문의는 법 조항 해석보다 우리 서비스가 규제 대상인지, 사업 운영 과정에서 어떻게 적용해야 하는지에 집중됐다"며 "약 800건의 상담 사례를 분석해 실무 적용 기준을 정리했다"고 말했다.

AI 활용 기업, 모두 규제 대상 아냐…핵심은 "직접 서비스 여부"

AI 기본법과 관련해 기업들의 가장 큰 관심은 규제 대상 범위였다.

안 본부장은 타사 API를 차용해 마케팅 포스터를 제작하는 등 AI를 도구로 쓰는 일반 '이용 기업'은 기본적으로 규제 및 의무 대상이 아니라고 밝혔다. AI 모델을 직접 개발하거나 AI 기반 서비스를 제공하는 사업자가 주요 관리 대상이며, 단순 이용 기업은 적용 범위가 다르다는 설명이다.

가장 질문이 많았던 AI 생성물 표시(워터마크) 의무에 대해서는 단일 표준 양식은 존재하지 않지만 AI 활용 사실을 투명하게 알리는 것이 중요하다고 강조했다.

안 본부장은 "워터마크나 고지 문구는 눈에 보이지 않는 메타데이터 심기나 오디오 파일 앞부분의 짧은 음성 안내 등 이용자가 합리적으로 AI 생성물임을 인지할 수 있는 방식이라면 모두 의무를 다한 것으로 인정된다"고 설명했다.

채용, 금융 대출 심사, 의료, 교육 등 고위험 분야의 '고영향 AI' 여부를 가르는 핵심은 '인간의 개입 여부'다. AI는 참고용 보조 지표만 제공하고 최종 판단을 사람이 내리는 프로세스라면 고영향 AI 대상에서 제외된다. AI가 인간의 개입 없이 스스로 최종 의사결정을 내릴 때만 규제 대상이 된다.

안 본부장은 과기정통부의 조사 및 과태료 부과 조항이 최소 1년 이상 유예되는 점을 짚으며, "우리 AI 기본법은 강력한 처벌 중심의 유럽연합(EU) AI ACT와 달리 기업의 '자율 준수'에 방점을 두고 안전한 생태계를 조성하는 데 목적이 있다"고 강조했다.

AI기본법 규제 사례(사진=지디넷코리아)

AX 핵심 사례…"운영 구조 혁신 지원"

AX 사례집에서는 기업이 AI를 실제 업무 혁신으로 연결한 사례가 공유됐다.

대표적으로 한 기업은 한글 문서(HWP) 기반 업무 환경에서 AI 처리 구조를 구축해 문서 데이터를 자동 변환·활용할 수 있도록 만들었다. 이를 통해 반복 업무 인력을 최대 93%까지 절감했다.

또 다른 핵심 사례 베슬AI코리아는 AI 학습 과정에서 유휴 상태의 GPU를 자동으로 중단하고 재개하는 방식의 자원 최적화 기술을 적용해 AI 인프라 운영 비용을 크게 절감했다. 이는 AI 학습 및 서비스 운영 과정에서 발생하는 GPU 비용 부담을 줄인 대표적인 AX 사례로 소개됐다.

안 본부장은 "AX는 단순한 AI 도입이 아니라 데이터, 업무 프로세스, 조직 운영 체계를 AI 중심으로 재설계하는 과정"이라며 "기술 도입보다 운영 설계와 거버넌스 구축이 성공의 핵심"이라고 강조했다.