시행 두 달만 재정비 나선 AI기본법…배포자·딥페이크·안전성 등 '수술대'

정부가 '인공지능(AI)기본법' 시행 두 달 만에 딥페이크·고영향AI 등 핵심 조항의 구체적 수정 방향을 내부적으로 제시하고 본격적인 제도 손질에 나섰다.

27일 정보기술(IT)업계에 따르면 과학기술정보통신부는 지난 25일 개최한 'AI기본법 제도개선 연구반' 착수회의에서 법률 개정이 필요한 사항으로 ▲'배포자(Deployer)' 정의 신설 ▲딥페이크 범위를 '사람에 대한 결과물'로 한정 ▲안전성 기준을 누적연산량에서 실제 위험성 기준으로 변경 ▲고영향AI 범위 축소 및 정부 관리 데이터베이스(DB) 등록제 도입 ▲공공분야 AI시스템 영향평가 결과 공개 의무화 등 5개 항목을 명시했다.

이들 쟁점은 확정된 의제가 아니라 AI기본법 하위법령 마련 과정에서 수렴된 의견 중 법률 개정이 필요하다고 판단한 사안을 예시로 든 것이다. 다만 업계는 추후 진행될 논의가 이 틀에서 크게 벗어나지 않을 것으로 내다본다. 5개 항목을 세부적으로 살펴보면 딥페이크 범위 축소와 고영향AI 범위 조정 등 산업계가 지속 요구해 온 사안이 다수 포함됐다.

지난 2024년 12월 26일 국회 본회의에서 AI기본법이 통과되는 모습 (사진=뉴시스)

배포자 정의는 현행법의 의무 주체 구분 방식에서 비롯된 문제다. AI기본법은 의무 대상을 AI를 직접 개발하거나 개량하는 '개발사업자'와 이미 만들어진 AI를 제품·서비스로 제공하는 '이용사업자'로 나누고 있다.

반면 AI기본법보다 먼저 제정된 유럽연합(EU)의 'AI 액트(Act)'는 모델을 개발하는 '제공자(Provider)'와 이를 실제 서비스에 적용하는 '배포자(Deployer)'를 별도로 구분해 각각 다른 의무를 부과한다. 국내법엔 배포자에 해당하는 개념 자체가 없어 책임 주체가 불분명하다는 지적이 제기돼 왔다. 다만 EU식 개념을 그대로 도입할 경우 서비스 이용자까지 규제 대상에 포함될 수 있어 수범자 범위가 크게 확대될 수 있다는 우려도 나온다.

딥페이크의 경우 현행 규정이 사람뿐 아니라 자연물·인공물로 만들어진 결과물까지 포함해 적용 범위가 지나치게 넓다는 논란이 있었다. AI가 생성한 가상의 풍경이나 사물 이미지에도 표시 의무가 생길 수 있는 만큼 해당 범위를 사람에 대한 결과물로 한정하는 방향이 제시됐다.

AI기본법 지원데스크 개소식에 참여한 류제명 차관. 정부는 지원데스크를 통해 AI기본법 관련 문의가 있는 기업을 대상으로 전문기관 소속 전문가와 법률 전문가들의 상담 및 안내를 제공 중이다. (사진=과기정통부)

안전성 기준도 연산량 대신 실제 위험성을 기준으로 삼는 방향으로의 전환이 논의될 것으로 보인다. 현행법은 누적연산량 10의26승 플롭스(FLOPs) 이상인 AI를 규제 대상으로 삼고 있는데 이는 AI가 특정 작업을 완료하는 데 필요한 총 연산 횟수를 뜻한다.

연산 규모가 크고 사회에 광범위한 영향을 미치는 AI를 따로 관리하겠다는 취지지만, 과기정통부는 "그래픽처리장치(GPU) 수만 장을 수개월 돌려야 해당되는 수준으로 국내 기업 중 실질적 규제 대상은 없다"고 밝힌 바 있다. 이에 따라 실효성 있는 기준 재설계가 불가피하다는 공감대가 형성돼 왔다.

고영향AI는 '특정 영역에서 사용되는 AI'라는 현행 정의가 지나치게 넓다는 지적에 따라 '사용하도록 의도된'으로 좁히는 방향이 제안됐다. 정부 관리 DB 등록제 신설도 병행 검토된다. AI영향평가 결과 공개는 공공분야 도입 AI시스템에 한해 결과를 공개하도록 의무화하는 방향이 언급됐다.