정부, 'AI 윤리원칙' 초안 공개…업계 "권리 보호·기업 지침 보강해야"

시민사회 "접근성·피해 구제 명시"…산업계 "세부 해설·상담 창구 필요"

정부가 새 인공지능(AI) 윤리원칙 초안을 공개하자 시민사회와 산업계가 원칙 실효성을 높이기 위한 후속 조치를 주문했다. 시민사회는 기본권 보호와 피해 구제 절차를, 산업계는 기업이 현장에서 적용할 수 있는 구체적인 가이드와 지원 체계 필요성을 강조했다.

14일 과학기술정보통신부와 정보통신정책연구원(KISDI)은 서울 중구 프레지던트호텔에서 ‘대한민국 인공지능 윤리원칙 대토론회’를 열고 각계 의견을 수렴했다.

이번 초안은 인간의 존엄성, 사회의 공공선, 인류의 지속가능성을 3대 가치로 제시했다. 이를 실현하기 위한 7대 원칙으로 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성을 담았다.

최우식 과학기술정보통신부 인공지능안전신뢰지원과장이 초안에 대해 설명하고 있다.

시민사회는 AI 영향을 받는 사람을 단순 보호 대상이 아니라 권리를 행사하는 당사자로 규정해야 한다고 주장했다. 접근성과 당사자 참여, 이의 제기, 피해 구제 절차를 윤리원칙과 후속 해설서에 구체적으로 담아야 한다는 입장이다.

홍윤희 사단법인 무의 이사장은 "장애인과 소수자를 단순한 수혜자가 아니라 권리를 지닌 당사자이자 시민으로 바라보는 관점이 이전보다 강화됐다"고 평하면서도 "'포용성'이라는 표현이 소수자에게 혜택을 베푼다는 시혜적 의미로 받아들여질 수 있다"고 지적했다. 이어 "이를 '포함성'으로 표현을 바꾸거나 모든 시민 권리를 아우르는 '접근성'을 원칙에 명시하는 것이 좋을 것"이라고 덧붙였다. 

시민사회는 AI 학습에 필요한 장애인·소수자 관련 데이터 구축도 과제로 꼽았다. 시장에서 수집하기 어려운 정보를 공익 데이터로 규정하고 정부가 데이터 구축과 활용 기반을 지원해야 한다는 주장이다.

이지은 참여연대 선임간사는 AI 윤리원칙에 인권에 기반한 접근과 피해 구제 절차를 보강해야 한다고 요구했다. AI 영향을 받는 사람이 관련 사실을 고지받고 의사결정에 참여하며, 피해가 발생했을 때 이의를 제기할 수 있어야 한다는 설명이다.

윤명 소비자시민모임 사무총장(가운데)은 윤리원칙이 선언에 머물러선 안 된다고 강조했다.

이 선임간사는 "법이 포괄하지 못하는 영역까지 함께 고민하고 실천하자는 것이 윤리원칙 역할"이라며 "기업 내부에도 AI의 사회적 영향을 독립적이고 객관적으로 평가할 수 있는 감사 체계를 마련해야 한다"고 강조했다. 

윤명 소비자시민모임 사무총장도 윤리원칙이 선언에 머물러선 안 된다고 강조했다. 정부와 기업, 소비자가 함께 참여해 분야별 적용 방안을 논의하는 협력 체계가 필요하다고 제안했다.

산업계 "기업별 적용 지침 필요"…정부 "자율규범으로 운영"

이날 산업계는 국가 차원의 윤리원칙이 기업 불확실성을 줄일 수 있다는 점에서 초안 마련을 긍정적으로 평했다. 다만 기업 규모와 서비스 유형에 따라 원칙을 실제 업무에 적용할 수 있도록 세부 지침과 상담 창구가 필요하다고 밝혔다.

김경훈 카카오 AI 세이프티 리더(가운데)는 이번 원칙 토대로 기업 내부 윤리 기준을 다시 점검할 수 있다고 밝혔다.

김경훈 카카오 AI 세이프티 리더는 "기업도 AI 개발과 활용, 위험 관리에 적용할 국가 차원 기준을 기다렸다"며 "이번 원칙 토대로 내부 윤리 기준과 위험 관리 체계를 다시 점검할 수 있을 것"이라고 강조했다. 

김 리더는 학습 데이터 공개를 투명성 원칙에 포함한 부분은 신중하게 검토해야 한다고 지적했다. 공개 범위가 저작권과 영업비밀, 산업 경쟁력과 연결돼 있고 관련 입법 논의도 끝나지 않았기 때문이다.

그는 윤리원칙과 자율 점검표, 공개 토론, 영향평가를 연계하는 운영 체계도 제안했다. 기업이 현장에서 발견한 문제를 공유하고 이를 다시 윤리원칙에 반영하는 순환 구조가 필요하다는 설명이다.

김현주 한국인공지능·소프트웨어산업협회(KOSA) 본부장은 중소기업과 스타트업도 원칙을 이행할 수 있는 환경을 조성해야 한다고 강조했다. 중소기업은 대기업과 달리 AI 윤리를 전담하는 조직이나 인력을 갖추기 어렵다는 이유에서다.

김 본부장은 "기업들은 개별 법 조항 의미보다 자사 서비스가 적용 대상인지, 어떤 영향을 받는지를 주로 묻는다"며 "작은 기업도 이해하고 따를 수 있는 상세한 해설서와 온라인 상담 채널이 필요하다"고 말했다.

김현주 KOSA 본부장(가운데)은 중소기업과 스타트업도 원칙을 이행할 수 있는 환경을 조성해야 한다고 강조했다.

정부는 이번 윤리원칙이 기업에 새로운 의무를 부과하는 규제가 아니라 사회 구성원이 자율적으로 실천하는 연성규범이라고 설명했다. 개발자와 사업자뿐 아니라 이용자, 시민사회, 정부 등 모든 주체의 역할을 제시한 점도 특징으로 꼽았다.

이진수 과기정통부 AI정책기획관은 "법이 경성규범이라면 윤리원칙은 연성규범"이라며 "특정 기업만의 문제가 아니라 각 주체가 AI 윤리를 함께 풀어나가야 한다는 방향을 담았다"고 밝혔다.

정부는 윤리원칙을 확정한 뒤 하반기에 구체적인 사례와 적용 방법을 담은 해설서를 발간할 계획이다. 산업계가 활용할 자율 점검표를 마련하고 학교와 교육 현장을 대상으로 AI 윤리교육도 추진한다.

이 기획관은 "윤리원칙은 제정으로 끝나는 것이 아니라 현장에서 실천하는 과정이 중요하다"며 "기술과 사회 변화에 따라 새로운 윤리적 쟁점이 생기는 만큼 원칙도 지속적으로 개정하고 발전시켜야 한다"고 말했다.