"AI신뢰 자율규제, 관리감독 독립기구 조화롭게 작동해야”

4차위, 신뢰할 수 있는 AI 활용 간담회 개최

“민간의 자율성에 기반한 자정체계 활성화, 관리감독 역할을 하는 독립기구의 필요성, 자동검증 기술 개발 등 다양한 방안들이 시장에서 조화롭게 작동할 필요가 있다.”

대통령 직속 4차산업혁명위원회 윤성로 위원장은 30일 신뢰할 수 있는 인공지능 활용 방안 모색을 위한 간담회에서 이같이 밝혔다.

윤성로 위원장은 “인공지능 공정성 제고는 균형감이 중요한데, 인공지능 기술 발전과 혁신을 저해하지 않으면서도, 공정성과 투명성 등 가치를 높여 궁극적으로 신뢰할 수 있는 인공지능 생태계를 조성해나가는 것이 필요하다”고 말했다.

이어, “과기정통부와 협력해 선제적으로 인공지능 윤리기준을 마련했고 올해는 기업의 자율규제와 함께 기업들이 AI 개발 활용 시 점검할 수 있는 체크리스트 개발하고 인공지능 윤리교육 등을 추진해나갈 것”이라며 “새로운 시대에 지속가능한 인공지능 발전과 대중화를 위 인공지능 생태계의 모든 주체들이 함께 지속적으로 고민하고 논의해 나갈 때”라고 덧붙였다.

이날 간담회에서 주제 발표를 맡은 정보통신정책연구원의 이호영 본부장은 영국의 데이터윤리혁신센터와 같은 독립기관을 통한 관리강화와 자가진단, 감사, 인증제도 등을 통한 인공지능 의사결정의 신뢰성 제고방안 등을 사례로 제시했다.

이호영 본부장은 “우리가 구현하고자 하는 인공지능 시스템이 무엇인지에 대해서는 사회적 공론화 과정을 통해 다양한 주체가 모여 숙의해나갈 필요가 있다”고 의견을 더했다.

인공지능 공정성의 정의에 대해 법무법인 태평양의 이상직 변호사는 “공정성의 판단기준은 관점이나 문화 등에 따라 달라질 수 있다”며 ”헌법 평등원칙 등을 공정성에 대한 기본적 합의로 두고, 형법 등 하위법령 위반행위를 공정성을 저해하는 행위로 해석해야 한다”고 말했다.

최재식 KAIST 교수는 편향성에 대해 “학습데이터나, 학습모델 또는 학습알고리즘의 편향이 주된 원인”이라며 “학습데이터 편향은 공정성에, 학습모델과 알고리즘은 정확도에 영향을 주는 경우가 있다”고 설명했다.

한편 이날 모인 전문가들은 여러 나라의 대응 동향과 정책을 공유하면서 우리나라가 나아가야할 대응방향에 대해 논의했다. 이용자 권리를 보호하면서 자율규제 체계 중심이 필요하다는 의견이 나왔다. 또 가이드라인을 통해 최소한의 관리 감독을 할 수 있는 가칭 인공지능윤리위원회 신설 논의도 이뤄졌다.