AI시대 사람 중심 이용자 원칙 마련됐다

사람 중심의 인공지능(AI) 서비스 원칙이 마련됐다. 급속도로 확산되는 기술의 사회적 위협은 줄이면서 투명하고 차별을 금지하는 AI 시대를 준비하자는 것이 주요 골자다.

방송통신위원회와 정보통신정책연구원(KISDI)은 11일 이용자 중심의 지능정보사회를 실현하기 위한 원칙을 발표했다.

AI 시대 이용자 권리와 이익이 충분히 보호될 수 있도록 정부, 기업 등 사회 구성원이 함께 지켜가야 할 기본적인 원칙이다. 지난해 지능정보화 이용자 포럼을 통한 기초 연구에서 올해 주요 ICT 기업과 전문가 의견수렴을 거쳤다.

AI가 일상적으로 사용되는 지능정보시대를 대비해 이용자 보호에 선제적으로 대응하기 위해 마련된 점이 주목할 부분이다.

맞춤형 뉴스, 콘텐츠 추천시스템, AI 스피커, 인공지능 면접 등 인간의 의사결정을 보조하거나 대체하는 혁신적인 서비스가 확산되면서 공정하고 책임 있는 AI 알고리즘의 중요성이 더욱 커지고 있기 때문이다.

■ 이용자 중심 지능정보사회 원칙은 왜 나왔나

이용자 중심 지능정보사회 원칙은 사회적 위험을 최소로 줄여야 한다는 고민에서 시작됐다. 새로운 지능정보기술의 장점을 극대화하면서도 새로운 기술의 특성에 따라 나타날 수 있는 예기치 못한 기술적, 사회적 위험을 고려해야 한다는 뜻이다.

예컨대 지능정보서비스 제공자와 이용자가 변화하는 방송통신 환경에 적합한 각각의 역할을 수행할 때, 새로운 지능정보서비스의 출현을 촉진하고 지능정보사회로의 진전을 가속화할 수 있다.

또한 신기술의 도입이 초래할 수 있는 기술적, 사회적 위험으로부터 안전한 지능정보서비스 환경을 조성하기 위해 지능정보사회의 모든 구성원들이 고려할 공동의 기본 원칙을 제시할 필요가 있다.

■ 지능정보서비스 원칙 주요 내용 살펴보니

지능정보서비스 기본 원칙은 크게 ▲사람 중심의 서비스 제공 ▲투명성과 설명가능성 ▲책임성 ▲안전성 ▲차별금지 ▲참여 ▲프라이버시와 데이터거버넌스 등으로 구성됐다.

우선 지능정보서비스의 제공과 이용은 사람을 중심으로 기본적 자유와 권리를 보장하고 인간의 존엄성을 보호할 수 있는 방향으로 이뤄져야 한다.

지능정보서비스가 이용자에게 중대한 영향을 끼칠 경우 기업의 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 작성해야 한다. 이용자 기본권에 피해를 유발했을 때 예측, 추천, 결정의 기초로 사용한 주요요인을 설명할 수 있어야 한다.

지능정보사회의 구성원들은 지능정보서비스의 올바른 기능과 사람 중심 가치의 보장을 위한 공동의 책임을 인식하고, 관련한 법령과 계약을 준수해야 한다.

안전하고 신뢰 가능한 지능정보서비스의 개발과 이용을 위해 모두가 노력하고, 지능정보서비스가 초래할 수 있는 피해에 대한 자율적인 대비체계를 서비스 제공자와 이용자가 수립하고 운영해야 한다.

지능정보서비스가 사회적, 경제적 불공평이나 격차를 초래할 수 있다는 점을 인식하고 알고리즘 개발과 사용의 모든 단계에서 차별적 요소를 최소화할 수 있도록 노력해야 한다.

지능정보사회의 구성원들은 공적인 이용자 정책 과정에 차별 없이 참여할 수 있으며, 공적 주체는 제공자와 이용자가 실질적으로 의견을 제시할 수 있는 정기적인 통로를 조성해야 한다.

지능정보서비스의 개발, 공급 및 이용의 전 과정에서 개인정보 및 프라이버시를 보호하며, 구성원들은 기술적 이익의 향유와 프라이버시 보호 사이의 균형을 위해 지속적인 의견 교환에 참여해야 한다.

■ 방통위, 이용자 보호 공동 노력 필요

AI 시대를 대비한 이용자 보호 정책도 마련되고 있지만, 정부가 발표한 원칙 외에도 지능정보 사회 이용자 보호를 위한 공동의 노력은 더욱 절실하다.

이를테면 지능정보사회의 구성원들은 공동의 기본 원칙에 입각하여 지능정보사회의 기본 가치를 수호할 수 있도록 자율적인 노력을 지속해야 한다.

때문에 방통위는 지능정보사회 이용자 보호를 위한 실질적이고 지속적인 논의를 위해 지능정보사회의 구성원들이 참여하는 협의회를 구성해 운영키로 했다.

EU, OECD 등 국제사회에서는 신뢰가능한 AI를 위한 가이드라인이나 권고안 등을 내놓고 있다.

관련기사