독일에서 2017년에 발표된 자율시스템 추진 제안 결과보고서에서는 자율 시스템 분야에서의 디지털 트랜스포메이션에 집중했다. 본 연재에서는 [29부] 및 [30부]에서 자율시스템의 기술적 특성에 대해 소개했다. 이어 [31부] 및 [32부]에서는 경제적 파급효과 및 대응방안에 대해 소개했다. 여기서는 자율 시스템 도입 시 발생 가능한 사회적, 법적 파급효과 및 수용성 확대를 위한 전제조건에 대해 소개한다.
자율 시스템 개발은 다른 기술과 마찬가지로 인간에게 좋은 삶의 환경을 만들기 위한 사회적인 노력으로 본다. 그러나 자율 시스템 도입의 파급효과 역시 많은 다른 기술과 마찬가지로 양면성, 즉 긍정적인 면과 부정적인 면을 갖고 있다. 신기술 개발 및 도입의 선순환 고리 창출을 위해서는 긍정적 효과를 극대화 시키고, 부정적 파급효과를 해결하는 것이 필요하다. 이러한 관점에서 보면 경제적 파급효과 이외에 윤리적인 측면을 포함한 사회적 및 법적인 파급효과 및 요구사항에 대한 분석이 필요하다.
결과보고서에서는 미래 시나리오를 통해 자율시스템의 적용 분야에 대해 포괄적으로 소개하고, 구체적인 사례에서는 크게 네 분야에 집중했다: 제조 시스템, 교통, 스마트 홈, 인간에게 위험한 환경.
- 스마트 홈은 개인의 안락함과 함께 에너지 및 관련 환경 보호 등 사회적인 문제가 결부된다.
- 제조 시스템에 적용할 경우 자율 시스템은 개인에서 직장으로 확대된다.
- 교통에서의 활용은 안전, 사회적인 효율성, 환경 등 많은 사람에게 영향을 미치는 사회적인 문제이다.
- 인간에게 위험한 환경에 도입은 효율성 측면 및 (환경오염의 경우) 사회적인 환경 문제 등에 복합적으로 연계된다.
결과보고서에서는 자율 시스템의 파급효과 분석 및 대응방안 강구를 위해서는 전체 적용 분야를 동시에 고려하는 것이 필요하다고 강조되었다. 점점 더 네트워킹되는 세계에서 그러한 시스템을 인간이 매일 그리고 많은 다양한 상황에서 만나므로 자율 시스템의 개별 응용 분야들은 더 이상 개별적으로 관찰될 수 있는 것은 아니기 때문이다.
[29부] ~ [32부]에서는 자율 시스템의 기술적인 특성 및 경제적 파급효과에 집중했다. 그러나 자율 시스템의 윤리적 문제를 포함한 사회적 및 법적 문제가 해결되지 않으면 향후 자율 시스템의 추가 개발 및 도입·활용 확대가 불가능하다.
결과보고서에서는 신기술 수용의 전제 조건을 다음과 같이 정리했다.
- 언급할만한 가치가 존재해야 함
- 개별적으로 그 효용의 인지가 가능해야 함
- 중요한 추가 효용을 제공해야 함
- 유용하고, 안전하고, 신뢰 가능한 서비스 제공 여부가 입증되어야 함.
여기에서는 결과보고서 요약본 마지막 부분에서 언급된 해결되어야 할 사회적 도전과제 및 요구사항과 법적 제반 환경에 대해 간략히 소개한다.
사회적 도전과제 및 요구사항
자율 시스템은 산업의 발전뿐만 아니라 삶의 질 향상에도 크게 공헌할 잠재력을 갖고 있다. 그러나 그만큼 우리가 해결해야할 사회적 문제도 발생한다. 이를 해결하지 않으면 사회적 수용성이 떨어져 자율 시스템을 도입하기는 어려워진다. 여기서 무엇보다 중요한 것은 인간이 중심에 있어야 한다는 점이다. 그렇다면 인간 중심의 자율 시스템을 만들기 위해 풀어야 할 사회적 문제는 무엇인가? 자율 시스템 추진 제안 결과보고서에서는 사회적인 관점에서 다음과 같이 3가지를 강조하고 있다.
- 기계와 인간과의 파트너십 : 자율 시스템은 인간을 배제하는 것이 아니라 파트너로 생각해야 사회적 수용성이 높아진다. 협동 로봇처럼 인공지능의 발달로 기계와 인간은 과거보다 훨씬 더 긴밀하게 협력할 수 있으며, 이러한 협력적 바탕 위에서 자율 시스템은 더 안전하고 효율적으로 작동된다. 문제 발생 시 인간에 의한 제어는 필수적이며, 이 제어 이양 과정에 대한 표준화가 강구되어야 한다. 또한 자율 시스템이 알 수 없는 상황과 문제에 대해 해결할 수 없다고 해서 시스템 제조업체가 그 책임으로부터 벗어날 수는 없다.(이는 법적 문제와도 연계된다. 법적 문제는 뒤에서 별도로 정리된다.)
- 노동시장과 교육 : 자율 시스템의 일자리 대체 범위에 대한 확실한 예측은 어렵다. 그러나 제조에 있어서 요구되는 근로자들의 핵심 역량에는 큰 변화가 올 것이라는 점은 분명하다. 미래에는 인지적이고 사회적이며 개인적인 특성을 가진 능력들(자기학습, 창의력, 기본적인 IT 지식 및 시스템사고 능력 등)이 더 강하게 요구될 것이다. 따라서 모든 산업에서 근로자들의 고용을 보장하기 위해 무엇보다 필요한 것은 업무 수행 능력 향상과 지속적인 자기 계발을 위한 평생 교육에 투자하는 것이다.
- 사이버 보안 : 자율 시스템은 일반적으로 통신 가능한 네트워크에 연결되어 있다. 때문에 기본적으로 사이버 공격 및 사보타주(Sabotage)의 위험에 노출되어 있다. 따라서 자율 시스템은 그러한 공격 가능성이 최소가 되도록 설계되고 보호되어야 한다. 이는 시스템 자체의 오류로 인한 오작동에도 적용된다. 지금까지의 여러 설문 조사 결과를 보면 시스템의 안전한 작동이 자율 시스템의 사회적 수용성을 위해 무엇보다 중요한 요소로 나타나고 있다.
법적 제반 환경
자율 시스템 도입은 자율적인 사고·추론·판단을 통해 사용자의 의도와 무관하게 결과를 야기할 가능성이 있다. 그에 따라 개인 정보보호 침해 가능성이 한층 더 높을 수 있으며, 종전의 형사책임 및 손해배상 책임의 구조에 변화를 가져올 수밖에 없고, 무엇보다(법적으로는 해결되지 않는) 근본적으로는 새로운 윤리 규범이 요구된다.
- 개인 정보보호 문제 : 자율 시스템과 관련하여 정보보호의 문제도 다각도로 분석되어야 한다. 예컨대 새로운 비즈니스 모델에 사용되는 정보 방식뿐만 아니라 자율 시스템과 연계되어 수집되는 직원들의 정보까지 분석의 대상이다. 정보보호를 위한 기술적인 솔루션이 더 많이 고려되어야 한다 (Privacy by Design). 익명으로 처리되거나 가명으로 처리된 정보의 사용은 이미 유럽연합 정보보호규정(GDPR)에 정해진 바와 같이 좀 더 단순화되어야 한다. 또한 데이터 소유권은 별도 계약이 없는 한 그 데이터를 생성한 자에 속하는 것이 원칙이다.
- 형사처벌 문제 : 결과보고서에서 다루지는 않았으나 형사처벌의 문제도 존재한다. 자율 시스템에 의한 교통사고나 사람에 대한 상해나 사망에 이르게 한 범죄에 대해 누가 책임질 것인가의 문제가 대두된다. 이 경우 자율 시스템을 이용하는 사람의 관여 정도나 제조자의 고의, 과실도 함께 고려되어야 한다.
- 손해배상 책임 문제: 자율 시스템과 관련한 주요 과제 가운데 하나가 손해배상 책임의 문제이다. 자율 시스템과 인간이 상호작용하여 보다 복잡한 문제를 불러일으킬 수 있고, 그 결과 손해배상 관련 기존 법의 단순 적용이 어렵게 된다. 이러한 맥락에서 부분적으로는 자율 시스템에서 복잡한 기술적인 프로세스의 부족한 추적성은 사고가 났을 경우 특별한 도전과제이다.
비상 정지 및 통제권 이양의 문제
결과보고서에서는 사회적 도전과제 및 법적 제반 환경에 대한 논의에서 “비상 정지 및 통제권 이양” 문제에 대해서도 언급하고 있다.
결과보고서에서 자율 시스템에 있어 비상 시 정지 기능이 요구되는 근본적 이유는 인간에게 통제권 이양을 어떤 형태로든 허용하거나 또는 그 시스템이 자동으로 안전한 상태에 도달할 수 있도록 만드는 것이 목표라고 언급하고 있다. 그러나 이러한 시스템의 이상 상황을 처리할 수 없는 경우라고 하여 제조업체로 하여금 자신들의 책임을 벗어날 수 있는 사유로 이용되어서는 안 된다는 의견이다. 반대로 시스템에 의해 야기되어 인간 사용자에게 통제권이 넘어간 경우도 그 문제에 직면한 인간이 이러한 가능성을 충분히 알고 또 돌려받은 통제권을 행사하기에 충분한 시간이 흘렀을 때에야 책임을 물을 수 있는 것이라고 본다. 의료분야에 있어 응급상황과 관련된 문제가 있는데, 즉 돌려받은 통제권에 대한 인간의 무제한적인 능력이 본연의 기능을 수행하는 그 시스템의 능력보다 우위에 있을 수 있느냐라는 것이다. 이러한 케이스에 있어 우위를 어디에 둘 것이냐의 충돌은 공적 논의가 전제되어야 하고 궁극적으로는 규범으로 정해져야 할 것이라고 강조하고 있다.
새로운 윤리 규범의 요구
자율 시스템은 우리 사회를 크게 변화시킬 것은 분명하다. 그러나 이 변화가 전체 사회를 위해 기여하지 못한다면 의미 없는 것이 될 것이다. 자율 시스템은 인간을 지원하되 동시에 인간의 자기책임감도 강화되어야 한다. 기술의 자율성은 인간의 자율성과 조화를 이루어야 한다. 자율 시스템의 이용이 확대된다 해도 중요한 것은 사람이 자율 시스템 도입 시 중심에 있다는 것이다. 그러나 이에 상응하는 윤리적 프레임워크는 아직 만들어지지 않았다. 앞으로 해결해야 할 과제다.
사회적 대화의 필요성
윤리적 문제를 포함한 사회적 도전과제 및 법적인 제반 환경과 관련하여 마지막으로 사회적 대화의 필요성에 대해 다음과 같이 요약하고 있다.
자율 시스템의 사회적 수용성을 높이기 위해서는 사회적 대화가 중요하다. 점점 더 네트워킹되어 가는 세계에서 문제 해결은 개별적인 관점으로 접근해서는 안 된다. 정부, 학계, 업계, 운영자, 이용자 및 사회단체 등 여러 이해관계자들이 참여하여 함께 논의하고 대안을 찾아나가야 한다. 이를 통해 자율 시스템의 기회, 한계 및 위험에 대한 설명과 계몽이 이루어져야 한다. 자율 시스템이 어느 정도 안전하고 환경보호 및 효율성 개선에 기여하는지는 물론 위험성의 문제도 사회적으로 투명하게 공유되어야 한다.
관련기사
앞에서 논의된 자율 시스템의 파급효과 및 수용성 확대를 위한 전제조건 관련 내용들의 상관관계는 [그림]과 같이 정리된다.
자율 시스템 도입 전체 분야와 관련하여 향후 추진되는 것이 바람직한 제안 내용은 결과보고서의 P. 40에서 확인할 수 있다. 여기서 소개한 결과보고서가 발간된 이후에는 후속 연구 결과로 2018년에 자율 시스템 연구(Studie Autonome systeme)가 발간되었다.
*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.
