우리는 인공지능(AI)이라는 배를 탔다. 누구는 선장이 돼 지휘하고 누구는 일등석에 앉아 만찬을 즐긴다. 그들만 타고 있진 않다. 좁은 삼등석에선 굶주림에 지쳐 몸을 뒤척이는 이가 있고, 아래 칸에선 힘겹게 노만 젓는 이도 있다. 그들을 함께 묶는 AI윤리가 가능할까.
정부와 기업은 AI가 나오자 앞다퉈 윤리기준을 배포했다. AI 개발 및 활용 과정에서 지킬 원칙과 기준을 담았다. 인간존엄성(인권보장, 개인정보, 다양성), 사회공공선(공공성, 개방성, 포용성), 목적성(책임과 통제, 안전성, 투명성)을 강조했다. 이 윤리기준이면 모든 것이 해결될까?
AI는 ‘다양성을 고려해 불공정한 처우를 줄인다'고 정하면 어떻게 해야 윤리기준을 지키는 것이 될까. 아무리 봐도 AI윤리는 형식적이고 추상적이며 모호하다.
AI윤리를 어떻게 봐야 할까. ‘도덕의 계보’를 쓴 철학자 니체에게서 단서를 찾아보자. 그는 노예가 주인에게 가지는 감정과 원한(르상티망)이 도덕의 시작이라고 했다. 지배층을 증오하지만 이길 수 없다. 차라리 그들을 인내, 용서, 배려했다고 자신의 감정을 포장했다. 그것이 그들의 도덕이었다.
로마, 중세 시대 귀족 등 지배층의 도덕은 자신감, 강인함과 부유함이었다. 유대인, 기독교도 등 피지배층은 생존을 위해 지배층의 폭력을 받아들였다. 강자를 악으로 규정했지만 저항할 힘이 없었다. ‘원수를 사랑하라’는 말로 강자에 순응하면서 인내, 용서, 배려의 도덕이라고 되뇌었다. 그 보답을 받아 부도덕한 지배층은 지옥에 가고 자신들은 천국에 간다고 믿었다.
캘빈의 종교개혁으로 신을 믿고 직업에 충실하면 천국에 갈 수 있는 길이 열렸다. 그 결과 배척받던 상공업, 금융업자 중심의 기독교인에 의해 자본주의 시장이 성장했다. 그들을 착취하는 왕정, 귀족을 약화시키려 피지배층을 해방시키고 노동력으로 확보했다. 노동력은 육체노동에서 창의노동으로 발전해 기업혁신을 일궜다.
현대 시장은 성장 끝에 정체됐지만 빅테크 기업은 자본을 끌어들여 AI를 만들고 시장을 다시 키우고 있다. 빅테크 기업의 자신감, 창의, 혁신과 추진력은 새로운 강자의 도덕이 되고 있다. 개인은 그들에게 노동을 제공하거나 주식 등 금융시장에 참여해 강자의 부에 편승한다. 선거 등 민주주의와 시민운동을 통해 강자에 대항하지만, 겉으로만 그들을 비판할 뿐 속으론 인정하고 받아들인다. 결국 그들과 같은 배를 탄 셈이다. 풍요로운 미래를 말하는 강자의 목소리에 이끌려 파괴적 혁신을 허용하고 빈부격차 등 부작용에 동조하는 것이 그들의 새로운 도덕이 됐다.
AI윤리는 국민의 자유와 권리가 강한 나라에서 ‘설명 가능한 AI’, ‘책임 있는 AI’, ‘안전한 AI’를 먼저 내세워 시민을 달래고 반발을 막는 장치인지 모른다. AI가 가져올 부작용과 위험을 먼저 경고하는 것 같지만, 오히려 AI가 가져올 이익과 장점을 부각해 누구나 쉽게 받아들이게 만든다.
AI에 대한 감시와 견제가 허술해지고, 누구나 은연중에 그들과 동업자 의식을 갖는다. AI에 의한 일자리 감소를 당연하게 여긴다. AI 윤리가 기존의 다른 윤리와 달라야 하는 이유가 여기서 나온다.
어떻게 해야 하는가. AI윤리는 빅테크 기업 등 시장을 주도하는 강자의 도덕에 머물러선 안 된다. 그들에게 순응해 주가 차익이나 성과급 등 재분배를 노리는 약자의 노예도덕에 그쳐서도 안 된다. 성장구호에 매몰되지 않고 비판적 시각으로 견제와 감시를 이어가야 윤리적 토대가 만들어진다.
우선 AI기업의 주주로서 윤리적 AI개발과 활용을 요구하는 목소리를 높여야 한다. 데이터의 무단 이용을 감시하고 내부고발을 장려해야 한다. AI위험과 취약점을 찾는 레드팀과 견제를 위한 옴부즈만 등 세부 윤리실현 장치를 두는 일도 중요하다. AI는 사람의 활동을 보조하는 기능에 충실하고, 사람은 AI를 조율하는 지휘자 역할을 지켜야 한다. 사람 중심의 협력과 공존에서 AI윤리의 본질을 찾을 수밖에 없다
*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.
