[기고] AI는 편향되지 않았다

최대우 애자일소다 대표(現 한국외국어대학교 교수)

13일, 한국형 뉴딜이 발표되면서 디지털 뉴딜 영역의 핵심인 인공지능(AI)에 대한 관심은 더욱 고조되고 있다. 포스트 코로나 시대를 맞아 비즈니스 영역에서도 언택트, 뉴노멀 등의 이슈와 함께 AI 도입을 고려하는 곳이 많아지고 있다.

그러나 이런 흐름을 타고 AI에 대한 기대나 관심이 높아질수록, 신뢰도나 투명성에 대한 의문 제기도 늘어나고 있다. 특히 가장 뜨거운 이슈는 AI 편향성에 대한 논의다.

AI 편향성에 대해 논할 때 가장 많이 드는 예가 인종에 대한 문제다. 특정 인종을 사람이 아닌 동물로 인식하는 예는 이미지에 따른 오인식일 뿐이다. 이는 명백한 기술적 오류다.

비슷한 사례로 머핀과 치와와를 혼동하거나 앵무새와 화초를 구분하지 못한 결과도 있었지만, 누구도 이를 편향성이라고 우려하거나 문제를 제기하지는 않는다. 인종이나 성별은 AI가 아니어도 항상 민감한 이슈다. 오히려 기술적 오류를 편향으로 바라보는 해석하는 우리의 시선 자체가 편향이다.

머핀과 치와와를 오인식한다고 해서 AI를 편향되었다고 하지 않는다(이미지=구글)

또 다른 축은 편향된 데이터 주입에 따른 결과 도출이다. 범죄율 예측이나 대출 한도 문제에 있어, 흑인에게 불리한 결과를 도출해 낸 사례가 있다. 여기서 반드시 짚고 넘어가야 할 점은 기계는 ‘주입된 정보’에 따라 결과를 출력한다는 것이다.

어떤 배경지식이나 선입견도 포함되지 않고, 학습한 대로 결과를 출력할 뿐이다. 따라서 기술을 두고 편견이나 공정성에 대해 판단하는 것은 앞뒤가 맞지 않다. 오히려 주입된 정보의 공정성이나 학습 과정의 문제를 지적해야 한다.

우리가 해야 할 일은 AI의 편향성을 우려하고 AI 활용에 불필요한 두려움을 키울 게 아니라 치우침 없는 정보 주입과 기술의 정교화를 통해서 결과의 오류를 줄여나가는 것이다.

덧붙여 AI라는 기술을 매개로 보인 우리의 편견과 부조리를 인정하고, 개선해 나가고자 하는 사회적 의식도 필요할 것이다.

다만, 기업 비즈니스에 AI를 활용하는 경우라면 조금 더 신중한 접근이 필요하다. 기업의 활동은사회적 책임이 뒤따르고, 그 여파가 경영의 지속성과도 직결되기도 한다.

따라서 투명한 AI를 위한 거버닝이 필요하다. 데이터 거버넌스, 알고리즘 거버넌스 등으로 거창하게 포장하지만 근본적으로는 기술이 바르게 작동하고 쓰이기 위해 내부 교육과 윤리의 기준을 세우고, 설명 가능한 인공지능(XAI) 등 결과에 대해 입증할 수 있는 장치를 마련해 두는 것이 좋다.

AI는 이미 다가온 미래다. 이 기술에 국가 경쟁력과 기업 가치를 걸고 제대로 활용하기 위해서는 기술 자체의 성숙과 함께 우리가 가진 왜곡된 시각과 편견, 결과를 보완할 안전장치 등 다분야에서 함께 고민과 논의가 있어야 할 것이다.

최대우 애자일소다 대표이사

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.