온라인 서비스 사용이 많아지면서 그 결과 값이 의아할 때마다 종종 '왜?'라는 질문을 떠올린다. 하지만 어디서도 그 답을 들을 수 없다. 이동이 잦은 편이라 택시를 잡기 위해 ‘카카오T’ 서비스를 자주 이용한다. 여기에는 일반호출, 블루, 벤티, 블랙 등 다양한 서비스 종류가 있다. 가장 저렴한 일반호출이 되지 않을 경우 블루나 벤티 등 프리미엄 서비스가 추천된다. 굳이 급하지 않아 다시 일반호출을 해 보면 곧잘 택시가 잡힌다. 이때 문득 프리미엄 서비스의 추천 알고리즘이 궁금해진다.
요즘은 대부분의 기사분들이 ‘카카오맵’이 추천하는 길을 따라 간다. 그런데 가끔 전혀 의외의 길을 추천하는 경우가 있다. 그 추천이 맞은 적도 있지만 그렇지 않을 때도 있다. 기사분이 경로를 결정했다면 그 이유를 물을 수 있지만 네비게이션은 왜 그 길을 추천했는지 설명해주지 않는다. 답답함은 내 몫이다.
알고리즘 이슈는 여러 서비스에서 논란이 되어 왔다. 선거 시즌이 돌아올 때마다 포털사이트의 뉴스 편집 알고리즘의 공정성이 이슈가 됐다. 유튜브를 비롯해 콘텐츠 추천 기능을 가지고 있는 서비스의 경우 콘텐츠 편향성이 늘 문제가 됐다. 이용자들이 주로 시청하는 유형의 콘텐츠를 추천하다 보니 이용자들은 자기도 모르게 확증 편향을 가지게 된다는 지적도 있다. 또 이는 현재와 같은 극심한 정치적 양극화 원인으로 제시되기도 하고, 가짜뉴스를 양산하는 동기가 된다고도 한다.
앞서 언급한 ‘카카오T’ 서비스의 경우 지난 2월 공정거래위원회로부터 257억원의 과징금을 부과받았다. 일반호출에 비해 ‘블루’ 서비스와 같은 가맹택시에 혜택을 주도록 배차 알고리즘을 조작했다는 이유에서다.
인공지능의 경우 알고리즘의 문제가 더 난해하다. 인공지능은 사전에 정의된 원칙에 따라서만 작동되지 않고, 데이터와 처리 결과의 상호작용에 따라 계속해 수정되기도 하고, 또 학습한 데이터 내용에 따라 결과가 달리질 수 있기 때문이다. 인공지능 서비스를 제공하는 사업자조차도 어떤 알고리즘으로 그 결과값이 도출됐는지 설명할 수 없는 경우가 발생한다.
이런 사례는 다양하다. 미국 아마존은 지난 2018년 인공지능 기반 채용 시스템이 성차별적 관행을 답습해 여성에게 불리한 평가를 한다는 사실이 알려지자 개발을 중단하기도 했다. 우리나라에서도 2021년 인공지능 챗봇 서비스인 ‘이루다’가 혐오의 학습화 논란을 불러일으켜 서비스를 중단하기도 했다.
상황이 이러다 보니 인공지능 알고리즘에 대한 규제도 현실화되고 있다. EU에서는 GDPR, 디지털서비스법, 인공지능법 등에 이미 도입돼 있다. 우리나라도 지난 2021년 11월 “알고리즘 및 인공지능에 관한 법률안”이 발의되어 고위험군 인공지능에 대해서는 알고리즘 규제를 규정하고 있다.
인공지능 서비스에 투명성과 공정성이 필요하고 이를 위해 적절한 규제가 필요하는 점은 누구도 이의를 제기하지 않을 것이다. 다만 그 방법이나 정도는 셈법이 복잡하다. 지금까지의 규제는 주로 인공지능 서비스의 위험성을 기준으로 하고 있다. 그러나 우리는 그 이상의 고려가 필요하다. 우리나라에서 독자적인 규제를 어떻게 가져갈 지가 중요하다. EU의 엄격한 규제는 기정사실화되고 있고, 글로벌 기업들은 이제 이 규제를 따라야 하는 상황이다.
우리나라 규제는 누구를 대상으로 할 지를 잘 고민해야 한다. 초거대 인공지능 서비스는 전세계적으로 몇 개의 국가에서만 개발 중이다. 그 만큼 높은 기술 수준과 비용, 컴퓨팅 파워가 필요하다. 향후 두,세개의 글로벌 기업에 의해 독점 내지 과점으로 이뤄질 가능성이 높은데, 우리나라도 서비스 제공을 준비하는 몇 안 되는 나라 중 하나다. 힘겹게 해외의 글로벌 기업과 경쟁하는 우리나라 기업의 상황도 살펴야 한다.
또한 인공지능 기업이라도 그 서비스 내용은 많이 다르다. 향후 우리나라의 많은 기업은 글로벌 기업의 초거대 인공지능에 기반한 서비스를 출시할 것이다. 즉, 위험성만을 기준으로 할 것이 아니라 서비스 레이어에 따른 규제 차별화를 고려해야 한다. 규제 필요성에 부응하면서도 거대 글로벌 기업의 인공지능 기술에 종속되지 않을 묘안이 필요하다.
◆필자 약력
-법무법인 태평양 변호사 (2001_2017)
-법무법인 디라이트 대표변호사 (2017-현재)
-한국과학기술원(KAIST) 겸임교수 (2013-현재)
-정보통신과학기술부 자문변호사 (2020-현재)
-ALB 선정 Korea Super Lawyer 30인 (2022)
-리걸타임즈 선정 TMT 분야 올해의 변호사 (2021)
◆법무법인 디라이트는…
법무법인 디라이트는 스타트업이나 기술벤처에 특화한 법률 서비스를 제공하고 있다. ICT, 인공지능, 블록체인 과 웹3.0, 콘텐츠와 미디어, 헬스케어, 핀테크 분야 등 디지털및 4차산업혁명 분야에 강점을 가지고 있는 법무법인이다. 부산과 대전에 분사무소를 가지고 있고, 캐나다 밴쿠버에 해외 사무소도 있다. 현재 베트남 사무소를 준비하고 있다. 법무법인 디라이트의 모든 구성원은 법인설립부터 공익을 가장 중요한 가치로 추구하고 있다. 매출액의 일정 부분을 공익사업을 위해 지출하고 있는데 장애와 환경, 난민 및 이주민, 여성, 아동 등의 분야에서 다양한 공익활동을 시행하고 있다.
*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.
