조원희 변호사 "AI제품 설계때부터 유럽·미국 규제 반영해야"

"유럽과 미국의 인공지능(AI) 관련 법을 모르고 AI제품을 설계하면 유럽과 미국 시장에 들어갈 수 없을 뿐 아니라 시장을 잃어버릴 수도 있습니다. 우리가 오늘 세미나를 개최한 큰 이유입니다."

조원희 법무법인 디라이트(D’Light) 대표변호사는 자사가 11일 서울 드림플러스 강남에서 개최한 ‘생성형 인공지능(Generative AI)의 충격과 법적 과제' 세미나에서 이 같이 밝혔다. 이 세미나는 생성형 인공지능 기술 상용화가 시시각각 이뤄지고 있는 상황에서 향후 트렌드 및 법적 이슈를 알아보기 위해 마련됐다. 생성형AI 현주소와 함께 미국와 유럽연합(EU), 한국의 규제 동향과 지적재산권 이슈를 공유했다.

이날 '국내 규제 현황과 생성AI 기업의 법적 고려사항'을 주제로 발표한 조 변호사는 정필모 국회위원이 2021년 7월 발의한 '인공지능 육성 및 신뢰기반 조성 등에 관한 법률'을 비롯해 AI관련 7개 법안이 국회에 계류중이라면서 "인공지능 기술발전을 위한 대원칙으로 ‘우선 허용, 사후 규제’를 명문화했다"고 들려줬다. '우선 허용 사후 규제'는 선진국이 일반적으로 시행하는 규제 원칙으로 통상 '네거티브 규제'라 불린다. 그는 우리나라가 최근 몇년새 마련한 AI 규제 방안들도 소개했다.

조원희 법무법인 디라이트 대표변호사가 11일 '국내 규제 현황과 생성AI 기업의 법적 고려사항'을 주제로 발표하고 있다.

AI규제 시작은 2019년 12월 국무회의서 발표한 '인공지능 국가전략'이 처음으로 先허용과 後규제의 기본방향에서 AI 분야 규제 로드맵을 제시했다. 이어 2019년 11월에는 방송통신위원회와정보통신정책연구원이 '이용자 중심의 지능정보사회를 위한 원칙'을 밝혔고, 2020년 12월 과기정통부는 공청회를 거쳐 처음으로 '인공지능 윤리기준'을 마련했다. '인공지능 윤리기준'은 10대 핵심 요건으로 ①인권 보장 ② 프라이버시 보호 ③ 다양성 존중 ④침해금지 ⑤ 공공성 ⑥ 연대성 ⑦ 데이터 관리 ⑧ 책임성 ⑨ 안전성 ⑩ 투명성을 제시했다.

이어 과기정통부는 2021년 5월 13일 '신뢰할 수 있는 인공지능 실현전략'을 발표했고 같은 달 31일에는 개인정보보호위원회가 'AI 개인정보보호 자율점검표'를 공개했다. 이어 과기정통부는 2022년 2월 '인공지능 윤리 정책 포럼'을 발족했고, 같은해 5월 국가인권위원회는 '인공지능 개발과 활용에 관한 인권 가이드라인'도 발표했다. 2018년 1월에는 카카오가 '알고리즘 윤리헌장'을, 네이버는 2021년 2월 '네이버 AI윤리 준칙'을 각각 공개했다.

조 변호사는 우리나라는 2020년부터 인공지능 관련 법들이 계속 나왔는데 그냥 의안만 제출되고 심의가 거의 이뤄지지 않았다면서 "그런데 챗GPT 등장 이후 갑자기 의안 심사가 빨라졌다"고 진단했다. 이어 이번 세미나를 개최한 이유에 대해 "단순히 법으로 이런 거 하지 말아야 한다는 차원이 아니라, 서비스를 설계하는 과정부터 이제는 우리나라는 물론 다른 나라 규제도 염두에 둬야 할 것 같아서"라고 말했다.

규제와 관련, 그는 "어떤 인공지능을 우리가 어떻게 규제해야 하는 고민을 하고 있다"면서 "특히 고위험 영역 인공지능이 무엇인지 규정하는게 큰 논란거리가 될 것"이라고 예상했다. 또 '범죄 수사나 체포 시 생체정보 이용' 조항도 논란거리가 있다면서 "단순히 생체정보 이용으로 넓게 규정하지 않았고, 우리나라 같은 경우 범죄 수사시 생체 정보 이용을 좁혀 규정하고 있다"고 설명했다.

또 가장 논란거리 중 하나가 '채용이나 대출 심사 등 평가 목적'이라는 부분이라면서, 우리나라 법이 가장 애매한게 '~등'이라며 이 범위를 어디까지 할 지가 애매하다고 말했다. 조 대표는 인공지능 규제에 관해 논란거리도 소개했다. 첫째, 인공지능 작동 과정과 결과를 논리적, 객관적으로 설명해야 하는 것인데 조 변호사는 "앞으로 우리가 수많은 AI서비스를 사용할텐데, 어떻게 다 일일이 논리적으로 설명하며 사용자에게 이를 고지할 지가 문제"라고 지적했다.

조 변호사는 개인정보 필터링 및 삭제 등 개인정보 수집시 관련 법령을 준수해야 한다면서 "데이터가 양질이 아니거나 충분하지 않을 경우 결과물의 품질도 영향을 받는다"고 말했다. 이어 데이터 보안도 고려사항 이라면서 "생성AI 학습 데이터가 영업비밀, 개인정보 등 민감한 정보를 포함할 가능성이 있으며 권한없는 사람이 접근할 경우 침해 발생 가능성이 있다. 생성AI와 대화를 암호화하고 접근권한을 통제하는 한편 정기적인 보안 점검이 필요하다"고 짚었다.