美 상무부 "누구나 쓸 수 있는 개방형 AI, 규제보다 지원 우선"

소규모·비영리단체 AI 활성화 지원…악용 대비 모니터링·정책 마련 필요

미국 상무부가 기술 발전을 위해 메타의 라마(Llama)나 구글의 제미나이처럼 누구나 사용할 수 있는 개방형 가중치(open-weight) 모델을 지지했다. 예상치 못한 악용 등에 대한 잠재적 위험에 대비해 해당 모델을 모니터링할 수 있는 새로운 역량을 개발하고, 정부가 나서 정책적 기반을 마련할 것도 권고했다.

31일 테크크런치 등 외신에 따르면 미국 상무부 국가통신정보청(NTIA)은 '이중용도 파운데이션 모델과 널리 이용가능한 모델 가중치(Dual-Use Foundation Models with Widely Available Model Weights)'라는 보고서를 발표했다.

미 상무부 NTIA에서 발표한 '이중용도 파운데이션 모델과 널리 이용가능한 모델 가중치' 보고서(이미지=NTIA)

이 보고서는 개방형 가중치 모델의 위험성을 평가하는 한편, 다양한 정책 도구와 권장 사항을 통해 이점을 극대화하고 위험을 관리할 수 있는 방안을 제안하기 위해 작성됐다.

보고서에 따르면 학습 방식이 공개되고 다양한 분야에 활용할 수 있는 개방형 가중치 AI모델은 소규모 회사, 연구자, 비영리 단체를 비롯한 개인의 생성형AI의 가용성을 확대하며 기술 발전을 촉진하는 것으로 나타났다.

이에 해당 모델이 시장에 악영향을 미칠 수 있다는 결과를 찾아내기 전까지 규제하거나 사용자의 접근을 제한하지 않을 것을 정부 측에 제안했다.

더불어 개방형 가중치 모델의 장점을 어떻게 사회적, 경제적 발전에 기여할 수 있을지 연구하고 기술 혁신에 적용할 수 있는 방안을 모색할 것을 권고했다.

이러한 평가는 리나 칸 FTC 위원장의 의견과 비슷하다. 그는 개방형 가중치 모델을 통해 더 많은 소규모 사업자가 아이디어를 시장에 내놓을 수 있고, 이를 통해 건전한 경쟁을 촉진할 수 있을 것이라고 의견을 제시했다.

더불어 NTIA는 아직 확인되지 않은 개방형 가중치 모델의 부작용에 대비할 것을 조언했다. 이를 위해 개방형 가중치 AI모델에 대한 위험성과 부작용을 파악하고 이를 평가하고 대처할 수 있는 프로그램을 개발도 촉구했다.

부작용 대응 프로그램에는 개방형 가중치 AI 모델의 잠재적 위험성을 분석하고, 위험성이 어떻게 국가 안보나 공공 안전에 영향을 줄 수 있는지 평가하고 위험을 관리하기 위한 정책이나 대안을 마련할 것을 제안했다.

보고서에서 언급한 이중용도 파운데이션 모델은 넓은 범위의 데이터를 학습해 다양한 분야에 활용할 수 있는 범용AI를 말한다. 오픈AI의 GPT나 메타의 라마, 구글의 제미나이 등이다.

널리 이용가능한 모델 가중치는 AI모델 학습에 사용된 데이터 파라미터를 다른 AI에도 적용할 수 있도록 공개된 것을 지칭하며 개방형 가중치라고도 불린다. 이를 통해 다른 개발자나 조직에서도 자체 AI를 개발하거나 새로운 서비스에 해당 AI모델을 적용하는 것도 가능하다.

개방형 가중치 모델은 누구나 사용가능한 만큼 기술혁신을 가속할 수 있지만 보안상의 위험과 잠재적인 오남용 가능성 등의 단점도 내포하고 있다. 특히 범용AI와 적용될 경우 예상치 못한 분야에서 악용될 가능성이 제기됐다.

이에 NTIA는 지난 2월에 개방형 가중치 모델에 대한 공개 의견 요청을 발표했고 332개의 의견을 받았다. 또 다양한 정책 및 기술 전문가의 의견을 수집하는 공청회 등을 거쳐 보고서를 작성했다고 밝혔다.

상무부 앨런 데이비슨 통신정보 담당 차관보 겸 NTIA 관리자는 "크고 강력한 AI의 개방성은 혁신적인 도구의 경쟁, 혁신을 비롯해 위험에도 영향을 미칠 것"이라며 "이번 NTIA 보고서는 개방형 AI 시스템의 중요성을 인식하고, 광범위한 가용성으로 인한 위험을 보다 적극적으로 모니터링할 것을 촉구한다"고 성명을 통해 밝혔다.

이어 "정부가 적극적으로 개방형 가중치 모델을 안전하고 신뢰할 수 있도록 정책적 기반을 마련해야 한다"고 강조했다.