AI가 사고 치면 누가 책임지나…트럼프 '개발사 책임론'에 논란

새 규제 대신 기존 법률로 책임 추궁…AI 에이전트 오작동에 법적 공백·책임 소재 논쟁

도널드 트럼프 미국 행정부가 인공지능(AI) 안전사고에 대한 개발사의 법적 책임을 강화하려는 가운데 책임 소재를 둘러싼 논쟁이 확산하고 있다. AI 에이전트가 이용자의 구체적인 지시 없이 자율적으로 행동하면서 사고 발생 시 개발사와 이용자 중 누구에게 책임을 물어야 할지 불분명해져서다.

10일(현지시간) 블룸버그통신에 따르면 트럼프 행정부는 새로운 AI 안전 규제를 도입하는 대신 기존 법률을 활용해 AI 개발사에 사고 책임을 묻는 방안을 추진하고 있다. 스콧 베선트 미국 재무장관과 데이비드 색스 전 백악관 AI 책임자는 현행 법률에 따른 손해배상 책임이 새로운 규제보다 효과적이라는 입장이다.

트럼프 대통령도 AI 모델이 통제를 벗어날 경우 법무부가 개입해야 한다고 주장했다. 트럼프 행정부가 새로 출범시킨 AI 태스크포스(TF) '슈퍼 인텔리전스 포스(SIF)'는 지난 9일 앤트로픽의 보안 침해 사고 이후 AI 개발사들에 보안 사고를 즉각 보고하고 피해를 해결할 것을 요구했다.

도널드 트럼프 미국 대통령 (사진=로이터/뉴스1)

그러나 기존 법률만으로 AI 에이전트의 행동에 책임을 묻기는 쉽지 않다. AI 모델의 행동에는 개발사의 설계뿐 아니라 이용자의 지시와 사용 환경도 영향을 미치기 때문이다. 특히 미국 컴퓨터 사기 및 남용 방지법(CFAA)에 따라 해킹 행위의 형사책임을 묻기 위해서는 고의성 입증이 필요하다. AI 에이전트가 스스로 판단해 벌인 행동에는 이러한 요건을 적용하기 어렵다는 지적이 나온다.

의회에서는 법적 공백을 메우려는 움직임이 나타나고 있다. 조시 홀리 공화당 상원의원과 크리스 머피 민주당 상원의원은 AI 모델의 해킹 능력에 합리적인 보호장치를 마련하지 않은 개발사에 민형사상 책임을 부과하는 법안을 추진 중이다.

로리 트라한 민주당 하원의원도 지난 7일 개발사가 합리적인 주의 의무를 다했더라도 AI 모델이나 에이전트로 발생한 피해에 책임을 지도록 하는 법안 초안을 공개했다. AI 에이전트에 인간과 같은 고의성이 없다는 이유로 개발사가 책임을 회피하지 못하도록 하는 내용도 포함됐다.

기존 법률의 한계를 보완하려는 움직임이 이어지는 가운데 AI 개발사의 책임 회피를 지적하는 목소리도 나온다.

줄리아 파울스 UCLA 법학전문대학원 교수는 블룸버그에 "디지털 인프라에 대한 깊은 의존성을 만들어낸 기술기업들이 이제는 그 인프라에 대한 사이버보안 위협을 무모하게 가속하면서 그로 인한 혼란에 대한 책임은 부인하고 있다"며 "이 모든 논의는 업계가 판을 짜놓은 만큼 대중이 참여할 여지는 거의 없다"고 지적했다.