앤트로픽, 美 의회에 'AI 안전 법안' 제안…"위험 임박 시 차단"

10억 달러 초과 피해 또는 50명 초과 사망·중상 위험 기준

앤트로픽이 고위험 인공지능(AI) 출시를 막고 개발사 안전 점검을 의무화하는 법안을 미국 의회에 비공식 제안한 것으로 전해졌다. 

17일(현지시간) 미국 정치매체 폴리티코 보도에 따르면 앤트로픽 관계자들은 미 연방의회 의원들에게 첨단 AI 안전과 보안을 규제하는 법안 초안을 제출했다. 

초안은 대규모 피해가 예상되고 위험이 임박했을 때 정부가 AI 출시나 사용을 막을 수 있다는 점이 골자다. 피해 기준은 10억 달러를 넘는 재산 피해 또는 50명을 초과하는 사망·중상자 발생 위험이다.

다리오 아모데이 앤트로픽 최고경영자(CEO). (사진=위키커먼스)

위험 원인도 세 가지로 이뤄졌다. AI가 생물학 무기 제작·방출에 쓰이거나 개발자 통제를 벗어나는 경우 또는 사이버공격과 관련된 경우다. 이 가운데 하나에 해당하면서 앞서 정한 규모 피해가 임박해야 정부가 개입할 수 있다.

초안은 AI 모델 중단 여부는 법원이 결정하도록 했다. 미 상무부가 위험이 있다고 판단해 중단을 요청하면 컬럼비아특별구 연방지방법원 판사가 중단 명령을 내릴 수 있다.

앤트로픽은 정부 개입 권한에 제한을 뒀다. 상무부 외 다른 정부 부처나 기관 또는 공무원이 AI 모델의 개발과 배포 또는 내부 사용을 중단시키는 행위는 금지했다.

초안에 따르면 개발사는 AI 모델 안전성을 시험하고 결과를 투명하게 공개해야 한다. 상무부에 등록한 외부 평가기관도 AI 연구소와 모델을 정기적으로 점검한다.

평가기관이 법안에서 정한 임박한 위험을 확인하면 평가를 마친 뒤 72시간 안에 상무부에 알려야 한다. 연구소가 평가 비용을 내는 것은 허용하지만 평가 결과에 따라 보수가 달라져서는 안 된다.

앤트로픽은 이번 초안에 올해 초 공개한 '첨단 AI 프레임워크' 제안을 담았다고 설명했다. 

앤트로픽 관계자는 "가장 강력한 모델의 위험한 배포를 차단하거나 억제할 권한은 반드시 필요하다"고 로이터에 밝혔다.