뉴욕주, AI 안전계획 의무화 법 제정…트럼프 기조와 엇갈려

연방 행정명령 이후 일주일 만에 주정부 AI 규제 본격화…2027년 시행

미국 뉴욕주가 대규모 인공지능(AI) 시스템을 개발하는 기업에 대해 안전 계획 수립과 공개를 의무화하는 법을 제정하며 연방 정부 기조와 다른 행보에 나섰다. 최근 AI 규제를 둘러싼 논쟁이 격화되는 가운데, 주 차원의 선제적 규제가 본격화됐다는 평가가 나온다.

22일 월스트리트저널(WSJ) 등 외신에 따르면 캐시 호츄 뉴욕주지사는 지난 20일(현지시간) '책임 있는 인공지능 안전 및 교육법(RAISE Act)'에 서명했다.

이 법은 2027년 1월 1일부터 시행된다. 연 매출 5억 달러(약 7천400억원) 이상 기업이 대규모 AI 시스템을 개발할 경우 모델로 인한 중대한 피해를 방지하기 위해 안전 계획을 작성·공개하고 이를 준수하도록 규정했다.

뉴욕이 주 차원의 AI법 제정에 나섰다. (제공=클립아트코리아)

법안에 따라 기업은 AI로 인한 심각한 사고나 위반 사례가 발생할 경우 72시간 이내에 주 정부에 보고해야 한다. 이를 이행하지 않거나 허위로 보고할 경우 최대 100만 달러(약 14억원), 재차 위반 시 최대 300만 달러(약 44억원)의 벌금이 부과될 수 있다.

또 뉴욕주는 금융 서비스부 산하에 AI 전담 사무소를 신설해 법 집행과 규칙 제정, 수수료 부과, AI 안전 관련 연례 보고서 발간 등을 담당하도록 했다.

이번 법 제정은 도널드 트럼프 미국 대통령이 주 정부의 AI 규제를 제한하도록 연방 기관에 지시하는 행정명령에 서명한 지 불과 일주일 만에 이뤄졌다. 앞서 트럼프 행정부는 주 차원의 AI 규제가 산업 혁신을 저해할 수 있다며 반대 입장을 밝혀왔다.

뉴욕주의 이번 법은 올해 초 캘리포니아주에서 통과된 AI 안전 법안 'SB53'을 토대로 마련됐지만 일부 조항에서는 더 엄격한 기준을 적용했다. 특히 AI 안전 사고 공개 기한을 캘리포니아의 15일보다 짧은 72시간으로 설정한 점이 대표적이다. 이 조항을 두고 법안 서명 직전까지도 일부 AI 연구소가 완화를 요청하는 등 업계 반발이 이어졌던 것으로 전해졌다.

다만 주요 AI 기업들은 이번 법안의 취지에는 공감한다는 입장을 내놨다. 오픈AI와 앤트로픽은 뉴욕주의 AI 안전 법안을 지지하면서도 장기적으로는 연방 차원의 통일된 규제 체계가 필요하다고 강조했다.

앤트로픽의 사라 헥 대외정책 총괄은 "미국에서 가장 큰 두 주가 AI 투명성 법안을 채택했다는 사실은 안전의 중요성을 분명히 보여주는 신호"라며 "의회가 이를 토대로 연방 차원의 입법에 나서야 한다"고 말했다.

알렉스 보레스 뉴욕주 하원의원은 "연방 차원의 대응이 가장 바람직하다는 점에는 동의하지만, 그렇다고 시민을 보호하기 위한 주 정부의 행동까지 막을 수는 없다"고 밝혔다.