뉴욕, AI 재난 방지법 첫 통과…초거대 AI 투명성 규제 본격화

美 최초로 'RAISE' 법안 가결…100명 이상 사망 우려 AI엔 안전 보고 의무

미국 뉴욕주가 초거대 인공지능(AI)으로 인한 대규모 재난을 예방하기 위한 첫 입법을 단행했다.

15일 테크크런치 등 외신에 따르면 뉴욕주 의회는 'RAISE(Reliable AI Safety and evaluation)' 법안을 통과시켰으며 이는 AI 기업에 안전성 보고를 의무화하는 미국 내 첫 입법 사례다.

(사진=챗GPT 제작)

이 법안은 ▲100명 이상 사망 ▲1천억 원 이상의 피해가 발생할 수 있는 AI 관련 재난 가능성을 사전에 방지하는 것이 목적이다. 해당 법안은 현재 캐시 호컬 주지사의 서명을 앞두고 있다.

법안의 핵심은 일정 규모 이상의 AI 모델에 대해 안전성 보고와 이상 징후 보고를 요구하는 것이다. 특히 1억 달러(한화 약 1천367억원) 이상의 연산 자원을 활용해 학습시킨 모델을 뉴욕주민에게 제공하는 기업은 ▲AI의 보안·신뢰성·악용 방지책 등에 대한 기술 보고서 제출 ▲예기치 못한 위험성 또는 실제 사고 발생 시 사고 보고서 제출이 의무화된다.

위반 시 최대 3천만 달러(한화 약 410억원)의 민사 벌금이 부과될 수 있다.

이 법안은 오픈AI, 구글, 앤트로픽 등 초거대 AI 모델을 개발·배포하는 주요 기업을 대상으로 하지만 스타트업이나 학계 연구에는 부담을 최소화하도록 설계됐다.

이번 법안은 최근 캘리포니아주에서 발의됐다가 강한 반발로 수정된 'SB 1047' 법안과도 비교된다. RAISE 법안은 이를 보완해 보다 명확한 기준과 기업 부담 최소화 조항을 포함했다는 평가다.

AI 분야 석학인 제프리 힌튼과 요슈아 벤지오도 해당 법안에 지지를 표명했으며 향후 다른 주 정부와 연방 차원의 입법에도 영향을 줄 가능성이 클 것으로 전망된다.

법안 발의자인 민주당 소속 스티븐 론더 의원은 "AI 기술이 급속도로 진화하고 있지만 이에 대한 투명성과 안전성 검증은 따라가지 못하고 있다"며 "RAISE 법안은 산업의 혁신은 해치지 않으면서도 AI로 인한 잠재적 재난을 막기 위한 균형 잡힌 입법"이라고 밝혔다.