EU, 챗GPT에 최고 강도 규제…생성형 AI로는 처음

월 이용자 4500만명 넘어 '초대형 검색엔진' 지정…미성년자 보호·불법 콘텐츠 관리 의무

유럽연합(EU)이 챗GPT를 대형 플랫폼과 같은 반열의 규제 대상으로 끌어올리며 생성형 AI에 대한 감독을 본격화했다. 이번 조치로 오픈AI는 미성년자 보호와 불법 콘텐츠 확산 방지 등 이용자 안전과 직결된 책임을 지게 됐다.

31일(현지시간) EU 집행위원회에 따르면 챗GPT는 EU 월평균 이용자 4500만명 이상 기준을 충족해 '초대형 온라인 검색엔진'으로 지정됐다. 오픈AI는 2027년 1월까지 서비스와 알고리즘에서 발생할 수 있는 체계적 위험을 평가하고 완화하는 등 추가 의무를 이행해야 한다.

초대형 온라인 검색엔진은 이용자가 많아 사회적 파급력이 큰 검색 서비스를 뜻한다. EU는 이런 서비스가 문제를 일으키면 그 영향도 크다고 보고 DSA 체계에서 가장 강한 규제를 지운다. 챗GPT는 EU에서만 월평균 이용자 4500만명을 넘겨 이 최고 등급 규제 대상에 올랐다.

EU 집행위원회는 챗GPT를 '초대형 온라인 검색엔진'으로 지정했다. (사진=오픈AI)

규제 근거는 디지털서비스법(DSA)이다. EU가 2022년 제정해 2024년 2월 전면 시행한 법으로 오프라인에서 불법인 것은 온라인에서도 불법이라는 원칙을 담고 있다. 이에 따라 대형 플랫폼은 불법·유해 콘텐츠를 방치하지 않고 이용자를 보호할 책임을 진다.

지정된 서비스는 자사 서비스가 낳는 위험을 스스로 점검하고 줄여야 한다. 대상 위험은 불법 콘텐츠 확산과 미성년자 보호에 그치지 않는다. 이용자의 신체·정신 건강과 기본권, 선거, 공공 안보에 미치는 영향까지 포함된다.

집행위는 이번 지정으로 해당 서비스의 기능과 관련 시스템을 조사할 권한도 갖게 됐다. 챗GPT는 아일랜드의 디지털서비스조정관인 코미시운 나 메안과 협력해 DSA 준수 여부를 감독받는다.

집행위는 챗GPT를 이용자의 프롬프트와 질의에 응답하는 AI 시스템으로 보면서도 웹 검색 기능을 근거로 온라인 검색엔진에 해당하는 하이브리드 서비스로 판단했다.

이번 조치에서 레딧과 로블록스도 '초대형 온라인 플랫폼(VLOP)'으로 함께 지정됐다. 두 서비스 역시 EU 내 월평균 이용자 4500만명 이상에 도달한다고 신고해 지정 요건을 충족했다. 레딧과 로블록스는 이용자가 제3자 콘텐츠를 대중에 유통할 수 있게 한다는 점에서 온라인 플랫폼으로 분류됐다. 각각 코미시운 나 메안, 네덜란드 소비자·시장청(ACM)과 협력해 감독받는다.

반면 앤트로픽 클로드는 이번 지정 대상에서 빠졌다. 성능이나 심사 결과가 아니라 유럽 이용자 수가 법적 기준선인 4500만명에 못 미쳤기 때문이다. 구글 제미나이도 이번 지정에는 포함되지 않았다.

이번 조치로 집행위가 DSA에 따라 지정한 초대형 온라인 플랫폼과 검색엔진은 모두 28개로 늘었다. 앞서 구글과 메타, 틱톡 등 대형 플랫폼이 같은 규제 대상에 올랐으며 챗GPT는 생성형 AI로는 처음 이름을 올렸다. DSA의 감독과 집행은 집행위와 각 회원국의 디지털서비스조정관이 나눠 맡는다.

집행위는 "레딧과 로블록스, 챗GPT는 이미 온라인 플랫폼과 검색엔진에 적용되는 DSA 일반 의무를 각각 준수하고 있다"고 밝혔다.