백악관 AI 챗봇이 깃허브에 그대로?…급조된 'AI 행정' 논란

미국 트럼프 행정부가 연방정부 전반에 인공지능(AI)을 도입하려던 프로젝트가 깃허브(GitHub)를 통해 외부에 유출됐다. 'AI.정부(AI.gov)'라는 이름의 이 프로젝트는 오는 7월 4일 독립기념일에 맞춰 공식 발표될 예정이었던 정부 통합 AI 챗봇 플랫폼이다.

허술한 보안 관리에 더해 AI.gov 개발 코드의 완성도에 대한 비판도 제기됐다. 정치 일정에 맞춘 성급한 추진으로 미완성되거나 불안정한 코드가 포함된 사실이 확인됐기 때문이다.

11일 404미디어 등 외신에 따르면 미국 연방조달청(GSA) 산하 기술변혁서비스(TTS)가 개발 중인 AI.gov 프로젝트가 깃허브에서 외부에 공개된 상태로 운영된 것으로 나타났다.

이후 정부는 관련 저장소를 비공개로 전환했지만 주요 구조와 정책 방향, 일부 코드 및 문서는 이미 백업 사이트와 기술 커뮤니티를 통해 공유된 상태다.

AI.gov는 연방정부 각 부처와 기관이 사용하는 다양한 AI 모델을 통합해 행정 효율을 극대화하려는 중앙 AI 플랫폼이다. 이 프로젝트는 TTS가 주도하며 개발 총괄은 전 테슬라 엔지니어 출신인 토마스 셰드 이사가 맡고 있다. 그는 GSA 내부를 스타트업처럼 운영하겠다는 비전을 제시하며 민간 기술을 활용한 행정 혁신을 강조해왔다.

AI.gov는 기본적으로 정부 민원과 행정 정보를 처리하는 AI 챗봇 기능을 포함하며 오픈AI의 GPT, 구글 제미나이, 앤스로픽 클로드, 메타 라마, AWS 베드록 등 주요 AI 모델과 연계 가능한 API 허브를 구성하고 있다.

각 기관의 AI 도입 현황을 시각화하는 콘솔 시스템과 계약 문서 해석 및 반복 행정 업무를 자동화하는 기능도 함께 탑재해 전반적인 업무 효율 향상을 목표로 하고 있다.

이 프로젝트는 트럼프 대통령과 일론 머스크가 협력해 출범시킨 '정부 효율성 부서(DOGE)'의 전략 과제 중 하나로 추진되고 있다. DOGE는 관료주의, 중복 절차, 과잉 인력 문제 등을 AI 등 첨단기술로 해결하려는 신형 행정 조직으로 AI.gov는 그 핵심 파일럿 프로젝트로 설계됐다.

하지만 프로젝트가 공개되며 소스코드가 확인되자 개발 커뮤니티 안팎에서 우려의 목소리도 제기됐다. 프로젝트 일정을 독립기념일 발표라는 정치적 기한에 맞추기 위해 기능 구현을 서두른 정황이 곳곳에서 확인됐기 때문이다.

실제 유출된 코드에서는 미완성 모듈, 주석 처리된 기능, 부분 작동에 그친 콘솔 등이 발견됐으며 전체 시스템 완성도에 대한 지적이 이어졌다.

특히 AI가 계약서나 행정 문서를 요약하고 해석한 결과를 정책 판단 또는 계약 검토에 직접 반영하는 구조에 대해서는 기술적·법적 리스크가 크다는 비판이 제기됐다. 수억 달러 규모의 연방 계약처럼 민감한 문서를 AI가 단독 처리할 경우 정보 누락이나 해석 오류로 인한 법적 분쟁 가능성이 존재하기 때문이다.

정부 내부 기술 담당자들은 "계약서나 행정 명령 해석을 AI에 맡기는 것은 법적·정책적으로 매우 위험할 수 있다"며 "실사용에 앞서 충분한 기술 검토와 책임 구조 마련이 반드시 선행돼야 한다"고 경고했다.

AI.gov 프로젝트가 외부로 노출된 경위도 논란이 됐다. 깃허브는 소스코드와 문서를 관리하고 공동 개발할 수 있도록 지원하는 대표적인 코드 호스팅 플랫폼이다. 기업과 정부 기관도 협업과 효율적 개발을 위해 깃허브를 이용하지만 이번 프로젝트의 경우 정부 개발자가 저장소를 '공개(public)' 설정으로 운영하면서 누구나 접근할 수 있는 상태로 유지됐고 이로 인해 정보 유출이 발생했다.

유출된 저장소에서는 웹 인터페이스, API 구성 방식, 콘솔 기능 설계뿐 아니라 AI 모델 통합 방식과 개발 중인 시제품의 일부 내용까지 확인할 수 있었던 것으로 알려졌다. 이후 저장소는 비공개로 전환됐지만 이미 복사된 자료는 외부 백업 사이트와 커뮤니티를 통해 확산됐다.