앨버니지 호주 총리 "오픈AI 에이전트가 호주 정부 웹사이트 해킹"

사고 발생 약 3개월 만에 통보…환자 기록·개인정보 접근 정황은 없어

오픈AI의 인공지능(AI) 에이전트가 내부 평가 과정에서 호주 정부 웹사이트에 무단으로 접근한 사실이 드러났다. 오픈AI가 사고 발생 약 3개월 만에 호주 정부에 이를 알리면서 늑장 통보 논란도 불거졌다.

23일(현지시간) 블룸버그통신에 따르면 앤서니 앨버니지 호주 총리는 미국 뉴욕에서 샘 알트먼 오픈AI 최고경영자(CEO)를 만나 이번 사고에 대해 “극도의 우려”를 전달했다.

해킹은 지난 6월 18일 호주의 공공 의료보험 체계인 메디케어 웹사이트에서 발생했다. 오픈AI는 지난 8월 침해 사실을 발견했지만 호주 정부는 이달 10일에야 이 사실을 통보받았다. 당시 담당 기관에 직접 연락하지 않고 호주 정부 기관인 서비스 오스트레일리아의 대표 이메일로 관련 내용이 전달됐다.

샘 알트먼 오픈AI CEO (사진=씨넷)

유엔총회 참석차 뉴욕을 방문한 앨버니지 총리는 기자회견에서 “회사가 무슨 일이 발생했는지 정부에 알리는 데 지나치게 오랜 시간이 걸린 데 대해 실망을 표했다”며 “통보가 이뤄진 방식 역시 받아들일 수 없었다”고 말했다.

오픈AI는 내부 평가 과정에서 자사 AI 모델이 호주에 관한 질문에 답하기 위해 통계자료를 검색하다가 해당 사이트에 접근했다고 설명했다. 오픈AI 대변인은 “그 과정에서 모델이 우리가 의도하지 않은 행동을 했다”고 설명했다.

오픈AI는 사고를 발견한 8월부터 호주 정부에 알린 9월까지 정확한 사실관계와 접근한 정보의 범위를 조사했다고 해명했다.

현재까지 환자 기록이나 개인정보에 접근한 정황은 발견되지 않았다. 오픈AI에 따르면 AI 모델이 접근한 자료에는 종합된 보건 통계와 내부 파일명이 포함됐다.

호주 정부는 호주신호정보국의 지원을 받아 포렌식 조사를 진행하고 있다. 앨버니지 총리는 개인정보 접근 여부를 포함한 조사가 아직 끝나지 않았다며 AI를 관리할 적절한 절차가 마련돼 있다는 확신이 필요하다고 강조했다.

그는 “알트먼 CEO도 자사의 절차가 충분한 수준이 아니었다는 점을 인정했다”며 추가 논의를 이어가기로 했다고 말했다.

앨버니지 총리의 이번 발언은 오픈AI가 미국에 다른 국가들과 함께 국제 AI 기준 마련을 주도해달라고 촉구하는 가운데 나왔다.

앞서 이날 알트먼 CEO와 다리오 아모데이 앤스로픽 CEO는 뉴욕에서 열린 유엔 안전보장이사회 회의에 참석해 각국 지도자들에게 AI 위험에 공동 대응할 것을 촉구했다. 회의에서는 AI 기술이 인류의 존립에 미칠 수 있는 위험이 주요 의제로 다뤄졌다.