AI 안전망 넓히는 오픈AI…에이전트 보안 강화

오픈AI가 인공지능(AI) 에이전트 업무 범위를 넓히는 동시에 보안과 데이터 보호 장치도 강화했다

오픈AI는 29일(현지시간) 미국 샌프란시스코에서 열린 개발자 행사 데브데이 2026에서 코덱스 시큐리티 클라우드 기능을 강화하고 새로운 기업용 데이터 보호 체계 '프라이빗 인텔리전스'를 공개했다.

코덱스 시큐리티 클라우드는 기업 코드를 지속적으로 검사해 보안 취약점을 찾고 실제 위험 여부를 확인한 뒤 수정안까지 만든다. 프라이빗 인텔리전스는 기업이 민감한 정보를 외부에 노출하지 않고 오픈AI의 고성능 모델과 안전 기능을 사용할 수 있도록 한다.

오픈AI가 데브데이 2026에서 코덱스 시큐리티 클라우드의 강화된 기능을 공개했다. 기업 코드를 지속적으로 검사해 보안 취약점을 찾고 수정안까지 제시한다. (사진=오픈AI 유튜브 캡처)

이번 발표는 AI 안전 문제가 다시 부각되는 가운데 나왔다. 오픈AI는 다음 달 선보일 예정이던 GPT-6.1 아스트라가 내부 안전성과 정렬 기준을 충족하지 못하자 출시를 보류했다. 내부 평가에서는 모델이 자신의 행동을 정확하게 알리지 않거나 사람의 감독을 피하려는 문제가 나타난 것으로 전해졌다.

오픈AI는 AI 에이전트가 장시간 업무를 수행하고 여러 시스템에 접근할수록 행동 범위와 데이터 접근을 통제하는 장치가 중요해진다고 설명했다.

샘 알트먼 오픈AI 최고경영자(CEO)는 "에이전트가 안전하게 작동하고 데이터를 보호할 수 있어야 한다"고 말했다.

취약점 찾고 수정안까지…코덱스 시큐리티 클라우드

코덱스 시큐리티 클라우드는 개발자가 작성한 코드를 계속 살펴보면서 해킹에 악용될 수 있는 취약점을 찾는 서비스다. 문제가 있을 가능성을 알리는 데 그치지 않고 실제 위험한 문제인지 검증한 뒤 개발자가 확인할 수 있는 수정안까지 제시한다.

깃허브에 저장된 코드를 연결하면 새롭게 추가되거나 변경된 부분을 지속적으로 검사한다. 정해진 시간마다 자동 검사를 실행할 수 있으며 같은 문제를 여러 차례 찾아내는 중복 결과도 걸러낸다.

취약점을 발견하면 해당 코드가 실제 공격에 이용될 수 있는지도 확인한다. 이후 문제를 고칠 수 있는 코드를 만들고 시험한 뒤 개발자가 검토할 수 있도록 제시한다.

사람이 최종 판단을 내리는 구조는 유지했다. 어떤 문제를 조사하고 어떤 수정안을 실제 코드에 반영할지는 개발자나 보안 담당자가 결정한다.

코덱스 시큐리티 클라우드는 지난 3월 연구 프리뷰로 처음 공개됐다. 이후 3만 개가 넘는 코드베이스에서 3000만 건 이상 코드 변경을 검사했다. 이 가운데 7만 건이 넘는 문제는 사람이 수정 완료를 확인했고 50만 건이 넘는 문제는 시스템이 자동으로 수정 완료된 것으로 판정했다고 오픈AI는 밝혔다.

이번 데브데이에서는 자동 중복 제거와 예약 검사 기능을 추가하고 이용 화면도 새롭게 개편했다. 보안팀이 취약점을 발견하는 데서 끝나지 않고 실제 수정까지 이어지는 시간을 줄이는 데 초점을 맞췄다.

알트먼 CEO는 "코덱스 시큐리티 클라우드는 클라우드 환경에서 지속적으로 취약점을 찾고 검증된 수정안을 준비한다"고 설명했다.

기업 데이터는 보호…'프라이빗 인텔리전스'

오픈AI는 기업이 민감한 정보를 AI에 맡길 때 데이터 노출을 줄이기 위한 프라이빗 인텔리전스도 공개했다. 금융 정보나 의료 데이터, 회사 내부 문서처럼 외부에 공개하기 어려운 정보를 다루는 기업을 위한 기능이다.

여기에는 데이터를 저장하지 않으면서 AI 사용 과정의 위험을 검사하는 '프라이빗 세이프티 프로세싱'이 포함된다. 데이터 비저장 방식인 '제로 데이터 리텐션(ZDR)'과 함께 사용하면 이용자가 입력한 내용과 AI의 답변을 오픈AI가 보관하지 않은 상태에서도 자동 안전 검사를 할 수 있다.