마이크로소프트의 AI 안전 자율규제 약속 6가지

마이크로소프트, 구글, 앤스로픽, 오픈AI 등 4개 회사가 모여 인공지능(AI) 안전 표준을 개발하기로 한 가운데, 마이크로소프트가 6가지 추가 약속을 제시하며 분위기 잡기에 나섰다.

브래드 스미스 마이크로소프트 부회장은 최근 자신의 링크드인 페이지에 미국 백악관의 자발적 AI 약속에 대한 지원을 표명하며 책임있는 AI 관행을 더욱 확장하기 위한 6가지 추가 약속을 밝혔다.

그는 "사회에 도움되는 방식으로 AI를 활용하려면 고급 AI가 안전하고 신뢰할 수 있어야 한다"며 "백악관이 제시한 약속은 이런 노력의 중요한 단계이며, 이 목표를 실현하게 위해 업계 동료, 정부, 시민 사회, 학계 등과 협력하길 기대한다"고 적었다.

브래드 스미스 마이크로소프트 부회장 겸 총괄사장

그는 이어 "마이크로소프트의 책임있는 AI 사례를 더욱 확장하기 위해 수행한 6가지 추가 약속을 강조하고자 한다"며 "고객뿐 아니라 사회 전체에 이익이 되는 더 신뢰할 수 있는 AI 시스템을 제공하는데 도움을 줄 것이라 믿는다"고 강조했다.

백악관은 지난 21일 AI 제품에 안전 장치를 마련하도록 7개 기업과 협의했다. 백악관은 생성 AI로 만들어진 콘텐츠에 워터마크를 붙이고, 기술의 결함과 위험을 외부에 공개 보고하는 등의 자율 구제안을 민간업계에 제안했다. 이에 구글, 마이크로소프트, 오픈AI, 앤스로픽 등은 '프론티어모델포럼(FMF)'을 결성해 자발적인 AI 안전 원칙을 수립하고 자율규제안을 마련하겠다고 답했다.

마이크로소프트는 국가 AI 연구 리소스의 파일럿을 지원하고, 고위험 AI 시스템 국가 등록 설립 등을 밝혔다. 또 미국표준기술연구소(NIST)의 AI 위험 관리 프레임워크를 구현하고, 고유한 AI 위험에 적응하는 사이버 보안 관행을 채택하는데 지원하겠다고 했다.

NIST AI 위험 관리 프레임워크는 AI 관련 위험 관리 지침을 제공하고, AI 시스템이 안전 및 신뢰성에 필요한 표준을 충족하도록 보장한다. 마이크로소프는 이 프레임워크를 고객 계약에 포함시켜가겠다고 했다.

그는 책임성과 안정성 관행을 고위험 모델과 애플리케이션에 채택하겠다고 했다. 모델과 애플리케이션을 사람의 제어와 함께 안전하고 보안성 있게 유지하도록 설계하는 것이다. 마이크로소프트의 서비스, 디자인 프로세스 등을 위한 중요한 수단으로 작용하고, 상시모니터링과 피드백, 평가 등으로 AI 시스템을 관리하게 한다.

마이크로소프트는 고도의 역량을 가진 모델의 안전한 개발과 배포를 규제하는 라이선스 체계의 개발을 지원하기로 했다.

또한 고위험 금융 서비스에 구현된 동일한 개념을 기반으로 AI 서비스에 대한 확장된 '고객 알기' 개념의 개발을 지원하겠다고 밝혔다. AI 모델이 민감한 용도로 배포되는 클라우드 운영자를 포함해 더 깊이 파고들수록 더 중요할 것이라고 그는 설명했다.

마이크로소프트는 그동안 책임있는 AI 구현을 위한 6가지 핵심 원칙을 세워 제품 개발에 적용해왔다. 책임감, 포용성, 안정성 및 안전성, 공정성, 투명성, 개인정보보호 및 보안 등으로 나뉜다. 브래드 스미스 부회장의 추가 약속도 자사의 원칙과 궤를 같이 한다.

브래드 스미스 부회장은 "AI 기술을 만드는 회사는 그것이 안전하고, 보안이 유지되며, 인간의 통제하에 유지되도록 할 책임을 가졌다"며 "이 이니셔티브는 AI를 책임감있게 발전시키고 문제를 해결해 모든 인류에게 혜택을 줄 수 있도록 기술 부문을 하나로 모으는 중요한 단계"라고 강조했다.