고객 마음잡기 나선 마이크로소프트…"AI 환각 현상 없앤다"

고객사의 AI 윤리·보안 관련 우려 해소, 경쟁 우위 기술력 강조

마이크로소프트가 코파일럿 등 인공지능(AI) 서비스의 본격적인 확대에 앞서 데이터 유출, 신뢰성 등 AI에 대한 우려 해결에 나섰다.

25일 벤처비트 등 외신에 따르면 마이크로소프트는 신뢰할 수 있는 AI 구축을 위한 신규 기능을 공식 홈페이지를 통해 발표했다.

이번에 선보이는 기능은 AI 활용 과정에서 보안, 안전, 개인정보 및 데이터 보호를 강화하기 위해 마련됐다. 이를 위해 다양한 보안 원칙과 기술을 활용해 환각 현상을 없애고 데이터 유출 등의 우려를 사전에 방지한다.

마이크로소프트가 신뢰할 수 있는 AI 구축을 위한 신규 기능을 선보였다(이미지=마이크로소프트)

먼저 애저 AI 스튜디오에는 개발 및 배포 과정에서 AI의 보안 위험성을 사전에 평가하는 기능을 추가했다. 이를 통해 기업은 개발한 AI 서비스 배포에 앞서 잠재적 위험을 파악하고 문제를 해결하거나 대응책을 마련하는 것이 가능하다.

특히 이 기술은 깃허브 등에서 오픈소스를 도입하거나 코드를 활용할 때 보안 취약점이 있는지 또는 정보가 유출될 가능성까지 검토해 협업과 생산성 향상에도 지원한다.

마이크로소프트 365 코파일럿은 웹에서 어떤 데이터를 검색했는지 정보의 출처와 검색 과정을 제공하는 웹 쿼리 투명성이 곧 추가될 예정이다. 이를 통해 응답 근거를 확인하고 AI의 신뢰성을 검토하고 조정할 수 있을 전망이다.

AI의 안전성을 유지하는 애저 AI 콘텐츠 세이프티에는 근거가 없거나 환각적인 내용을 식별하는 접지 관리와 함께 이를 실시간으로 수정하는 기능이 도입된다. 기업에서 즉시 환각 현상을 수정할 수 있는 만큼 대외 서비스에서도 빠른 대처가 가능한 것이 특징이다.

더불어 마이크로소프트는 온디바이스 등 클라우드 환경이 아닌 플랫폼에서도 애저 AI 콘텐츠 세이프티를 탑재해 활용할 수 있도록 지원한다.

이 밖에도 데이터가 외부에 노출되지 않고 안전하게 처리될 수 있도록 애저 오픈AI서비스에서 보안 추론 기능과 애저 컨피덴셜VM을 선보인다.

애저 컨피덴셜VM은 고성능 처리가 요구되는 데이터를 안전하게 처리하기 위한 서비스다. 엔비디아 H100 텐서 코어 GPU 기반의 시스템에서 고객사 데이터만 암호화되어 처리되며 이 과정에서 추가 허가 없는 외부 접근은 모두 차단된다.

마이크로소프트의 이번 기능 발표는 AI 도입 확대와 함께 늘어나는 고객사의 AI 윤리와 보안에 대한 우려를 해소하고, 경쟁 우위를 보여주기 위한 것이란 분석이다.

마이크로소프트 타케시 누모토 부사장 겸 최고 마케팅 책임자는 "우리는 고객이 안전하고 보안이 유지되며 개인적인 AI를 사용할 수 있도록 돕는 데 집중하고 있다"며 "보안, 안전 및 개인 정보 보호를 개선하는 기능은 기회를 확대하고, 신뢰를 얻고, 기본적 권리를 보호하고, 지속 가능성을 발전시키려는 우리의 사명에 필수적"이라고 강조했다.