시스코, 직원 9만명에 '개인 AI 에이전트' 공급…업무 자동화 지원

직원별 권한 따라 사내 데이터 실시간 연결…‘정책 서버’로 데이터 접근·외부 학습 차단

시스코가 사내 업무 자동화를 위해 전 세계 임직원에게 인공지능(AI) 에이전트를 공급했다.

20일 월스트리트저널(WSJ) 등 외신에 따르면 시스코는 이번 주 전 세계 직원 9만명에게 개인 AI 에이전트 '마이에이전트'를 제공했다. 

마이에이전트는 직원마다 개별적으로 배정돼 이메일 관리부터 시장 정보 분석 등 다양한 업무를 지원한다. 해당 에이전트는 기업 내부 시스템과 연결됐다. 직원 요청에 따라 800개 넘는 하위 에이전트를 호출할 수 있다. 하위 에이전트는 매출 전망치 편차를 추적하고 이상 징후가 발견되면 자동으로 알림을 보내는 등 구체적인 업무를 수행할 수 있다. 

시스코가 사내 업무 자동화를 위해 전 세계 임직원에게 인공지능(AI) 에이전트를 공급했다. (사진=시스코)

직원들은 이메일 요약과 스팸 분류부터 답변 초안 작성 등에 개인 에이전트를 활용할 수 있다. 시장 뉴스를 요약·분석하고 주식시장 움직임을 예측하는 업무에도 활용 가능하다. 

각 에이전트는 기존에 설정된 사용자 권한 기반으로 보안이 적용된 기업용 커넥터를 통해 해당 직원에게 필요한 정보를 실시간으로 불러온다. 직원은 데스크톱과 모바일 앱뿐 아니라 시스코 화상회의 소프트웨어(SW) '웹엑스'에서도 개별 에이전트와 대화할 수 있다.

시스코는 AI 에이전트의 자율적인 업무 수행 범위도 제한했다고 밝혔다. 각 에이전트는 자신에게 배정된 직원과만 상호작용하며 다른 직원이나 에이전트와 직접 소통하지 않는다. 외부에 영향을 미치는 작업을 실행하려면 반드시 담당 직원의 명시적인 승인을 받아야 한다.

회사는 데이터 접근 권한을 통제하는 별도의 '정책 서버'도 구축했다. 이를 통해 에이전트가 데이터셋을 삭제하는 등 작업을 차단했다. 시스코 내부 데이터가 외부 기업의 AI 모델 학습에 사용되지 않도록 막아놓기도 했다. 

전 직원이 상시 사용하는 AI 에이전트에서 발생할 수 있는 비용을 낮추기 위한 체계도 마련했다. 시스코는 2024년 인수한 스플렁크의 토큰 모니터링 기능을 활용해 AI 사용량을 관리하고 있다.

시스코는 업무에 따라 사용할 AI 모델을 자동으로 결정하는 '지능형 라우터'도 자체 구축했다. 이 시스템은 요청을 분석해 업무 수행 능력과 비용 효율성을 고려한 AI 모델로 자동 연결한다. 자체 데이터센터에 구축한 그래픽처리장치(GPU)를 활용해 오픈 웨이트 AI 모델도 직접 운영한다.

실제 시스코 AI 요청 중 약 50~60%는 오픈 웨이트 모델로 처리된다. 20~30%는 SW 자동화를 활용하며 외부 파운데이션 모델까지 전달되는 요청은 일부에 그친다. 전 직원에게 AI 에이전트를 제공하면서 발생할 수 있는 토큰과 컴퓨팅 비용을 자체 모델과 자동화 기술로 분산하는 구조다.

시스코가 전 직원에게 AI 에이전트를 제공한 배경에는 사내에서 사용하던 여러 AI 도구를 하나로 통합하려는 목적도 있다. 그동안 직원들이 일상 업무에 AI를 활용하도록 에이전트 적용 범위를 확대해 왔다.

티마야 수바이야 시스코 운영 부문 수석부사장은 "AI가 인간을 완전히 대체할 수 있다고는 생각하지 않는다"며 "AI를 활용해 사람의 역량을 매우 효과적으로 강화하는 것은 가능하다"고 밝혔다.