명령하면 AI가 컴퓨터 작업 척척…"가성비 낮고 보안 위험"

[김미정의 SW키트]⑦ 순간적 오류에 취약·비효율적 텍스트 인식에 비용↑

밀키트는 손질된 식재료와 양념을 알맞게 담은 간편식입니다. 누구나 밀키트만 있으면 별도 과정 없이 편리하게 맛있는 식사를 할 수 있습니다. [김미정의 SW키트]도 마찬가지입니다. 누구나 매일 쏟아지는 소프트웨어(SW) 기사를 [김미정의 SW키트]로 한눈에 볼 수 있습니다. SW 분야에서 가장 주목받는 인공지능(AI), 보안, 클라우드 관련 이야기를 이해하기 쉽고 맛있게 보도하겠습니다. [편집자주]

사람 대신 컴퓨터에서 웹 서핑부터 예약, 문서 작성을 대신 처리해 주는 생성형 인공지능(AI)이 높은 보안 위험과 낮은 가성비로 지적받았다. 생성형 AI가 모든 업무 과정을 관리할 뿐 아니라 이때 발생하는 텍스트 이해·처리 과정이 비효율적이라는 이유에서다.

11일 업계에 따르면 최근 미국 빅테크가 공개한 이런 생성형 AI 기능에 보안 이슈와 비용 문제가 끊이지 않을 것이란 전망이 이어지고 있다. 겉으로 보기에 완벽한 '자비스' 역할을 하는 것처럼 보이지만 실상 오류투성이에 돈 먹는 하마 역할을 할 것이란 의미다.

앤트로픽은 이달 초 사람 대신 웹 서핑을 비롯한 호텔 예약, 자료 조사, 문서 작성 등 업무를 명령어 한 줄 만으로 처리해 주는 AI 시스템 '컴퓨터 유즈'를 공개했다. (사진=앤트로픽)

앤트로픽은 이달 초 사람 대신 웹 서핑을 비롯한 호텔 예약, 자료 조사, 문서 작성 등 업무를 명령어 한 줄 만으로 처리해 주는 AI 시스템 '컴퓨터 유즈'를 공개했다. 현재 앤트로픽 클로드에 탑재됐다.

클로드는 사람 대신 반복적이고 지루한 업무를 컴퓨터 유즈로 자동화할 수 있다. 기존에는 사용자가 과정마다 별도 프롬프트를 입력해 다음 명령을 생성형 AI에 줬다면, 컴퓨터 유즈는 추가 명령 없이 작업을 끝까지 수행할 수 있다.

예를 들어 사용자가 클로드에게 컴퓨터에 흩어져 있는 데이터를 모아 특정 공급업체 양식을 작성해 달라고 요청하면, 클로드는 화면 스크린샷을 통해 필요한 정보를 찾는다. 우선 고객관계관리(CRM) 시스템에 접속해 해당 업체를 검색한 뒤 데이터를 자동으로 옮겨 양식 작성을 수행한다. 이 과정에서는 사용자의 추가 명령어가 필요 없다.

구글도 지난 7일 AI 프로토타입 '자비스'를 크롬 웹 스토어에 일시적으로 공개했다. 자비스는 사용자가 브라우저를 통해 필요한 작업을 자동으로 처리하게 돕는 AI다. 앤트로픽의 컴퓨터 유즈와 비슷한 서비스다.

"사람 눈·손 필요…토큰 비용 천정부지"

업계에서는 해당 기능에 보안 이슈가 끊이지 않을 것이란 분석이 나왔다. 

업계에서는 해당 기능에 보안 이슈가 끊이지 않을 것이란 분석이 나왔다. (사진=오픈AI 달리)

생성형 AI가 컴퓨터상에서 직접 마우스 이동·클릭을 비롯한 웹사이트 이동, 문서 관리 등을 직접 통제하기 때문이다. 이에 갑작스런 오류와 팝업창 대응을 적절히 수행하지 못할 것이란 우려다.

최근 시연에서도 컴퓨터 유즈가 사용자 의도와 다른 웹사이트에 접속하거나 관련 없는 시스템을 작동시키는 사례까지 등장했다. 생성형 AI가 사용자 명령어에 맞게 코딩을 시연하다가 갑자기 미국 옐로스톤 국립공원 사진을 둘러보기 시작한 것이 대표 예시다.

앤트로픽의 컴퓨터 유즈 테스트 버전을 이용해 본 한 개발자는 "생성형 AI가 모든 컴퓨터 시스템을 장악하는 셈"이라며 "사람이 AI의 모든 움직임을 지속적으로 체크해야위험을 피할 수 있을 것"이라고 지디넷코리아에 밝혔다. 또 "컴퓨터 유즈는 갑작스럽게 나타나는 오류나 팝업창을 신속히 처리하지도 못한 상태"라고 덧붙였다.

업계에서는 컴퓨터 유즈가 상용화돼도 기업이 이를 적극적으로 활용할지 미지수라고 내다봤다. 가장 큰 걸림돌은 작동 과정서 발생하는 토큰 비용이다.

보통 컴퓨터 유즈는 사람 눈처럼 컴퓨터 화면을 자연스럽게 인식할 수 없다. 실시간으로 캡처본을 찍어내는 식으로 콘텐츠를 볼 수 있다. 스크린샷을 통해 화면 내 문자를 인식하고 정보를 찾을 수 있다.

이 개발자는 "컴퓨터 유즈는 스크린샷으로 정보 인식·처리에 생기는 모든 텍스트를 토큰 단위로 처리한다"며 "이 과정에서 불필요한 토큰 비용이 급격히 증가한다"고 지적했다. 또 "화면 인식 중 불필요한 캡처·중복 스크린샷도 걸러내지 못한다"며 "가성비가 낮다"고 덧붙였다.