IBM, 기업의 안전한 생성 AI 활용 위한 도구 공개

왓슨x.거버넌스 정식버전 출시

“AI 거버넌스는 AI를 연구하고 잘 활용하기 위한 안전장치다. 기업은 이 거버넌스를 잘 하기 위한 플랫폼을 필요로 한다.”

이지은 한국IBM 최고기술책임자(CTO, 전무)는 14일 서울 여의도 한국IBM 사무실에서 열린 ‘IBM 왓슨x. 거버넌스’ 출시 기자간담회에서 이같이 밝혔다.

IBM 왓슨x는 ▲왓슨x.ai ▲왓슨x.데이터 ▲왓슨x.거버넌스 등 세가지 솔루션으로 구성되는 기업용 AI 플랫폼이다.

이지은 한국IBM CTO(전무)

왓슨x.ai는 AI 개발자의 머신러닝 기반 AI 구축, 실행, 배포 등을 지원하는 기업용 AI 스튜디오다. IBM 왓슨 스튜디오 기술 및 파운데이션 모델의 성능을 결합한 최신 생성형 AI 기술을 제공한다.

왓슨x.데이터는 데이터 웨어하우스의 고성능 처리 기술과 데이터 레이크의 유연성을 함께 지원하는 데이터레이크하우스다. 데이터 저장소에 중앙집중식 거버넌스 및 보안, 자동화 기술을 탑재해 데이터를 안전하게 관리한다.

새롭게 출시된 왓슨x.거버넌스는 정책 생성형, 의사 결정 권한 할당, 위험 및 투자 결정에 대한 조직의 책임 보장을 위한 자동화된 데이터 및 모델 수명 주기 솔루션으로 AI 도구 및 AI 사용에 필요한 지원장치를 구축할 수 있도록 한다.

IBM은 왓슨x.거버넌스를 통해 기업에서 AI를 비즈니스에서 활용할 때 안전하고 투명하게 규정과 정책을 준수할 수 있도록 지원한다고 밝혔다.

IBM에 따르면 많은 기업들이 대규모언어모델(LLM)을 넘어 다양한 생성형 AI와 파운데이션 모델을 비즈니스에 적용하는 것을 검토 중이다. 그러나 환각, 편향성, 오류, 지적재산권 침해, 민감정보 유출 등 비즈니스에 엄청난 손실을 끼칠 수 있는 AI 위험 요소로 인해 AI의 비즈니스 활용이 여전히 쉽지 않다.

김현정 한국IBM 컨설팅 대표는 ▲자사 데이터 및 기밀 유출, 데이터 품질 문제 ▲AI 모델에 대한 신뢰, 편향성, 투명성, 환각 문제 ▲유럽 및 북미를 시작으로 한국 정부까지 확대되고 있는 AI의 안전성과 신뢰성에 대한 법제화 및 기업에 대한 징벌적 규정 구체화 등을 AI 도입과 확장의 대표적 도전과제로 꼽았다. 그는 “이를 해결하려면 기업이 신뢰할 수 있는 AI를 구축해야 한다”고 강조했다.

김현정 대표는 “AI 기술은 2020년만 해도 기업 입장에서 투자 대비 손익 수익을 만들기 매우 어려운 기술 중에 하나였다”며 “생성 AI는 기업에게 ROI를 높일 수 있는 기술이란 점에서 고위경영진의 관심을 많이 받았다”고 설명했다.

그는 “그러나 생성 AI의 ROI도 평균적으로 8.3%밖에 되지 않는다”며 “금융 시장이 생성 AI 투자를 평가할 때 70% 이상의 ROI를 기대하지만 실상 그보다 낮은 상황”이라고 말했다.

이어 “생성 AI를 잘 하는 상위 10% 수준의 기업을 분석해보면 그 ROI가 평균보다 높은 13% 정도를 보인다”며 “생성 AI 기술도 어떻게 활용할 지 제대로 준비돼야 한다는 것을 보여주는 지표고 고민해야 할 부분이 바로 거버넌스”라고 강조했다.

김현정 한국IBM 컨설팅 대표

그는 생성 AI를 잘 활용하기 위해 거버넌스를 갖추지 않으면 실험 자체도 할 수 없다고 밝혔다.

그는 “국내 기업은 데이터 보안을 가장 많이 걱정하고, 아예 접근 자체를 통제하고 외부와 연결하지 않은 상태로 작업을 함으로써 리스크 요인을 아예 없애려 한다”며 “이거 자체가 AI 활용을 더 어렵게 만든다”고 설명했다.

그는 “기업의 데이터 보안에 대한 접근이 달라져야 하는데, 생성 AI의 데이터 유출 리스크가 너무 크다 보니 생성 AI의 가치만큼 데이터 유출에 대한 걱정도 같이 높아져 있는 상황”이라며 “실제 POC를 진행하면서 좋은 결과를 얻어도 보안 문제를 해결하지 못해 전사적 확산의 속도를 늦추는 경향이 나타나고 있다”고 말했다.

또한 생성 AI의 결과물에 대한 신뢰도, 투명성, 규제 등에 대한 우려도 크다고 했다. 그는 “모델에서 나오는 여러 답이나 결과물이 기업의 윤리를 벗어나거나 책임 문제로 이슈를 일으켰을 때 과징금뿐 아니라 브랜드 가치 손상 같은 것이 우려되고 있다”며 “규제도 AI 기술을 개발하는 기업 자율에 기대하기보다 더 책임감 있는 체계를 갖도록 한층 강화하고 있어서 대응이 필요한 시점”이라고 설명했다.

그는 “생성형 AI 기술은 급속도로 발전하고 있으나, AI 위험 요소들도 점점 커지고 있다”며 “기업들이 이를 극복하고 성공적으로 AI를 비즈니스에서 활용하기 위해 AI를 위한 데이터, AI 모델 그리고, AI 도입 및 확장 과정에서 신뢰성을 확보하는 ‘AI 거버넌스’에 대한 고려가 AI 도입 검토 시 처음부터 고려돼야 한다”고 강조했다.

이지은 전무는 기업들이 AI 위험 요소를 줄이고, AI 거버넌스를 수립할 수 있도록 지원하는 IBM 왓슨x.거버넌스와 관련 기술을 소개했다.

IBM 왓슨x.거버넌스는 AI 위험 요소를 관리하고 AI 관련 규정을 준수하는 데 필요한 솔루션을 제공하는 툴킷이다. AI 및 데이터 플랫폼인 왓슨x 플랫폼의 요소 중 하나다.

왓슨x.거버넌스는 설명 가능성, 공정성, 견고성, 투명성, 개인정보 보호를 토대로 마련돼 기업이 AI를 도입할 때 가장 고민하는 부분인 보안과 신뢰성 등에 대한 해결책을 제공할 수 있다.

이지은 전무는 IBM 왓슨x.거버넌스에서 ▲AI 생애주기 거버넌스 ▲AI 위험 요소 관리 ▲규제 준수 등 세 가지 부문의 기술을 제공한다고 설명했다.

AI 생애주기 거버넌스는 IBM, 오픈 소스 커뮤니티 및 기타 모델 제공업체의 AI 모델을 관리, 모니터링, 통제하게 한다.

AI 위험 요소 관리는 공정성, 편향성, 오류 및 새로운 LLM 매트릭스를 모니터링해 위험을 사전에 감지하고 완화한다.

규제 준수는 AI를 관리해 내부 정책, 업계 표준을 준수하고 전 세계의 향후 규제 및 정책에 대비한다.

이지은 전무는 “왓슨x.거버넌스는 다양한 LLM과 머신러닝 모델을 배포하고 관리하는 데 어려움을 겪고 있는 기업을 위한 원스톱 솔루션으로, 기업이 여러가지 AI 모델에 대한 거버넌스 프로세스를 자동화하고 모니터링하며 시정 조치를 취하는 데 필요한 도구를 가시성과 함께 제공한다”고 밝혔다.

그는 “한국을 포함한 각국 정부에서 AI 거버넌스에 대한 규제가 증가하고 있는 상황”이라며 “신뢰성과 투명성을 높일 수 있도록 돕는 왓슨x.거버넌스의 역량은 그 어느 때보다 기업에게 더욱 필수적인 요소로 자리잡게 될 것”이라고 강조했다.

현재 왓슨x.거버넌스는 한국을 포함한 전 세계에서 정식버전(GA)을 사용할 수 있다.