AI 도입 바빴던 기업들, 이젠 '안전한 AI 활용' 챙긴다

AI 활용 과정서 리스크 관리가 핵심 과제로 부상

생성형 AI 발전으로 기업들은 업무 생산성 향상 효과를 체감하고 있지만, 동시에 민감 정보 유출과 데이터 통제에 대한 우려도 커지고 있다. 

실제로 지난 3월 중국 정부는 AI 에이전트 ‘오픈클로’가 업무 기밀이나 개인정보를 유출할 수 있다는 이유로 사용을 제한했다. 지난해 11월에는 이미지 기업 ‘게티이미지’가 AI 이미지 생성 기업 ‘스태빌리티 AI’를 상대로 데이터 무단 활용과 저작권 침해 소송을 제기하기도 했다.

올 2월 삼성SDS가 실시한 2026년 사이버 보안 위협 트렌드 설문조사에 따르면, 응답자의 81.2%가 2026년 기업에 가장 영향을 미칠 사이버 보안 위협으로 AI 기반 보안 위협을 꼽았다. 민감 정보 유출, 무단 작업 등 생성형 AI의 오용 또는 악용을 가장 심각한 위험 요인으로 인식한 것이다. 기업들이 앞다퉈 AI 전환(AX)을 추진하는 가운데, AI 활용 과정에서는 리스크 관리가 핵심 과제로 부상하고 있다.

기업들이 앞다퉈 AI 전환(AX)을 추진하는 가운데, AI 활용 과정에서는 리스크 관리가 핵심 과제로 부상하고 있다. (출처=클립아트코리아)

기업용 AI의 필수 조건…‘보안과 신뢰성’ 확보

기업들의 관심도 ‘AI 도입’을 넘어 ‘안전한 AI 활용’으로 이동하는 추세다. 초기에는 업무 효율화에 집중했다면, 최근에는 ‘기업 내부 자산을 보호하고 법적 규제를 준수할 수 있는 환경을 갖추고 있는가’가 도입 기준으로 자리 잡고 있다. 특히 법률·계약, 콘텐츠 등 데이터 유출이나 무단 사용이 곧 법적 분쟁으로 이어질 수 있는 분야에서는 그 중요성이 더욱 크다.

글로벌 기업들은 기업 고객들의 우려를 겨냥한 기업용 AI 솔루션을 선보이고 있다. 리걸AI 플랫폼 하비는 보안 정책 관련 주요 인증을 다수 취득하며 엔터프라이즈급 보안 체계를 마련했다. 어도비의 기업용 AI 영상 제작 솔루션 파이어플라이는 지식재산권(IP) 문제에서 안전한 데이터만을 학습해 상업적 활용이 가능한 영상을 제작하도록 설계됐다.

이런 흐름에 맞춰 국내에서도 보안과 거버넌스를 강화한 기업용 AI 솔루션이 주목받는다. 데이터 관리 체계와 리스크 감지 기능을 고도화해 AI 활용 과정에서 발생할 수 있는 법적 분쟁을 최소화하는 데 초점을 맞추는 모습이다.

기업용 계약 AI의 핵심은 ‘통제 가능한 환경’

BHSN 앨리비 엔터프라이즈

최근 변호사법 개정으로 변호사와 의뢰인 사이의 법률 자문 대화를 보호하는 비밀 유지권(ACP, Attorney-Client Privilege)이 내년 시행을 앞두고 있다. 그러나 이런 보호 장치는 AI와의 대화에는 적용되지 않는다. 직원이 AI에 입력한 질문 한 줄도 향후 분쟁이나 수사 과정에서 기업의 내부 입장을 드러내는 자료로 활용될 수 있다는 우려가 나오는 이유다.

이 때문에 기업들은 법률 AI 도입 시 ‘데이터가 외부로 유출되지 않는 구조인가’를 중요한 선택 기준으로 삼고 있다. 과거에는 서버 위치나 암호화 등 기술적 보안을 중심으로 검토했다면, 최근에는 ▲데이터의 외부 학습 활용 여부 ▲프롬프트 로그 보존 여부 ▲사용 이력 및 감사 로그 관리 방식 등 AI 통제 체계 전반을 살피는 방향으로 기준이 구체화되고 있다.

리걸AI 전문 기업 BHSN의 올인원 리걸AI 비즈니스 플랫폼 '앨리비'는 이런 수요에 대응해 기업 내부 데이터를 학습에 활용하지 않는 RAG(검색증강생성) 기반 폐쇄형 아키텍처를 채택했다. 국제표준화기구(ISO)의 정보보호 인증(ISO/IEC 27001)과 클라우드 보안 인증(ISO/IEC 27017)도 취득해 글로벌 수준의 보안 신뢰도를 확보했다.

기업용 표준 서비스형 소프트웨어(SaaS)를 기본으로 제공하되, 고객사 환경에 따라 프라이빗 클라우드 및 온프레미스 방식도 지원한다. 이를 통해 CJ제일제당· 한화솔루션 등 국내 주요 대기업이 요구하는 수준의 보안 환경을 제공하고 있다. ▲SSO(통합 인증 체계) ▲법무팀 전용 대시보드 ▲권한 관리 ▲감사 로그 ▲자체 데이터 레이어 등을 통해 법무팀이 직접 통제할 수 있는 구조를 구축한 것이 특징이다.

BHSN 관계자는 “법률 영역에서 AI를 적절한 통제 없이 활용할 경우, 민감 정보 유출로 인해 분쟁이나 규제 대응 과정에서 기업 전체에 큰 리스크가 발생할 수 있다”며 “중요한 것은 AI 사용 자체를 제한하는 것이 아니라, 통제된 환경 안에서 처리할 수 있도록 기업용 리걸 AI 체계를 마련하는 것”이라고 설명했다.

데이터는 물론 브랜드 이미지까지 보호

트웰브랩스

영상은 텍스트·이미지·음성 등 다양한 정보가 결합된 데이터로, 민감한 기업 자산이 포함될 가능성이 높아 체계적인 관리가 요구되는 분야다. 실제로 2024년에는 넷플릭스 공개 예정작이 일부 유출되는 사고가 발생하는 등 데이터 관리 문제가 기업의 손실과 법적 분쟁으로 이어지는 사례가 나타나면서 보안이 핵심 과제로 부상하고 있다.

이런 수요에 대응해 기업용 영상 인텔리전스 플랫폼을 제공하는 영상 AI 기업 ‘트웰브랩스’는 2024년 SOC 2(시스템 및 조직 통제) 타입 2 인증을 획득했다. 엄격한 보안 기준을 충족함으로써 기업의 영상 데이터를 무단 접근과 침해 위험으로부터 보호한다.

플랫폼에 저장된 모든 정보는 기업 고객이 직접 통제할 수 있도록 ▲사용자별 접근 제어 ▲접근 로그 관리 ▲계정 인증 등 세밀한 권한 관리 체계를 제공하며, 데이터 전송 및 저장 과정에서는 암호화 기술을 적용한다. 주요 보안 사고 발생 시 신속 대응을 위한 전담 대응 체계도 운영 중이다.

트웰브랩스는 영상의 맥락을 이해하는 AI 기술을 기반으로 정책 위반 요소, 민감 콘텐츠 등 기업 리스크로 이어질 수 있는 콘텐츠를 탐지·분석한다. 이를 통해 방대한 영상 데이터를 효율적으로 활용하면서도 브랜드 이미지를 보호할 수 있다.