"AI 보안, 새로운 기준 세운다"…S2W, 기업 맞춤형 '시큐리티 가드레일' 공개

'SAIP' 솔루션에 적용…정보 보호·악성 공격 대응 통해 LLM 보안 기능 강화

S2W가 기업 맞춤형 생성형 인공지능(AI) 플랫폼에 보안 강화 기술을 도입했다. 고객사 내부 데이터를 효과적으로 보호하고 AI 활용의 신뢰성을 제고하기 위해서다.

S2W는 자사 생성형 AI 플랫폼 'SAIP'에 '시큐리티 가드레일(Security Guardrail)' 기술을 적용해 데이터 유출 방지와 악의적 공격 대응 등 보안성 기능을 향상시켰다고 19일 밝혔다. 

지난 3월 출시된 'SAIP'는 거대 언어 모델(LLM)과 지식그래프 기술을 접목해 특정 기업과 산업에 특화된 답변과 데이터를 제공한다. 이를 통해 데이터 운용 효율성을 높이는 동시에 데이터 유출 및 악의적 조작 등 기존 AI 사용의 문제점을 해결할 수 있도록 고객사를 돕고 있다.

S2W가 'SAIP'에 ‘시큐리티 가드레일' 신기술을 적용했다. (사진=S2W)

이 플랫폼은 구축 후에도 취약점 분석 전문 조직이 작성한 보고서를 통해 지속적인 안전성 점검을 진행한다. 이를 통해 S2W는 공공기관과 민간기업의 신뢰를 얻으며 다양한 협력 논의를 이어가고 있다.

새로 적용되는 '시큐리티 가드레일'은 AI 모델 학습 과정에서 데이터 검증 및 민감 정보 제거를 통해 정보 유출 위험을 최소화한다. 또 프롬프트 인젝션 공격 방지와 더불어 모델 응답의 정확성과 윤리성을 검증해 비윤리적이거나 범죄 관련 답변을 차단한다. 이 기술을 적용함으로써 'SAIP'의 안전성이 보다 향상될 전망이다.

서상덕 S2W 대표는 "AI 안전성과 신뢰성 문제는 전 세계적인 화두"라며 "'시큐리티 가드레일' 등 기술 고도화를 통해 고객이 AI와 데이터를 안전하게 활용할 수 있는 환경을 구축해 나갈 것"이라고 밝혔다.