S2W, AI 서비스 취약점 진단 사업 확대

OWASP 발표 '톱 10 LLM 취약' 기본...산업별 특성 고려 추가 항목 적용

에스투더블유(S2W)가 에이전틱 AI(Agentic AI) 시대를 맞아 기업의 안전한 AI 도입과 활용을 지원하기 위한 AI 서비스 취약점 진단 사업을 확대한다.

이번 사업은 다크웹과 텔레그램, 해킹 포럼 등에서 수집한 실제 대규모 언어모델(LLM) 공격 기법을 점검 과정에 즉시 적용할 수 있는 S2W 연구팀의 오펜시브 보안 전문성을 기반으로 진행한다. 소프트웨어 및 웹 애플리케이션 보안 분야의 국제 비영리 단체 ‘OWASP(Open Web application Security Project)’가 제정한 LLM 보안 취약점 기준 ‘OWASP Top 10 for LLM’을 기본으로, 산업별 특수성을 고려한 추가 항목들을 적용해 도메인 적합성을 확보한다.

이를 통해 S2W는 모델, 프롬프트, 데이터, 에이전트 등 AI 서비스를 구성하는 다양한 요소들에 내재된 보안상의 취약점을 정밀 진단, 공격자의 악용 가능성을 다면적으로 검증하고 구체적인 개선 방안까지 함께 제시, 기업들이 AI 서비스 보안성에 대한 내부 점검 체계를 정립할 수 있도록 지원한다.

30일 회사에 따르면, 이번 AI 서비스 취약점 진단 사업 확대 배경에는 AI가 기업의 핵심 업무 시스템과 서비스 전반에 빠르게 도입, 기존 보안 체계만으로는 대응하기 어려운 새로운 위협이 증가하고 있다는 판단에서다. 최근 과학기술정보통신부와 한국인터넷진흥원(KISA)이 ‘AI 보안 레드티밍(Red Teaming) 가이드’를 발간하고 공격자 관점의 보안 검증 절차와 방법론을 제시한 것 역시 AI 서비스 안전성을 사전에 점검하고 위험을 미연에 방지하려는 산업계의 요구가 본격화되고 있음을 보여준다.

아울러 S2W는 이번 사업 개시와 동시에 최근 국내 대형 금융사의 AI 서비스 취약점 진단 사업을 수주했다고 밝혔다. 금융권의 엄격한 보안 기준과 규제 환경을 고려한 취약점 진단을 수행 중으로, 향후 AI 도입이 확산되는 다양한 산업으로 진출 범위를 넓혀가며 각 산업의 AI 활용 방식과 서비스 구조, 보안 요구사항 등을 종합적으로 반영한 취약점 진단을 제공한다는 방침이다.

양종헌 S2W 통합분석실장은 “AI 서비스의 잠재적 위험을 사전에 찾아내기 위해서는 AI를 활용한 정교한 점검과 공격자 관점의 전문적인 검증이 함께 이뤄져야 한다”면서 “S2W는 자체 개발한 AI 기반 도구에 오펜시브 보안 전문가의 노하우를 결합, 기업이 AI 서비스를 보다 안전하게 도입하고 운영할 수 있게 실효성 높은 진단 서비스를 제공하고 있다”고 밝혔다.