AI 보안 전문기업 에임인텔리전스(AIM Intelligence, 대표 유상윤)는 자사의 연구 논문 ‘XL-SafetyBench’가 ‘뉴립스(NeurIPS) 2026’에 채택됐다고 19일 밝혔다.
NeurIPS(신경정보처리시스템학회)는 AI 분야 세계 최고 권위 학회 중 하나다. 올해 40회를 맞았다. 오는 12월 호주 시드니와 미국 애틀랜타, 프랑스 파리에서 각각 열린다. 이번 논문은 평가·데이터셋 트랙(evaluations & Datasets Track)에 채택됐다. 이 트랙 논문은 학회 논문집에 수록되고 메인 트랙 논문과 함께 발표된다.
'XL-SafetyBench'는 한국·미국·일본·인도를 포함한 10개국의 법과 제도, 문화를 반영해 LLM(거대언어모델)의 안전성을 평가하는 벤치마크다. 각국의 현지 언어로 만든 5500개 문항으로 구성됐다. 그 나라에만 있는 범죄·사기 수법으로 만든 공격에 모델이 유해한 답변을 내놓는지 보는 '현지 리스크 트랙'과, 평범한 요청 속에 숨긴 문화 금기를 모델이 스스로 알아채는지 보는 '문화적 민감성 트랙'으로 나뉜다. 한국의 전세사기 수법을 연구기관 교수의 공문처럼 꾸며 묻거나, 프랑스에서 죽음을 상징하는 국화를 감사 선물로 추천하는지 살피는 식이다. 모든 문항은 국가별 원어민 전문가 2명이 검수했다.
이번 연구는 AI 안전성 평가가 영어권에 치우쳐 있다는 문제의식에서 출발했다. 논문이 인용한 조사에 따르면 안전성 연구 약 300편 가운데 90% 이상이 비영어권을 전혀 다루지 않았다.
연구팀이 LLM 37종을 평가한 결과, 글로벌 상용 모델 10종에서는 현지화된 공격 시나리오의 평균 44.8%가 유해 응답을 유도했다. 공격 성공률은 미국(영어)이 34.5%로 가장 낮았고, 한국(52.8%)과 UAE(57.0%)는 50%를 넘었다. 문화 금기도 직접 물으면 83.2%를 알아챘지만 일상 요청 속에 숨기면 49.9%로 떨어졌으며, 인도와 튀르키예에서는 40%를 밑돌았다. 영어권 기준으로 만든 평가만으로는 각 나라에서 AI가 안전한지 확인할 수 없다는 점을 수치로 보여준 것이다.
한국 관련 결과도 눈에 띈다. 한국은 글로벌 상용 모델의 공격 성공률이 10개국 중 두 번째로 높았다. 벤치마크에는 전세사기, 불법 대부업 앱, 병역기피 브로커 등 한국에 특화된 위험 25개 항목이 반영됐다. 에임인텔리전스는 이 결과가 국내 기업과 기관이 AI를 도입할 때 한국 기준의 검증이 필요하다는 근거가 될 것으로 보고 있다.
또한 이러한 검증에는 XL-SafetyBench를 바로 활용할 수 있다. 논문은 아카이브(arXiv)에, 데이터셋과 코드는 허깅페이스와 깃허브에 공개돼 있다. 연구에는 마이크로소프트, 한국 인공지능안전연구소, KT 등 10개 기관 17명이 참여했다.
관련기사
- 에임인텔리전스, 오픈AI와 사이버보안 협력 확대2026.10.23
- 에임인텔리전스, UAE 사이버보안 기업 ‘CPX’와 전략 협력2026.10.13
- LG, 주요 계열사 사장 유임...1인 부회장 체제 유지2026.11.19
- AI 창작·글로벌 게임 한자리에…‘지스타 2026’ 부산서 개막2026.11.19
에임인텔리전스는 UAE와 싱가포르 등 해외 사업을 넓히는 과정에서 XL-SafetyBench를 현지 AI 안전성 검증에 활용할 계획이다.
이번 연구를 이끈 최다솔 에임인텔리전스 수석연구원은 "공격을 잘 막는 모델이라고 해서 그 나라의 문화적 맥락까지 알아채는 것은 아니다"며 "각국의 법과 제도, 문화에 맞춘 평가 기준을 마련해 기업과 기관이 AI를 현지 기준으로 검증할 수 있도록 연구를 이어가겠다"고 말했다.








