'6차 국방데이터 혁신 네트워크' 행사 18일 열려

국방데이터연구단-과실연 AI미래포럼 주최...안전한 생성AI 사용 위한 가드레일 등 다뤄

 한국국방연구원(KIDA) 산하 국방데이터연구단과 과실연 AI미래포럼이 공동 주최한 '제 6차 국방데이터 혁신 네트워크-토크' 행사가 18일 오후 2시~6시 서울 강남역 인근 모두의연구소 강남캠퍼스에서 열렸다. 행사는 한국IT서비스학회와 모두의연구소, 지디넷코리아, 한국경제가 후원했다.

발제는 '안전한 생성형 AI 사용을 위한 가드레일 방식 및 사례'를 주제로 유상윤 에임 인텔리전스(AIM Intelligene) 대표와 '생성AI 신뢰성 평가 방안 및 사례'를 주제로 이찬수 셀렉트스타 리더가 각각 했다.

유 대표는 "결국 모든 AI 제품( Product)은 잠재적으로 위험하다. 생성AI를 안전하게 사용하려면 별도의 안전장치(가드레일)가 필요하다"면서 현재의 가드레일을 소개하고 이의 한계점을 설명했다. 유 대표가 설립한 에임인텔리전스는 안전한 AI 활용을 위한 레드티밍 및 가드레일 솔루션 개발사로 SKT와 하나은행이 공동으로 지원하는 AI스타트업 액셀러레이터 2기 기업이다. '2024년 생성형 AI 레드팀 챌린지'상을 수상했다. 네이버 D2SF 지원사업을 수행하고 있다. 유 대표는 서울대 전기정보공학부를 졸업하고 현재 같은 대학 전기정보공학부 석박사통합과정 3년차에 있다. 기술 상용화 장애(bottleneck)는 보안과 안전성에 있다는 마음에서 AIM인텔리전스를 설립했다. 정확성, 비용성 등에서 우수한 가드레일 솔루션을 개발하고 있다.

국방데이터연구단과 과실연 AI미래포럼이 공동 주최한 '2024년 제 6차 국방데이터 혁신 네트워크-토크' 행사가 18일 오후 서울 강남역 인근 모두의연구소 강남캠퍼스에서 열렸다.

유상윤 에임 인텔리전스 대표가 발표를 하고 있다.

이차수 셀렉트스타 리더가 발표를 하고 있다.

유 대표에 이어 발제를 한 이 리더는 생성AI 모델과 기반 서비스들을 평가하는 방법과 사례를 구체적으로 설명하며 AI 신뢰성 평가의 중요성을 강조했다. 셀렉트스타는 데이터 센트릭 AI전문기업이다. AI개발과 도입을 위한 데이터 설계 컨설팅과 구축, LLM 검증을 주력사업으로 하고 있다. LLM 신뢰성 벤치마크 데이터를 국내 처음으로 구축한 바 있다.

유 대표와 이 리더 발제에 이어 '국방 분야 학습데이터 오염과 데이터 변조 탐지 방안'을 주제로 산학연군 패널토의도 열렸다. 패널토의에는 한화시스템 최병인 팀장, 박영진 크라우드웍스 실장, 최종현 서울대 교수, 나일용 국방기술품질원 팀장, 정재훈 해병대사 과장이 참여했다. 나 팀장과 정 과장은 온라인으로 참석했다.

패널들이 패널토의를 하고 있다.