LLM 시대, 전문가가 바라보는 국방 위협 요소는?

제 8차 국방데이터 혁신 네트워크 토론회, 26일 오후 2시 개최

대규모 언어모델(LLM) 활용이 본격화되는 추세에 따라 국방 분야에서의 위험성과 대응 방안을 논의하는 토론회가 개최한다.

12일 한국국방연구원(KIDA) 산하 국방데이터연구단과 바른 과학기술 사회 실현을 위한 국민연합(과실연) AI미래포럼은 '제 8차 국방데이터 혁신 네트워크-토크' 행사를 개최한다고 밝혔다.

한국IT서비스학회와 모두의연구소, 지디넷코리아, 한국경제가 후원하는 국방데이터 혁신 네트워크-토크는 국방 분야의 데이터와 AI 기술 사용을 토론하고 혁신적인 솔루션 활용 방안을 모색하기 위해 마련됐다.

제 8차 국방데이터 혁신 네트워크-토크

이를 위해 합성 데이터, AI의 안전한 사용, AI 신뢰성 평가 방안 등 다양한 주제에 대해 전문가들이 발표하고 패널 토의를 진행한다. 또한, 생성형 AI의 군사적 적용 가능성과 관련된 기술적 진보에 대해서도 논의가 이루어지며, 국방 분야에서 AI 기술의 적용을 위한 다양한 산업계와 학계의 협력을 논의한다.

26일 오후 2시 서울 강남 모두의연구소 강남캠퍼스에서 진행하는 8차 토론회는 'LLM 보안'을 주제로 진행한다. 이에 따라 윤두식 이로운앤컴퍼니 대표가 프롬프트 엔지니어링을  통한 LLM 탈옥(Jailbreaking) 위협과 방어방안)을 주제로 AI의 위험성을 발표한다.

이어 SK쉴도스 이호석 팀장이 '사용자, 개발자 모두 알아야 하는 LLM 해킹 트랜드 및 보안전략'이라는 내용으로 AI시대의 보안 전략 방안을 제시한다.

전문가 발표 이후에는 LIG 넥스원 진정훈 수석 연구원, 한화시스템 김유신 상무, 세종대학교 강지원 교수, 국가보안기술연구소 류승진 실장 등이 참석하는 패널토의가 이어질 예정이다.