IAAE, 안전한 AI 기술 방향 제시한다

26일 서초구 드림플러스서 ‘2026 AI Safety Compass 컨퍼런스’ 개최

국제인공지능윤리협회(이하 IAAE)는 26일 오전 10시 서울 서초구 드림플러스 강남에서 '2026 AI Safety Compass'(이하 2026 ASC)를 개최한다고 밝혔다.

이날 행사에는 AI안전연구소, 한국인터넷진흥원(KISA) 등 공공 분야와 포티투마루, AI 스페라, 데이븐 AI, 에임인텔리전스 등 민간 영역 기업들이 참석해 ‘AI 에이전트의 보안과 기업의 신뢰 구현 전략’을 주제로 심도있는 논의를 나눈다.

지난 2024년 첫선을 보인 ASC는 매년 ‘지속가능한 AI’를 위한 논의를 활발하게 이어오며 올해로 3회째를 맞이했다. ASC는 안전하고 신뢰할 수 있는 AI 기술의 핵심 소통 플랫폼으로서 공공과 민간을 잇고, 국가적 입법이나 주요 정책 수립에 있어 실효성 있는 방향성을 제시하고자 시작됐다. 지난 2025 ASC에는 업계 내 100여 명이 넘는 민·관·학계 전문가들이 참석해 자리를 빛냈다.

2026 ASC 포스터

올해 2026 ASC에서는 ‘AI 에이전트의 보안과 기업의 신뢰 구현 전략’을 핵심 의제로 설정하고 업계 전문가들의 인사이트를 들어본다. 최근 전 세계적으로 인간의 업무를 자율적으로 수행하는 AI 에이전트 기술 도입이 가속화되고 있으나, 자율적 판단과 실행이라는 기술적 특성상 시스템 오작동이나 사이버 침해 사고에 대한 우려도 교차하고 있다. 특히 빈번하게 발생하는 정보 유출 및 첨단 기술 악용 사례는 AI 에이전트 상용화에 대한 시장의 불안감을 가중시키는 요인이다. 이에 따라 이번 컨퍼런스는 지속 가능한 AI 생태계 조성을 위해 공공 영역의 안전한 AI 활용 방향성을 소개하는 한편, 현장에서 AI 신뢰성과 보안 과제를 성공적으로 해결해 나가는 기업들의 실증 사례를 공유할 예정이다.

공공 부문에서는 AI안전연구소 김명주 소장이 본격적인 에이전틱 AI 시대에 필요한 안전성과 관련해 ‘Towards Safe & Secure Agent AI’를 주제로 발표한다. KISA AI신기술대응팀 이재형 팀장은 에이전틱 AI 위협에 대비한 AI 정책 연구를 소개한다.

민간 부문에서는 포티투마루 김동환 대표가 AI LLM42가 신뢰성, 안전성, 윤리성을 확보하기 위해 노력해 온 여정을 공유한다. AI 스페라의 강병탁 대표는 미토스 이후 누구나 공격자가 되는 시대에 기업의 대응법을 제시한다. 데이븐 AI의 김연지 CMO는 AI 에이전트 시대, 창작 AI 플랫폼이 어떻게 신뢰를 설계해야 하는지에 대해, 이어 에임인텔리전스의 이한울 부사장은 에이전틱 AI가 놓인 새로운 공격 표면과 전략을 소개하고, 이를 방어하기 위한 기업의 방안들을 발표할 예정이다.

전창배 IAAE 이사장은 “자율형 AI 기술인 'AI 에이전트'가 속속 등장하는 가운데, AI 에이전트가 자칫 오판하거나 보안과 해킹 문제 등이 일어날 수 있는 만큼 기업과 공공에서 AI 에이전트를 안전하게 도입하는 것이 중요한 상황”이라며 “이번 컨퍼런스는 AI 에이전트의 신뢰성 문제에 대해 공공과 민간이 함께 실질적인 해법을 도출하는 의미 있는 자리가 될 것”이라고 말했다.

IAAE 부회장사이자 테크 전문 PR 컨설팅 기업 팀쿠키 임기태 부대표는 “올해로 3회째 맞이하는 ASC 행사에서 신뢰할 수 있는 AI에 대해 업계 전문가들과 함께 논의해보고자 한다”며 “글로벌 스탠더드에 부합하는 AI 윤리 기준을 정립하고, 국내 기업들이 이를 바탕으로 글로벌 무대에서 차별화된 경쟁력을 갖출 수 있는 대표 논의의 장으로 만들겠다”고 밝혔다.