배경훈 "AI가 해킹 당하면 걷잡을 수 없다"...AI 안전 강조

연내 ‘국가AI 안전 생태계 조성 종합계획’ 수

“인공지능(AI)에 대한 해킹 공격이 시작되면 문제가 걷잡을 수 없다.”

배경훈 부총리 겸 과학기술정보통신부 장관은 23일 AI안전연구소에셔 열린 간담회에서 이같이 말했다. 최근 잇따른 사이버 침해사고와 같이 AI에 안전과 신뢰가 필수라는 뜻이다.

이날 간담회는 AI를 활용하여 사람의 음성, 얼굴들을 합성 또는 조작하는 딥페이크를 악용한 피해가 발생하고 있고, 다가올 AGI, AI 에이전트 시대에는 우리가 예상하지 못한 새로운 유형의 피해가 발생할 우려가 있어 현재의 AI 안전 확보 기술 현황 등을 공유하고, 정부의 정책 방향을 논의하기 위해 마련됐다.

배경훈 부총리는 이 자리에서 “우리는 AI로 산업의 진흥을 이끌어야 하고 인구감소 대응도 고민해야 한다”며 “그러려면 AI를 정말 잘 만들어야 하는데 잘 만어야 한다”고 했다.

이어, “(저도 민간에서) AI를 만드는 입장이었기 때문에 느꼈던 점이 많았다”며 “AI의 성능과 현장 적용, 운영만이 아니라 만드는 과정에서 ‘굿(Good) AI’를 내놔야 하는데 이 부분에 대한 논의는 부족한게 아니었나 생각든다”고 털어놨다.

배 부총리는 또 “우리나라가 만드는 모델이 전 세계적으로 활발히 쓰이지 않는데 우리도 글로벌 수준의 AI 기술력을 보여줄 타이밍”이라며 “이럴 때 한국 AI 모델은 성능도 좋은데 신뢰할 수 있다면 이는 국가 경쟁력이 될 것”이라고 강조했다.

간담회에서는 국가가 AI 안전과 신뢰에 대한 기준을 세워야 한다는 의견이 오갔다. 아울러 AI 진화 속도와 함께 AI 안전과 신뢰에 대한 기준이 빠르게 바뀌는 점도 고려해야 할 문제로 꼽혔다.

배 부총리는 “국민이 안심하고 사용할 수 있는 AI는 AI 공존 사회의 첫 걸음”이라며 “AI 안전이 모든 산업과 국민 생활에 녹아들 수 있도록 과기정통부가 관계부처, 유관기관 등과 함께 연내 가칭 ‘국가AI 안전 생태계 조성 종합계획’을 마련할 계획”이라고 밝혔다.