[김승주 칼럼] AI 시대, 다시 망을 끊는 것이 답인가

인공지능(AI) 발전으로 해킹에 대한 우려가 더욱 커지고 있다. 과거에는 상당한 전문지식과 경험이 있어야 가능했던 취약점 분석이나 악성코드 제작도 이제는 AI 도움을 받을 수 있다. AI가 해킹 진입장벽을 낮추면서 이른바 '해킹의 대중화'가 현실이 되고 있는 것이다.

그러다 보니 한동안 완화했던 물리적 망분리를 다시 강화해야 한다는 주장도 나오기 시작한다. 인터넷에 연결돼 있으니 해커가 들어오는 것 아니냐, 그렇다면 예전처럼 회사의 업무망을 아예 인터넷과 끊어버리는 것이 가장 확실한 방법 아니냐는 것이다.

사실 틀린 이야기는 아니다. AI로 인해 해킹이 대중화되는 시대에 가장 확실한 대응책은 어쩌면 회사나 정부부처의 모든 컴퓨터를 인터넷과 끊는 것인지도 모른다. 외부와 연결되지 않으면 외부에서 들어올 수 있는 길도 사라진다. 일종의 '디지털 쇄국정책'을 펴는 것이다. AI가 필요하면 우리가 직접 AI를 개발하거나 공개된 오픈소스 AI를 가져와 내부에 설치해 사용하면 된다. 중요한 데이터가 외부로 나갈 걱정도 줄어든다.

보안만 생각한다면 상당히 매력적인 방법이다. 하지만 이러한 디지털 쇄국정책이 제대로 작동하려면 적어도 다음 두 가지 전제가 충족해야 한다.

첫째, 조직 안에 무엇이 있고 어떻게 연결돼 있는지를 빠짐없이 알고 있어야 한다. 보안에서는 이를 '자산 식별(Asset Identification)'이라고 한다.

말로는 폐쇄망이라고 해도 실제 현장은 그렇게 단순하지 않다. 수많은 서버와 PC를 운영하다 보면, 업무상 필요에 따라 새로운 연결이 생기고 임시로 서버를 설치하기도 한다. 처음에는 서로 분리돼 있던 망도 시간이 지나면서 유지보수나 개발, 관리 등의 이유로 연결될 수 있다. 조직이 공식적으로 파악하지 못한 시스템, 이른바 '섀도우 IT(Shadow IT)'도 생겨난다.

지난해 있었던 통신사 해킹 사고는 이 문제가 얼마나 현실적인지를 잘 보여줬다. 폐쇄돼 있다고 생각했던 망도 실제 조사 과정에서 서로 연결된 부분이 확인됐고, 조직이 제대로 파악하지 못했던 개인정보 보관용 임시 서버 2대도 발견됐다.

그런데 AI 시대에는 이러한 문제가 더욱 심각해질 수 있다. 마이크로소프트(Microsoft)와 링크드인(LinkedIn)이 발표한 '2024 워크 트렌드 인덱스(2024 Work Trend Index)'에 따르면 전 세계 지식근로자의 75%가 이미 업무에 AI를 사용하고 있었으며, AI 사용자 가운데 78%는 회사가 허락한 AI가 아니라 자신들이 임의로 선택한 AI를 업무에 사용하고 있었다. 이른바 'BYOAI(Bring Your Own AI)'다. 단순 계산하면 전체 지식근로자의 약 58.5%가 통제되지 않은 AI를 업무에 사용하고 있는 셈이다. 결국 조직이 "우리 회사에서는 이 AI만 사용한다"고 정한다고 해서 직원들이 실제로 그렇게 사용하는 것은 아니라는 얘기다.

여기서 우리가 알 수 있는 것은 두 가지다. 하나는 망을 분리해 놓는 것과 실제로 분리된 상태를 계속 유지하는 것은 전혀 다른 문제라는 것이다. 또 하나는 수많은 서버와 PC, 그리고 직원들이 사용하는 AI까지 빠짐없이 파악하고 새롭게 생겨나는 예외를 지속적으로 통제하는 것이 생각보다 훨씬 어렵다는 것이다.

둘째, 우리 조직 안에서 사용하는 AI가 세계 최고 수준이어야 한다.

인터넷을 끊고 외부 AI도 사용하지 않는다면 필요한 AI는 결국 우리가 직접 개발하거나 오픈소스를 가져와 내부에 설치해야 한다. 문제는 그렇게 사용하는 AI의 성능이 세계 최고 수준의 상용 AI보다 떨어질 경우다. AI는 이제 단순히 질문에 답해주는 도구가 아니다. 소프트웨어를 만들고, 자료를 분석하고, 문서를 작성하고, 연구개발을 지원하는 등 기업과 정부의 생산성을 좌우하는 핵심 도구가 됐다. 더 좋은 AI를 사용할 수 있느냐 없느냐가 개인의 업무 효율을 넘어 기업과 국가의 경쟁력 차이로 이어질 가능성이 커지고 있다.

최근 삼성전자의 AI 전략 변화도 이런 현실을 잘 보여준다. 삼성전자는 보안 문제 때문에 한동안 외부 생성형 AI 사용을 강하게 제한하고 자체 개발한 AI를 사용해 왔다. 그러나 최근에는 전략을 바꿨다. 자체 AI를 포기한 것이 아니라, 내부의 기밀 정보를 다루는 업무에는 자체 AI(삼성 가우스)를 활용하면서, 그 외의 업무에는 챗GPT(ChatGPT), 제미나이(Gemini), 클로드(Claude) 등 외부의 우수한 AI도 함께 사용할 수 있도록 한 것이다. 세계적인 기술기업조차 모든 AI를 직접 만들어 쓰는 자급자족이 아니라, 보호해야 할 것은 보호하면서 외부의 우수한 기술은 적극적으로 활용하는 방식을 선택하고 있는 것이다.

그렇다면 우리가 가야 할 방향도 명확하다.

첫째, 과거의 획일적인 물리적 망분리로 돌아갈 것이 아니라 하루라도 빨리 N2SF(National Network Security FRAMEwork, 국가망 보안체계)로 전환해야 한다.

N2SF는 물리적 망분리를 없애자는 것이 아니다. 국가안보와 직결되는 기밀정보는 지금처럼 외부와 강하게 분리하되, 그렇지 않은 정보와 시스템에까지 일률적으로 물리적 망분리를 적용하지는 말자는 것이다. 즉, 정보의 중요도에 따라 보호 수준을 달리하고, 기밀이 아닌 정보와 시스템은 인터넷과 연결된 상태에서도 안전하게 사용할 수 있도록 하자는 것이 핵심이다.

우리가 목표로 해야 하는 것은 '인터넷에 연결하지 않아서 안전한 나라'가 아니라 '인터넷에 연결돼 있어도 안전한 나라'여야 한다. 그러려면 문을 없애서 도둑을 막는 것이 아니라, 문이 있어도 함부로 들어오지 못하게 하고, 들어오더라도 빨리 발견해 피해가 번지지 않도록 만드는 능력을 키워야 한다. 결국 중요한 것은 망을 끊는 능력이 아니라, 연결된 상태에서도 안전을 지킬 수 있는 능력이다.

둘째, 국가안보와 직접 관련되지 않은 영역에서는 기업과 정부기관이 가장 성능 좋은 AI와 소프트웨어를 선택할 수 있게 해야 한다.

AI 선택 시 국산이냐 외산이냐, 자체 개발이냐 상용 제품이냐가 첫 번째 판단 기준이 돼서는 안 된다. 성능과 비용, 개인정보 보호 수준 등을 종합적으로 따져 가장 적합한 제품을 선택할 수 있어야 한다. 필요하다면 여러 AI를 함께 사용하고, 더 좋은 것이 등장하면 바꿀 수도 있어야 한다.

물론 국가안보와 직결되는 핵심 분야는 다르다. 외부와의 공급이 끊기거나 특정 기술을 사용할 수 없게 되는 최악의 상황에 대비해 우리 스스로 사용할 수 있는 AI와 소프트웨어 기술도 확보할 필요가 있다. 그러나 스스로 살아남을 수 있는 능력을 갖추는 것과 모든 것을 스스로 만들어 쓰는 것은 전혀 다른 이야기다. 우리 자동차 산업을 지키기 위해 외국 자동차를 모두 수입 금지하지 않듯이, 우리 AI 산업을 키우기 위해 외국 AI를 사용하지 못하게 하는 것이 반드시 답은 아니다. 오히려 세계 최고의 기술과 경쟁하고 그것을 활용하면서 우리의 기술도 함께 발전시켜야 한다.

인터넷을 끊으면 해킹당할 가능성을 줄일 수 있다. 외산 AI를 금지하면 데이터가 외부 AI 사업자에게 넘어갈 위험도 줄일 수 있다. 모든 소프트웨어와 AI를 직접 만들어 사용하면 외부에 대한 의존성도 줄어든다. 하나하나만 놓고 보면 모두 그럴듯하다. 그러나 그렇게 위험을 하나씩 없애다 보면 마지막에는 '가장 안전하지만 가장 경쟁력 없는 시스템'만이 남을 수도 있다.