"AI 해커가 온다"...보안 그루의 경고

"지금까지 해킹은 전문 지식, 시간, 독창성, 운이 필요한 인간의 활동이었다. 그러나 인공지능(AI)이 해킹을 시작하면 해킹 속도, 규모, 범위 등 모든 것이 바뀔 것이다. 그들은 외계인처럼 행동할 것이다."

저명한 암호학자이자 보안 기술 그루인 브루스 슈나이어가 지난 8일(현지시간) 미국 샌프란시스코에서 열린 세계 최대 보안 컨퍼런스 'RSA컨퍼런스 2022'에서 AI해커의 등장을 예고하며 이같이 말했다고 인포시큐리티 등 보안 전문 외신들이 전했다.

슈나이어는 이날 컨퍼런스 기조연설 강연자로 무대에 올라 "AI가 인류를 해킹할 것이며, 그 방식은 이전에 우리가 경험해왔던 무엇과도 다를 것"이라고 전망했다.

그는 다소 과장해서 이야기 했다는 점을 인정하면서도 "이런 상상은 공상 과학소설의 영역이 아니고, 어떤 중요한 기술적 진보가 추가로 요구되는 것도 아니다"고 단언했다. 인간의 능력을 뛰어넘는 AI해커의 등장이 충분이 가능하다는 얘기다.

슈나이어는 해킹을 "시스템에서 허용되지만, 설계자가 예상하지 못하고 원하지 않는 것”이라고 정의했다. "해킹은 시스템의 규칙을 따르지만 시스템의 의도를 전복시킨다"고 부연했다.

그는 AI가 해킹을 할 수 있으며, 이미 AI해커의 등장이 시작됐다고 봤다. "아직 그렇게 좋지는 않지만 점점 좋아지고 있으며 결국 AI가 인간을 능가할 것"이라는 게 그의 전망이다. "AI가 시스템을 해킹하도록 지시받는 경우, 또 AI가 자연스럽고 우연히 시스템을 해킹하는 경우" 두 가지 모두 가능하다고 했다.

AI 해커가 두려운 이유는 인간과 다른 방식으로 문제에 접근하기 때문이다. 그동안 경험하지 못했던 해킹 공격이 이뤄질 수 있다.

슈나이어는 "AI는 인간이 하는 방식으로 문제를 해결하지 않는다"며 "인간보다 더 많은 가능성을 고려하고, 인간이 하지 않는 방식을 찾아 낸다. AI는 인간처럼 가치, 규범, 의미, 맥락의 관점에서 생각하지 않는다"고 말했다.

또 "지금까지 해킹은 전문성, 시간, 창의성, 운이 필요한 인간 활동이었으나 AI가 해킹을 시작하면 해킹 속도, 규모, 범위 등 모든 것이 바뀔 것이다. 그들은 외계인처럼 행동할 것이다"고 경고했다.

슈나이어는 AI 해킹이 가장 먼저 위협이 될 분야로 '금융'을 꼽으며 "금융 시스템은 알고리즘적으로 해킹 가능하게 설계됐기 때문"이라고 설명했다.

AI 발전이 보안에 위협이 되는 것 만은 아니라고 슈나이어는 이날 강조했다. 반대로 보안에도 AI 기술을 적용할 수 있기 때문이다.

그는 "동일한 기술을 해킹 방어에도 사용할 수 있다"며 "코드에서 취약점을 찾는 AI를 개발할 수 있다"고 설명했다. 또 "소프트웨어 취약점이라는 것이 이제 과거의 유물이 되는 미래를 상상해 볼 수 있다"고도 덧붙였다.