[기고] AI와 네트워크···피지컬AI가 놓치고 있는 것

 필자는 석사로 네트워크를 전공했다. 인공지능(AI) 분야로 박사를 수료했다. 그러다보니, 내 눈엔 당연한 것이 다른 사람들 눈엔 당연하지 않았다는 것을 알게됐고, 이런 글을 쓰게 됐다.

AI하고 네트워크(컴퓨터 네트워크)는 AI의 핵심 기술이 뉴럴 네트워크(Neural network)란 것 빼곤 큰 연관이 없어보인다. Neural network라는 기술이 사실은 엄청 큰 행렬(Matrix) 연산으로 neuron의 network을 구현하기 때문에 AI를 아무리 뜯어 보아도 네트워크가 보이진 않는다. 말 그대로 neural network에서 네트워크는 개념일 뿐이고 통신을 위한 기술은 아니다.

AI를 컴퓨터 네트워크에 적용하려는 시도는 학계에서 많이 있었다. 통신 패턴을 AI로 분석하거나 패킷을 AI로 분석해 좀 더 보안성을 강화하려는 여러 노력이 있었다. 하지만 네트워크는 굉장히 기계적이기 때문에 룰(Rule) 기반의 기술들이 여전히 잘 동작한다. 네트워크를 위한 AI는 보안 이라는 분야를 제외하고는 사실상 불모지나 다름 없다.

반면 AI를 위한 네트워크는 이야기가 전혀 다르다. 조금 과장해서 이야기하면 네트워크가 없이는 AI가 학습도 못하고 추론도 못한다. AI는 컴퓨터 네트워크, 그 것도 아주 정교하게 설계된 컴퓨터 네트워크가 있어야 돌아간다.

김성민 TSN랩 대표

 AI 모델이 학습을 할 때 여러 GPU를 묶어 마치 하나의 GPU인 것처럼 보이게 하기 위해선 위에 보이는 것과 같은 케이블을 사용해 GPU를 연결한다. NVLink라는 기술은 GPU가 서로 고속으로 통신하며 거대한 행렬을 주고받으며 눈 깜짝할 사이에 마치 하나의 GPU인 것처럼 동기화를 한다. LLM과 같은 거대한 모델을 학습하기 위해 반드시 필요한 기술이다.

AI 모델은 추론할 때도 네트워크를 적극적으로 사용한다. 대부분의 AI 모델이 인터넷을 통해 추론 결과를 전송하는데 이 때 짧으면 0.5초, 길게는 1~2초 정도의 시간이 소요된다. 하지만 초 단위로 전송하는게 아니라 마이크로 초(μs) 단위로 데이터를 전송해야 하는 경우도 있다. 바로 요즘 크게 부각된 피지컬AI(Physical AI)다.

피지컬AI는 자동차, 철도, 로봇과 같은 곳에 AI를 적용하는 기술을 의미한다. 대부분 시간에 민감한 시스템이다. 자동차는 앞에 있는 대상을 RGB 카메라로 촬영해 정해진 시간 내에 데이터를 NPU(Neural Processing Unit로 전송해야 한다. NPU가 앞에 있는 대상이 사람이라고 판단할 경우 정해진 시간 내에 브레이크에 정지 신호를 보내야 한다. 이렇듯 정해진 시간 내에, 정해진 양의 데이터를, 정해진 장소까지 전송하는 네트워크를 '실시간 네트워크'라고 한다.

AI가 적용된 실시간 네트워크의 가장 좋은 예는 미국 테슬라(Tesla) 에서 제안한 '조널 아키텍처(Zonal Architecture)'다. 센서에서 생성한 대량의 데이터를 한번에 처리할 수 없기 때문에 존(Zone)을 나눠 1차 처리를 하고 센트럴 컨트롤러(Central Controller)가 데이터를 모아 종합적인 판단을 한다. 

조널(Zonal) 아키텍처

 존(Zone) 간 통신은 '대용량'과 '실시간'으로 처리 돼야 한다. 이 때문에 미국 전기전자기술자협회(IEEE, Institute of Electrical and Electronics Engineers)에서 최근 TSN(Time Sensitive-Networking)이 Zone 안에서 구성되는 에지(Edge) 네트워크는 IEEE에서 표준화한 CAN(Controller Area Network)의 대안 기술인 10Base-T1S를 사용하는 추세다.

피지컬AI 시대를 맞아 TSN과 10Base-T1S가 주목받는 이유는 두 기술 모두 이더넷 기반의 실시간 통신 표준이기 때문이다. TSN은 인터넷에서 가장 많이 사용하는 통신 기술인 이더넷에 '실시간' 통신 기능을 추가한 표준으로 대용량 실시간 통신에 적합한 기술이다.

여러개의 RGB 카메라 그리고 레이더와 라이더로부터 들어오는 데이터를 합치면 초당 1Gbits을 훨씬 넘는 양의 데이터가 생성된다. 이렇게 생성된 데이터는 '정해진 시간 내에(실시간으로)' 전송 돼야 하기 때문에 TSN 밖에는 선택할 수 있는 네트워크 기술이 없다.

이렇게 TSN을 이용해 시스템의 백본(Backbone)망을 구성하면, 자연스럽게 이더넷 기반의 저용량(10Mbps) 실시간 통신 기술인 10Base-T1S를 이용해 에찌(edge) 망을 구성하는 것이 자연스럽게 된다. '10Base-T1S'는 단 2개의 선만으로 10Mbps급 통신망을 구성할 수 있고 적게는 8개, 많게는 16개까지 노드를 데이지 체인 형태로 연결할 수 있어 휴머노이드의 손과 관절을 구성하는 용도로도 적합하다.

피지컬AI와 같이 AI가 접목되는 시스템들이 점점 많아지면서 대용량 실시간 네트워크 기술에 대한 수요도 같이 높아지고 있다. AI가 기술을 주도하면서 이더넷 기술에 익숙한 개발자들에게 TSN 그리고 10Base-T1S도 자연스럽게 받아들여지고 있다. 피지컬AI를 잘 하려면 뉴럴 네트워크(neural network)도 잘 해야 하지만 리얼 타임 네트워크(real-time network)도 알아야 한다.

*본 칼럼 내용은 본지 편집방향과 다를 수 있습니다.