16단 HBM3E 첫선...SK는 어떤 AI 기술을 갖췄나

‘SK AI 서밋 2024’서 AI 접목한 인프라, 솔루션, 플랫폼 등 공개

4일 서울 삼성동 코엑스에서 개막한 ‘SK AI 서밋 2024’. SK그룹의 ICT 회사들과 협력사가 모인 자리에서 SK하이닉스가 개발하고 있는 16단 HBM3E이 처음으로 공개됐다.

SK AI 서밋 전시관에서 첫선을 보인 16단 HBM3E는 방대한 양의 데이터 처리에 유리해 AI 시대 필수 요소로 꼽힌다. HBM은 여러 개의 D램을 수직으로 적층해 대역폭을 크게 확장한 메모리로, 대역폭이 확장되면 데이터를 더 많이 주고받을 수 있다.

SK AI 서밋 전시관을 둘러보고 있는 강도현 차관

SK하이닉스 관계자는 "AI 관련해서 어떤 하드웨어로 돌릴 것이냐 예전처럼 CPU로 돌릴 것이냐 아니면 GPU로 돌릴 것이냐 이런 차이가 있는데 '이제 AI는 GPU로 돌려야 한다'는게 정성으로 자리 잡은 상태"라며 "그렇기에 GPU를 잘 만드는 회사 엔비디아랑 저희랑 협력해서 AI 칩을 만들고 있다"고 설명했다.

SK하이닉스는 엔비디아에 최선단 HBM을 공급하고 있다. HBM3E까지 상용화에 성공했으며, 다음 세대인 HBM4는 내년 하반기 중에 양산 공급하는 것이 목표다. 당초 2026년 양산을 계획에서 SK하이닉스는 엔비디아의 요청에 따라 개발 일정에 속도를 내고 있다.

16단 HBM3E

또한 현장에는 에너지 효율을 위해 반도체 유리기판 개발도 공개됐다. 유리기판은 에너지 효율성으로 플라스틱보다 빠르게 열을 방출해 열에 강하다는 장점이 있다. 이에 SKC는 미국 유리기판 자회사 앱솔릭스와 함께 유리기판을 개발하고 있다.

AI 인프라 영역에는 SK텔레콤이 개발한 '텔코 엣지 AI', '텔코LLM' 등이 마련됐다. SK텔레콤은 통신 산업에 맞는 특화 텔코 LLM을 보유하고 있다. 또한 글로벌 통신사들의 AI 분야 협력체 '글로벌 텔코 AI 얼라이언스(GTAA)'도 참여하고 있다.

회사 관계자는 "(구축한 텔코 LLM은) SK텔레콤 고객센터가 먼저 사용한다"며 "요금을 부과 및 수집하고 통신 서비스를 제공하고, 장애가 있으면 대응하는 등의 정도라서 언어만 번역해서 텔코 얼라이언스 멤버들에게 제공을 할 예정이다. 그 이후에 글로벌 비즈니스를 전개해 나갈 계획이다"고 설명했다.

AI 플랫폼 영역에서는 'AI개인비서', 'AI 4 비전 셋톱박스', 'AI 기반 소재 품질 사전 예측 시스템' 등의 AI서비스를 볼 수 있다.

AI CCTV

네트웍스 AI 파트에서는 위급 상황을 자동 감지하는 ‘AI CCTV’가 전시됐다. 

부스 관계자는  "기존 CCTV를 교체하지 않고 그 CCTV 영상을 그대로 AI 서버한테 송출을 해주면 AI 서버가 저희가 정의해 둔 이벤트 내에서 판단을 한다"며 "화재가 발생한다든지 혹은 작업을 높은 곳에서 막 하다가 추락을 해버린다든지 등의 이벤트들에 AI가 실제로 영상을 가지고 추론을 해가지고 결정을 하는 방식이다"고 설명했다.

SK 부스

이외에 AWS, MS, 구글 클라우드 등 글로벌 빅테크 전시관, 람다, SGH와 몰로코, 베스핀글로벌 등 AI 얼라이언스 멤버사들의 다양한 AI 기술들도 볼 수 있다.