테스, 고성능 GaN 증착장비 개발…"저궤도 위성통신 시장 공략"

독자 기술로 GaN 전력반도체 내 차세대 박막 증착 공정 수행

국내 반도체 제조장비 기업 테스가 탄화규소(SiC)·질화갈륨(GaN) 증착장비로 차세대 전력반도체 시장을 적극 공략한다. 특히 고주파·고전압 특성이 요구되는 저궤도 위성통신용 분야에서 업계 유일의 독자 기술로 차별화를 노린다는 전략이다.

서동식 테스 OED사업본부총괄(전무)은 지난 12일 서울 코엑스에서 열린 '세미콘코리아 2026' 전시관에서 기자와 만나 이같이 밝혔다.

테스 회사 전경(사진=테스)

SiC·GaN 등 화합물반도체 시장 정조준

최근 테스가 주목하고 있는 회사의 신성장동력은 SiC, GaN 등 차세대 전력반도체 시장이다. 해당 소재는 기존 반도체 소재인 실리콘 대비 고온·고전압에 대한 내구성, 전력효율성 등이 뛰어나다. SiC는 고전압에서 구동이 가능해 전기차 등 오토모티브에서, GaN은 고속 스위칭 특성 덕분에 고주파 무선통신(RF) 산업에서 수요가 높다.

이에 테스는 SiC 및 GaN 소재를 웨이퍼에 성장시키기 위한 유기금속화학증착(MOCVD) 장비 '트리온(TRION)' 시리즈를 개발해 왔다. MOCVD는 금속 유기 원료를 사용해 웨이퍼에 특정 박막을 형성하는 공정이다. SiC·GaN용 MOCVD 기술은 진입장벽이 높지만, 테스는 기존 UVC LED용 MOCVD 장비 상용화로 확보한 기술력을 토대로 시장 진입을 자신하고 있다.

서 전무는 "트리온은 테스의 독자적인 증착 기술이 적용된 장비로, 다양한 차세대 전력반도체 산업을 공략할 예정"이라며 "기존 시장을 독점해 온 해외 기업 대비 기술적으로 뛰어난 성능을 보유하고 있다"고 말했다.

독자 기술로 저궤도 위성통신 RF 시장 진입 기대

특히 가장 최근 출시된 트리온-GaN은 향후 급격한 발전이 예상되는 저궤도 위성통신 분야에 적용될 것으로 기대된다.

저궤도 위성통신은 지구 표면으로부터 수백~1000km대 상공에 위성을 배치하는 통신 기술이다. 스페이스X의 '스타링크'가 대표적인 사례다. 저궤도 위성통신은 고속 데이터 전송을 위해 수십 기가헤르츠(GHz)급의 고주파 대역 통신이 필요하며, 여기에 고출력 RF 파워 앰프가 쓰인다.

그런데 기존 RF용 GaN 전력반도체는 20GHz 이상의 고전력·고전압 RF 동작 조건에서 칩 성능 저하 문제에 직면하고 있다. 내부에서 누설 전류 차단, 고전압 지지 등의 역할을 담당하는 GaN 버퍼(Buffer)의 절연성 및 전압 내구성이 충분치 않아서다.

이에 업계는 GaN 버퍼층을 AIN(질화알루미늄) 소재로 대체하려는 시도가 일어나고 있다. AIN은 GaN 대비 고전압 환경을 더 잘 견디며, 절연 특성도 뛰어나다. 다만 동시에 AIN은 원자 간격 차이로 GaN과의 완벽한 접합이 어렵다. 이 경우 칩 내부에 결함이 생겨 불량을 일으킬 수 있다.

트리온-GaN은 테스의 독자적인 '튜너블 트리플 페어 노즐' 기술이 적용됐다. 해당 기술은 총 3개층에서 좌·우측, 중앙에 위치한 노즐을 개별적으로 제어해, 기존 단일 노즐 방식 대비 AIN 버퍼 층을 정밀하고 빠르게 성장시킬 수 있다.

테스 트리온 장비에 적용된 트리플 페어 노즐 기술(자료=테스)

서 전무는 "AIN 버퍼 층을 안정적으로 성장하려면 가스 전환 속도가 빨라야 하는데, 기존 MOCVD 장비는 노즐 전단에 공정 가스가 혼합되는 영역이 넓어 가스 전환 응답에 한계가 있었다"며 "반면 테스는 공정 가스 혼합 구간을 최소화한 구조 적용으로 신뢰성이 매우 높다"고 강조했다.

트리온-GaN은 유럽 주요 대학 및 연구소를 중심으로 성능 검증이 진행될 예정이다. 

서 전무는 "올해 상반기 내에 평가를 받을 것"이라며 "테스트 결과가 확보되면 본격적인 상용화 준비에 나설 수 있을 것"이라고 말했다.

다양한 포트폴리오 확보…산화갈륨 시장도 대비

이외에도 테스는 다양한 분야의 차세대 전력반도체 시장을 공략하고 있다. 지난해 하반기 출시된 SiC 전력반도체용 CVD 장비 '트리온-SiC'는 현재 국내는 물론 중국 고객사를 대상으로 프로모션을 진행하고 있다. 특히 차세대 전력반도체 응용처로 주목받는 고전압용 슈퍼정션 MOSFET 공정에도 적용이 가능할 것으로 기대된다.

해당 장비는 고온 환경에서도 우수한 온도 균일도와 도핑 제어 성능을 확보한 것이 특징이다. 실제로 얇은 두께의 박막을 여러 차례 반복 성장한 결과, 8인치 웨이퍼 기준으로 1% 수준의 두께 균일도 및 도핑 균일도를 유지하는 결과를 얻어냈다.

서 전무는 "올해 한국과 중국 고객사 진입을 목표로 하고 있다"며 "레퍼런스가 확보되면 내년부터 3년 이내에 회사의 전체 매출에서 15~20%까지 기여할 수 있을 것으로 전망하고 있다"고 말했다.

광반도체 분야에서는 마이크로 LED용 MOCVD 장비 개발을 진행 중이다. 테스는 국책과제를 통해 마이크로 LED 에피 공정을 위한 싱글 웨이퍼 기반 6인치 MOCVD 장비를 연내 개발 완료할 계획이다. 이후 내년부터는 12인치 장비 개발에 착수해 차세대 디스플레이 시장을 공략한다는 전략이다.

초고전압 전력반도체용 차세대 소재인 산화갈륨(Ga₂O₃) 분야의 진출도 계획하고 있다. 산화갈륨은 SiC 및 GaN 대비 내구성 및 전력효율성이 더 우수하면서도, 제조 비용이 저렴하다는 강점을 지니고 있다.

서 전무는 "아직은 상용화되지 않았으나, 산화갈륨은 AI 산업을 위한 고전압 분야에 적용될 수 있는 소재"라며 "정부에서 국책 과제가 나오고 있어, 테스도 시장 진입을 위한 준비를 하고 있다"고 밝혔다.