"반도체·양자기술 판도 바뀐다"…연세대, AI 활용한 2차원 물질 분석법 개발

딥러닝 기반 TEM 분석 기법 개발…나노미터 단위 구조 변형 정밀 측정

연세대학교 물리학과 김관표 교수 연구팀이 인공지능(AI)을 활용해 2차원 물질의 층간 구조를 분석하는 정밀 기술을 개발했다. 기존 방식보다 정밀한 분석이 가능해져 차세대 양자 연구에 혁신을 가져올 전망이다.

연세대학교는 김관표 교수 연구팀이 지난 3일 투과전자현미경(TEM) 데이터를 AI로 분석해 2차원 물질의 층간 변위와 동역학적 변화를 정밀 측정하는 기법을 개발했다고 6일 밝혔다. 이번 연구는 물리학 및 재료과학 분야의 세계적 학술지 '어드밴스드 머티리얼즈'에 게재됐다.

2차원 물질은 원자 단위로 얇은 층이 쌓인 구조를 가지며 층간 변형이나 비틀림이 전자적 성질에 큰 영향을 미친다. 다만 이에 대한 기존 분석법은 실시간으로 정밀하게 층간 변화를 측정하는 데 한계가 있었다. 이번 연구는 AI 기반 기술을 통해 기존 방식의 한계를 극복했다.

연세대학교 물리학과 김관표 교수 연구팀이 인공지능(AI)을 활용해 2차원 물질의 층간 구조를 분석하는 정밀 기술을 세계 최초로 개발했다. (사진=연세대학교)

연구팀은 딥러닝 기술을 활용해 전자현미경 이미지 속 복잡한 패턴을 분석하고 층간 변위를 정밀하게 측정할 수 있도록 설계했다. 특히 연구팀이 개발한 AI 모델은 900만 개 이상의 원자로 이루어진 실시간 투과전자현미경 데이터를 분석할 수 있다.

이 기법은 인(P) 기반 차세대 2차원 물질인 '포스포린'에 적용돼 그 효과를 입증했다. 특히 층간 변위를 오차율 3.3% 이하의 높은 정확도로 분석할 수 있는 것으로 확인돼 기존 기술 대비 분석 속도와 정확도 모두 크게 향상됐다.

또 연구팀은 AI 모델을 이용해 포스포린의 가장자리에서 발생하는 미세한 변화를 실시간으로 추적하는 데 성공했다. 기존 기술로는 탐지하기 어려웠던 국소적 층간 변위와 동역학적 변화를 높은 공간 및 시간 분해능으로 측정할 수 있었다.

이번 연구에는 연세대 물리학과 이기현 석박통합과정생과 한국과학기술연구원 이양진 박사가 제1저자 및 공동 교신저자로 참여했다. 연구는 한국연구재단의 중견연구자지원사업, 세종펠로우십, G-램프 사업, 기초과학연구원(IBS) 나노의학연구단의 지원을 받아 수행됐다.

업계는 이번 연구결과가 차세대 전자소자와 양자소자 연구에 새로운 가능성을 열었다고 평가하는 것으로 알려졌다. 층간 구조의 미세한 변화를 정밀하게 제어할 수 있으면 향후 초소형 반도체, 양자 컴퓨팅, 나노센서 등 다양한 분야에서 활용될 수 있기 때문이다.

김관표 연세대 교수는 "이번 연구를 통해 AI를 활용한 2차원 물질의 적층 구조 분석 기법을 세계 최초로 구현했다"며 "이 기술은 다양한 비틀림 각을 가진 이중층 및 다층 2차원 물질 연구에 적용될 수 있으며 차세대 전자소자, 양자 물질 연구 등에서 중요한 역할을 할 것"이라고 밝혔다.