국내 연구진이 양자컴퓨터 시대의 새로운 암호체계인 ‘양자내성암호’를 공략할 수 있는 새로운 양자 알고리즘을 개발했다. 양자컴퓨터뿐 아니라 수학, 암호학 등 관련 산업 분야 전환점이 될 전망이다.
한국전자통신연구원(ETRI)은 한국과학기술연구원(KIST)·서울대·한양대·고등과학원(KIAS)·영국 임페리얼 대학 등 국내외 연구진과 함께 양자내성암호의 주요 기반문제 중 하나인 선형잡음문제를 효과적으로 공략할 수 있는 세계 최고 수준의 양자 알고리즘을 개발했다고 밝혔다. 이번 성과는 양자정보과학기술 전문 학술지인 퀀텀 사이언스&테크놀로지에 게재됐다.
양자 소인수 분해 알고리즘 등장으로 공개키 암호시스템(RSA) 같은 기존 암호체계는 양자컴퓨터가 실용화할 경우 보안성 유지가 어려울 것으로 전망되고 있다. 이에, 양자컴퓨터를 이용한 해킹에도 안전할 것으로 기대되는 새로운 암호체계, 소위 ‘양자내성암호(PQC)’체계가 등장했다. 양자내성암호는 양자컴퓨터조차도 해결하기 어려운 수학적 난제를 활용한 차세대 암호체계다. 연구진에 따르면, 이를 풀기 위해서는 문제의 규모 대비 지수함수적으로 증가하는 큐비트(Qubit) 자원이 필요하고, 이에 양자컴퓨터조차도 공략 불가능한 것으로 여겨지고 있다.
연구진은 세계최초로 ‘분할-정복(divide-and-conquer) 전략’을 활용, 비교적 소규모 수준의 양자컴퓨터로도 양자내성암호를 공략할 수 있는 양자 알고리즘을 개발했다. '분할-정복 전략'은 전체 구조를 하부 구조로 작게 나누고 개별 공략하는 방법이다. 적정한 수준의 양자 연산능력만으로도 ‘지수함수적 양자이득’이 가능함을 증명했다. 연구진은 이번 기술 공개로 양자 내성이 무효화하는 조건을 보다 구체적으로 특정할 수 있게 됐다고 설명했다. 이에 따라 양자기술을 활용하는 기업, 연구기관, 공공기관이 차세대 암호 연구시 활용영역을 명확히 할 수 있을 것으로 기대했다.
ETRI 박성수 양자기술연구단장은 "그동안 불가능하다고만 생각하던 양자내성암호 양자공략이 원리적으로 가능하다는 점에서 해당 연구결과는 그 의미가 크다"면서 "하지만 양자내성암호를 실제 효과적으로 공략하기 위해서는 양자컴퓨터의 연산능력을 더 확보해야 한다"고 말했다.
이번 공동 교신저자인 영국 임페리얼대 김명수 교수도 "잡음을 동반한 선형문제를 양자컴퓨터를 쓰면 고전컴퓨터에 비해 빨리 풀 수 있다는 점을 증명했다. 특히, 분할-정복 전략을 양자알고리즘에 사용한 첫 사례"라며 "새로운 암호체계의 신뢰도 계산에 직접적으로 연관돼 좋은 파급효과가 있을 것으로 기대한다"고 밝혔다.
ETRI는 이번 연구성과가 "양자컴퓨터가 양자내성을 완전히 정복했다는 뜻은 아니다"면서 "양자내성암호 공략 및 수호 관점에서 지속적인 연구가 더 필요하다"고 덧붙였다. 연구진은 향후, 양자샘플을 생성‧준비하는 단계부터 주요 알고리즘 동작에 이르기까지 문제해결 전체 과정의 계산 자원량을 결함허용 양자컴퓨팅 관점에서 최적화하는 연구를 추가로 수행할 계획이다. 이를 통해 보다 현실적 측면에서 양자내성암호 양자공략 가능성을 검증할 계획이다.
이번 연구는 과학기술정보통신부의 양자컴퓨팅 기술개발 사업과 정보통신기획평가원 양자암호통신 집적화 및 전송기술 고도화 사업 등의 지원을 통해 개발됐다. 이번 논문의 공동 제1저자는 KIST 송우영 박사, 고등과학원 임영롱 박사, 서울대 정갑균 박사이고 참여 저자는 서울대 지윤성 박사, 한양대 이진형 교수, 고등과학원 김재완 교수다. 공동 교신저자는 영국 임페리얼대 김명식 교수와 ETRI 방정호 박사가 참여했다