연세소식

[사진. 물리학과 최석원 학생, 유휘동 교수, 캔자스대학교 탈랄 아메드 초두리 박사, 브룩헤이븐 국립연구소 유광민 박사]

 

우리 대학교 물리학과 4학년 최석원 학생이 교내에 구축된 IBM 양자컴퓨터를 활용해 수행한 연구 결과를 국제 학술지에 발표했다. 이번 연구는 노이즈가 많은 현세대 양자컴퓨터 환경에서도 오류 완화 기법을 적용해 대규모 양자계의 동역학을 실제 하드웨어에서 구현한 성과로 주목된다.

 

연구 결과는 SCI급 국제 학술지 '피지카 스크립타(Physica Scripta)'에 게재됐으며, 2026년 1월 22일 최종 출판됐다. 이번 논문은 미국 브룩헤이븐 국립연구소(Brookhaven National Laboratory)의 유광민 박사, 미국 캔자스대학교(University of Kansas)의 탈랄 아메드 초두리(Talal Ahmed Chowdhury) 박사와 함께한 국제공동연구로 수행됐다.

 

양자컴퓨터는 기존 고전 컴퓨터로 계산하기 어려운 복잡한 양자계의 거동을 시뮬레이션할 수 있는 차세대 계산 기술로 주목받고 있다. 특히 물리학, 화학, 재료과학 등 다양한 분야에서 복잡한 양자 다체계의 성질을 이해하는 핵심 도구가 될 것으로 기대된다. 그러나 현재의 양자컴퓨터는 하드웨어에서 발생하는 다양한 노이즈로 인해 계산 정확도가 크게 떨어지는 한계가 있어 실제 과학 연구 활용에는 어려움이 있었다.

[그림. 양자 퀀치 동역학 모식도]

 

연구팀은 이러한 한계를 극복하기 위해 여러 양자 오류 완화(Quantum Error Mitigation) 기법을 효과적으로 결합해 대규모 양자 스핀계의 동역학을 실제 양자컴퓨터에서 시뮬레이션했다.

 

연구팀은 대표적인 양자 다체계 모델인 1차원 Heisenberg XXZ 스핀 사슬(Spin Chain) 모델을 대상으로, 양자 상태가 시간에 따라 변화하는 양자 퀀치(Quantum Quench) 동역학을 구현했다. 이 모델은 양자 통계물리학과 응집물질 물리학에서 널리 연구되는 이론 모델로, 양자 정보의 확산과 열화 과정, 양자 상전이 등을 이해하는 데 중요한 역할을 한다.

 

연구팀은 우리 대학교 양자컴퓨터 인프라를 활용해 해당 모델의 시간 진화를 양자 회로로 구현하고, 다양한 양자 오류 완화 기법의 성능을 비교·분석했다. 특히 기존에 널리 사용되는 제로잡음 외삽법(Zero-Noise Extrapolation, ZNE)과 함께 자가 완화(Self-Mitigation) 기법을 적용해 실제 양자 하드웨어에서의 계산 정확도를 평가했다.

 

분석 결과, 자가 완화 기법은 기존 방식보다 더 안정적인 정확도를 유지하는 것으로 나타났다. 연구팀은 3,000개 이상의 CNOT 게이트가 포함된 대규모 양자 회로에서도 안정적인 계산 정확도를 확보했으며, 이를 통해 최대 84~104큐비트 규모의 양자 시스템까지 확장 가능한 시뮬레이션 결과를 제시했다. 이는 현재의 고전 컴퓨터로는 직접 계산이 사실상 불가능한 수준이다. 예를 들어 104큐비트 규모 시스템을 고전 컴퓨터에서 구현하려면 약 256퀘타바이트(Quettabytes) 규모의 메모리가 필요한 것으로 추정된다.

 

또한 연구팀은 양자 상태의 복잡도를 나타내는 핵심 물리량인 엔탱글먼트 엔트로피(Entanglement Entropy)를 실제 양자컴퓨터에서 측정하는 방법도 구현했다. 엔탱글먼트 엔트로피는 양자 시스템 내부의 상관관계를 나타내는 물리량으로, 양자 정보의 확산과 열화, 양자 열화(Thermalization) 현상 등을 이해하는 데 중요하다. 연구팀은 랜덤 측정 기반 프로토콜을 활용해 이를 측정했으며, 실험 결과가 이론 계산과 잘 일치함을 확인했다.

 

이번 연구는 노이즈가 많은 NISQ(Noisy Intermediate-Scale Quantum) 시대의 양자컴퓨터에서도 적절한 오류 완화 기법을 적용하면 복잡한 양자 다체계의 동역학을 실제 하드웨어에서 연구할 수 있음을 보여준 사례다. 이는 완전한 오류 정정이 가능한 미래 양자컴퓨터가 등장하기 이전에도 양자컴퓨터가 단순 실험을 넘어 실제 과학 연구에 활용될 수 있는 ‘양자 유틸리티(Quantum Utility)’ 가능성을 보여준다는 점에서 의미가 크다.

 

특히 이번 연구는 우리 대학교에 구축된 127큐비트 IBM 퀀텀 시스템 원(IBM Quantum System One, IBM QS1)을 기반으로 수행된 국제 학술논문으로, 우리 대학교 학부생이 양자컴퓨팅 분야의 해외 연구자들과 협력해 국제 공동연구를 수행한 첫 사례라는 점에서도 주목된다.

 

이번 연구는 우리 대학교 양자사업단과 양자정보기술연구원, 물리학과 유휘동 교수가 수행한 ‘APEC APRU 학술교류 사업’의 지원을 받아 진행됐다. 최석원 학생은 2024년 우리 대학교 학생들이 자발적으로 설립한 양자컴퓨팅 동아리 QIYA(Quantum Informatics at Yonsei Academy)에서 연구 활동을 시작했다. 해당 동아리에서는 학생들이 실제 양자컴퓨터를 활용한 연구와 실습을 통해 양자컴퓨팅 기술을 익히고 있으며, 이번 연구는 QIYA가 주도한 연구 활동에서 출발해 국제 공동연구로 발전한 첫 사례다.

 

최석원 학생은 “이번 연구는 노이즈가 존재하는 현재의 양자컴퓨터에서도 적절한 오류 완화 기법을 활용하면 대규모 양자계의 동역학을 연구할 수 있음을 보여준다”라며 “특히 우리 대학교에 구축된 양자컴퓨터 연구 환경과 학생 연구 활동 지원 덕분에 학부생 단계에서도 이러한 연구를 수행할 수 있었다”라고 말했다. 이어 “향후 양자컴퓨터가 고전 컴퓨터로 계산하기 어려운 복잡한 양자 물리 문제를 해결하는 데 중요한 역할을 할 것으로 기대된다”라고 덧붙였다.

 

한편, 공동 연구자 유광민 박사와 탈랄 아메드 초두리 박사도 “연세대가 보유한 IBM 양자컴퓨팅 인프라와 양자사업단의 지원 덕분에 학부생과 함께 의미 있는 연구 성과를 낼 수 있었다”라며 “앞으로도 연세대와 브룩헤이븐 국립연구소, 캔자스대학교 간 협력을 더욱 강화해 더 큰 연구 성과를 창출할 수 있기를 기대한다”라고 밝혔다.