연세소식

[사진. (왼쪽부터) 전기전자공학부 노원우 교수, 최승우 연구원]

전기전자공학부 노원우 교수 연구팀이 양자회로 시뮬레이션의 메모리 부담을 줄일 수 있는 새로운 수치 형식 ‘q-Point’를 개발했다. 이번 연구는 컴퓨팅 분야 국제 학술지 ‘IEEE Transactions on Emerging Topics in Computing(IF 5.4)’에 2025년 5월 30일 자로 게재됐다.

 

양자컴퓨터는 고전 컴퓨터로 풀기 어려운 문제를 해결할 수 있는 차세대 컴퓨팅 기술로 주목받고 있다. 하지만 현재의 양자컴퓨터는 아직 안정적으로 활용하기는 어렵다. 따라서 고전 컴퓨터에서 양자 알고리즘을 개발하고 검증하는 양자회로 시뮬레이션이 널리 사용되고 있다. 특히 모든 확률진폭을 저장하고 계산하는 full-state simulator는 정확도가 높으며 다양한 양자회로에 폭넓게 적용할 수 있다.

그러나 이 방식은 큐비트 수가 늘어날수록 필요한 메모리가 급격히 증가하는 문제가 있다. 큐비트는 양자컴퓨터에서 정보를 표현하는 기본 단위로, 큐비트가 하나 늘어날 때마다 저장해야 하는 양자 상태의 수가 두 배씩 증가한다. full-state simulator는 모든 양자 상태의 확률진폭을 복소수로 표현하는데, 기존 방식은 하나의 복소수를 실수부와 허수부로 나누어 저장한다. 이 때문에 저장해야 하는 데이터가 빠르게 늘어나 대규모 양자회로 시뮬레이션의 주요 병목으로 작용한다.

[표. q-Point의 메모리 절감 효과]

이에 연구팀은 복소수를 반지름과 위상으로 저장하는 새로운 수치 형식 ‘q-Point’를 제안했다. q-Point는 복소수를 극좌표형으로 표현해 양자회로 시뮬레이션에 필요한 확률진폭을 더 적은 비트로 저장할 수 있도록 설계됐다. 이를 통해 기존 방식에서 하나의 복소수 확률진폭을 저장하는 데 필요했던 메모리 사용량을 절반 수준으로 줄였다. 

 

양자회로 시뮬레이션에서는 매우 작은 오차도 여러 양자 게이트를 거치며 누적될 수 있기 때문에, 메모리를 절감하면서도 정확도를 유지하는 것이 중요하다. 이를 해결하기 위해 연구팀은 다단계 인코딩 방식을 적용했다. 확률진폭의 반지름 값이 나타나는 범위를 특성에 따라 나누고, 자주 나타나거나 양자 상태에 큰 영향을 미치는 범위에는 더 정밀한 표현을 배정하는 방식이다. 이를 통해 제한된 비트 안에서도 시뮬레이션 정확도를 유지할 수 있도록 했다. 

 

또 다른 문제는 계산 속도였다. 반지름과 위상을 이용한 극좌표형 방식은 곱셈 연산에는 유리하지만, 덧셈 연산에서는 오히려 계산이 복잡해질 수 있다. 따라서 연구팀은 양자 게이트의 특성에 따라 극좌표형 또는 기존 직교좌표형을 선택하는 방식을 도입했다. 즉, 위상 변화가 중심이 되는 연산에서는 q-Point의 극좌표형 표현을, 일반적인 행렬 연산이 필요한 경우에는 직교좌표형 표현을 사용했다.

 

연구팀은 q-Point의 성능을 검증하기 위해 QAOA, VQE, QSC 등 다양한 양자회로 벤치마크를 대상으로 실험을 수행했다. 실험 결과 q-Point는 기존 기준 형식 대비 절반의 메모리만 사용하면서도 합리적인 수준의 시뮬레이션 정확도를 유지했다. 속도 측면에서도 q-Point의 장점이 확인됐다. 적응형 q-Point 방식은 QAOA와 VQE 벤치마크 회로에서 각각 평균 1.37배, 1.16배 빠른 시뮬레이션을 보였다. 다만 QSC에서는 회로 특성상 속도 향상이 제한적으로 나타났다.

 

노원우 교수는 이 연구에 대해 “양자회로 시뮬레이션의 메모리 병목을 양자 상태를 저장하는 수치 표현 방식 자체를 바꾸어 접근했다는 점에서 의미가 있다.”며, “메모리 사용량을 효율적으로 줄임으로써, 양자회로 시뮬레이션의 새로운 방향성을 제시할 수 있을 것으로 기대된다.”고 설명했다. 

 

 

기사 작성: 연세소식단 신지은(일반대학원 지구천문대기학25) 학생