양자 컴퓨팅: 할 수 있는 것, 할 수 없는 것, 그리고 궁극적으로 가능해질 것

양자 컴퓨팅은 수년 동안 주로 "머지않아 다가올" 기술로 논의되어 왔다. 이론적으로는 중요했지만, 일상적인 엔지니어링 현실과는 여전히 거리가 멀었다. 하지만 이제 과거 실험실 수준에 머물렀던 기술이 지속적인 엔지니어링 노력으로 발전하고 있다. 각국 정부는 국가 차원의 양자 이니셔티브에 자금을 지원하고 있다.1 기업들은 하이브리드 양자 워크플로우를 실험하고 있으며, 하드웨어 제조업체들은 큐비트 수를 꾸준히 늘려가고 있다.
이와 함께 양자 컴퓨팅이 할 수 있는 것과 할 수 없는 것에 대한 기대치도 더 명확해지고 있다. 양자 시스템은 고전적인 컴퓨터와 다르게 작동한다. 단순한 이진 논리 대신 중첩(superposition)과 얽힘(entanglement) 같은 특성을 활용한다. 데이터를 0 또는 1과 같은 이진 비트 시스템으로 인코딩하는 기존 컴퓨터와 달리, 양자 컴퓨터는 여러 확률적 상태를 동시에 차지할 수 있는 큐비트(qubit)를 사용한다. 양자 컴퓨터가 일반적으로 더 빠르거나 어떤 면에서 더 낫다는 것은 흔한 오해이다. 실제로는 큐비트를 통해 기존 컴퓨팅과는 매우 다른 방식으로 다양하고 많은 유형의 계산 문제에 접근할 수 있다.
양자 컴퓨팅은 기존 컴퓨팅을 대체하거나 일상적인 워크로드를 해결하기 위한 것이 아니기 때문에 이러한 차이를 이해하는 것이 중요하다. 양자 컴퓨팅은 특정 타겟 애플리케이션, 장기적인 인프라 계획, 그리고 보안 대비와 같은 더 당면한 고려 사항에 가치가 있다. 양자 기술이 실험실을 벗어나 실질적인 애플리케이션으로 이동함에 따라, 엔지니어들은 그 잠재력과 한계를 명확히 이해해야 한다.
수식 없이 이해하는 핵심 개념
양자 컴퓨팅을 이해하려면 몇 가지 기본 개념부터 시작해야 한다. 이러한 개념을 파악하기 위해 고도의 물리학 지식이 필요한 것은 아니지만, 관점의 전환은 필요하다. 양자 시스템은 기존 컴퓨터 프로세서의 기반이 되는 디지털 논리와 다르게 작동한다. 이러한 차이를 이해하는 것이 양자 컴퓨터의 잠재력과 한계를 모두 이해하는 기초가 된다. 양자 역학은 기존의 컴퓨팅 원리를 대체하는 대신, 특정 계산상의 이점을 위해 엔지니어링할 수 있는 새로운 동작을 도입한다. 이러한 차이점은 다음 세 가지 밀접하게 관련된 개념을 통해 가장 잘 이해할 수 있다:
• 큐비트가 기존 비트와 어떻게 다른가
• 중첩이 시스템이 표현할 수 있는 상태의 수를 어떻게 확장하는가
• 얽힘이 어떻게 큐비트를 고립된 단위가 아니라 함께 작동할 수 있도록 하는가
큐비트 대 비트
기존 컴퓨팅의 비트는 0 또는 1의 상태를 나타낸다. 큐비트는 두 상태의 중첩으로 동시에 존재할 수 있다. Methods: 양자 엔지니어링의 미래 에서는 이 개념을 앞면이나 뒷면으로 놓여 있는 동전이 아니라 공중에서 회전하고 있는 동전으로 설명한다.
여러 큐비트가 결합하면 전체 계산 상태 공간은 기하급수적으로 커진다. 이러한 기하급수적인 성장은 가능한 많은 상태를 동시에 평가하거나 제약해야 하는 문제에서 양자 컴퓨팅이 가지는 이론적 이점을 뒷받침한다.
중첩
중첩(Superposition)을 통해 양자 시스템은 여러 가능성을 동시에 나타낼 수 있다. 그렇다고 해서 양자 컴퓨터가 단순히 모든 답을 즉시 시도한다는 의미는 아니다. 대신, 양자 알고리즘은 확률 진폭(probability amplitudes)을 조작하여 가능한 모든 올바른 결과의 가능성을 높인다. 이는 시스템을 의미 있는 결과로 유도하도록 알고리즘이 설계된 경우에만 유용하다.
얽힘
얽힘(Entanglement)은 큐비트 간에 상관관계를 형성하여, 한 큐비트의 상태를 다른 큐비트를 참조하지 않고는 완전히 설명할 수 없게 만든다. 이러한 특성은 기존 컴퓨팅에는 없는 조정된 계산 동작을 가능하게 한다. 중첩과 얽힘은 함께 새로운 계산 경로를 만든다.
양자 컴퓨팅의 현주소
양자 컴퓨팅 하드웨어는 최근 몇 년 동안, 특히 큐비트 구축 및 확장 방법에서 괄목할 만한 발전을 이루었다. 단순히 큐비트 수를 늘리는 것보다 신뢰성과 안정성을 향상하는 데 더 중점을 두고 있다. 예를 들어, 현재 IBM의 라인업에는 127 큐비트 Eagle과 133~156 큐비트 Heron 제품군과 같은 프로세서가 포함되어 있으며, 두 제품 모두 초전도 큐비트 기술을 기반으로 제작되었다. 이 프로세서들은 이전 세대에 비해 성능과 신뢰성을 향상시키기 위해 큐비트 제어, 제조 수율 및 모듈형 아키텍처의 발전을 통합했다. 특히 Heron은 단순한 규모의 확장보다는 사용 가능한 성능에 대한 IBM의 집중을 보여준다.2 지금까지 가장 성능이 뛰어난 프로세서 라인은 크로스토크(cross-talk)를 줄이고 게이트 충실도를 향상시키는 튜닝 가능한 커플러를 통합한다. 이 두 가지 메트릭은 실제로 양자 회로가 얼마나 깊고 안정적일 수 있는지를 직접적으로 결정한다.
개별 프로세서를 넘어 IBM은 모듈식 시스템인 IBM Quantum System Two를 개발했다. 이 플랫폼은 확장 가능한 극저온 환경 내에서 여러 양자 처리 장치(QPU)를 지원하도록 설계되어 하이브리드 양자-고전 워크플로우 및 더 많은 실제 실험을 가능하게 한다.
이 분야의 발전은 단일 기업에 국한되지 않는다. Google의 Quantum AI는 초전도 큐비트를 사용한 양자 오류 수정에서 발전을 입증했다. 이들의 연구 결과 중 일부는 논리적 큐비트 내에서 물리적 큐비트의 수를 늘리면 오류율을 줄일 수 있음을 보여준다.3 이는 확장 가능한 내결함성(fault tolerance)을 향한 중요한 단계인데, 개별 큐비트에서 오류가 발생하더라도 시스템이 계속 안정적으로 작동해야 하기 때문이다. 시스템 규모가 커짐에 따라 오류율이 감소할 수 있음을 입증하는 것은 더 길고 복잡한 연산을 실행할 수 있는 양자 컴퓨터를 구축하는 데 필수적이다.
양자 계산상 우위에 대한 초기 시연은 특히 수학적 구조가 양자 하드웨어 작동 방식과 잘 맞는 소수의 문제에서 양자 프로세서가 기존 시스템을 어떻게 능가할 수 있는지 명확히 하는 데 도움이 되었다. 4
그럼에도 불구하고 오늘날의 양자 머신은 여전히 완전한 내결함성 컴퓨터가 아닌 잡음이 있는 중간 규모 양자(NISQ: Noisy Intermediate-Scale Quantum) 장치에 머물러 있다. 존 프레스킬(John Preskill)이 도입한 NISQ라는 용어는 포괄적인 오류 수정 기능이 없고 여전히 노이즈 및 결어긋남(decoherence)에 민감한 수십에서 수백 개의 큐비트를 가진 프로세서를 설명한다.5 양자 상태는 환경에 의해 쉽게 교란되며, 작은 간섭원조차도 연산이 더 복잡해짐에 따라 결맞음(coherence)을 저하시키고 오류를 발생시킬 수 있다.
최근 연구에 따르면 향상된 오류 수정 기술이 논리적 오류율을 줄일 수 있음이 밝혀졌으며, 이는 장기적인 확장을 위한 고무적인 신호이지만 진정한 내결함성을 달성하려면 엄청나게 낮은 오류 확률로 작동하는 더 많은 수의 큐비트가 필요하다.6 이는 여전히 엔지니어링 과제로 남아 있다.
최신 양자 플랫폼은 일반적으로 클라우드를 통해 액세스되며 하이브리드 양자-고전 워크플로우에 통합된다. 이는 기존 프로세서를 독립적으로 대체하는 것이 아니라, 제어 및 대부분의 계산을 기존 인프라에 의존하는 특수 가속기로 이해하는 것이 가장 좋다.
양자 컴퓨팅이 목표로 하는 주요 애플리케이션 분야
양자 컴퓨팅은 기존 시스템이 처리할 수 없는 소수의 문제에서 가장 큰 잠재력을 보여준다. 데이터베이스 쿼리나 일상적인 수치 연산과 같은 일상적인 워크로드를 위한 것은 아니다. 양자 컴퓨팅의 장점은 가능한 결과의 수가 기하급수적으로 증가하는 문제, 즉 기존의 계산 방식이 뒤처지는 영역에 있다.
이러한 문제들은 종종 몇 가지 공통된 특성을 공유한다. 엄청난 수의 가능한 구성을 포함하거나, 확률적 거동에 의존하거나, 이미 본질적으로 양자적 성격을 띠는 물리적 프로세스에 근거한다. 이러한 경우 양자 알고리즘은 기존의 방식을 압도하는 솔루션 공간을 탐색하거나 구성하기 위한 다양한 경로를 제공한다.
최적화 문제
최적화(Optimization)는 기존 접근 방식의 한계를 빠르게 노출하기 때문에 양자 애플리케이션에서 가장 활발하게 탐구되는 영역 중 하나이다. 실제 최적화 문제의 상당수는 수많은 가능성 중에서 최상의 옵션을 선택하는 것과 관련이 있다. 변수가 추가될수록 가능한 구성의 수가 너무 빠르게 증가하여 최적화가 잘 된 기존 방식조차 이를 따라잡기 어렵다.
이러한 과제는 라우팅 및 일정 관리부터 재무 모델링 및 제조 계획에 이르기까지 광범위한 산업 분야에서 나타난다. 이러한 환경에서 어려움은 단순히 솔루션을 찾는 것이 아니라 리소스 제약과 현실적인 시간 내에 훌륭한 솔루션을 찾는 것이다. 양자 방식이 이러한 애플리케이션을 위해 탐색되고 있는 이유는 모든 가능성을 하나씩 평가하는 대신 광범위한 솔루션을 탐색할 수 있는 다양한 방법을 제공하기 때문이다.
현시점에서 최적화는 양자 시스템이 이러한 문제를 완전히 해결하기 때문이 아니라 특정 상황에서 기존 워크플로우를 더 효율적으로 더 나은 솔루션으로 유도하는 데 도움을 줄 수 있기 때문에 양자 컴퓨팅의 초기 사용 영역으로 간주된다. 7
물리 및 화학 시스템 시뮬레이션
양자 컴퓨팅이 주목받는 또 다른 분야는 시뮬레이션이다. 분자 및 화학 반응과 같이 과학자와 엔지니어가 모델링하고자 하는 많은 시스템은 가장 근본적인 수준에서 양자 역학의 지배를 받는다. 기존 컴퓨터는 이러한 거동을 근사하지만, 시스템이 더 복잡해질수록 이러한 근사는 점점 더 많은 리소스를 소모한다.
양자 컴퓨터는 문제를 다르게 바라본다. 양자 컴퓨터는 양자 상태를 사용하여 작동하기 때문에 모델링하려는 거동과 자연스럽게 일치한다. 따라서 기존 방법에서 요구하는 근사화 계층에 의존하지 않고도 분자 상호 작용과 물질적 특성을 시뮬레이션하는 데 더 적합하다.
원자 수준에서의 동작을 이해하는 것이 성능, 비용, 신뢰성에 영향을 미칠 수 있으므로 이러한 양자 컴퓨터의 능력은 신약 개발, 신소재 개발, 반도체 설계와 같은 분야에서 장기적인 영향을 미친다. 배터리 화학 및 에너지 저장 시스템과 같은 영역에서도 유사한 모델링 문제가 나타나는데, 이때 분자 규모의 작은 변화가 전체 시스템 성능에 직접적인 영향을 미칠 수 있다.
이러한 이유로 양자 시뮬레이션은 양자 컴퓨팅에서 가장 유망한 장기 애플리케이션 중 하나로 평가되는 경향이 있다.8 실질적인 영향은 하드웨어와 오류 수정의 지속적인 발전에 달려 있겠지만, 복잡한 물리 시스템을 더 직접적으로 모델링할 수 있는 능력은 지속적인 연구 이면의 주요 동기이다.9
인공 지능 및 머신 러닝
양자 컴퓨팅은 인공 지능(AI)과 머신 러닝(ML) 분야에서도 연구되고 있지만, 그 역할이 오해받는 경우가 있다. 양자 시스템은 성숙한 기존 하드웨어와 확립된 학습 방식에 의존하는 오늘날의 딥러닝 모델을 대체하기 위한 위치에 있지 않다. 대신 연구는 양자 컴퓨팅이 일부 ML 워크플로우에 나타나는 특정 수학적 연산을 지원할 수 있는지 여부에 집중되었다.
양자 강화 머신 러닝(QML: Quantum-Enhanced Machine Learning)으로 알려진 이러한 유형의 연구는 전체 모델을 엔드투엔드로 학습시키는 것보다 고차원 선형 대수학 및 특성 매핑과 같은 특정 수학 연산을 가속하는 데 중점을 둘 것이다.
Google Quantum AI와 같은 그룹 및 기타 학술 연구 기관들이 이러한 기술을 계속 연구하고 있지만 실질적인 배포는 주로 실험적인 단계이다.
ML을 위한 양자 컴퓨팅은 범용 가속 플랫폼이 아닌 특수한 도구로 이해하는 것이 가장 좋다. AI를 대체하려는 것이 아니다. 이 도구의 가치는 특정 컴퓨팅이 기존 확장의 한계에 부딪히는 기존 시스템을 보완하는 데 있다.
포스트 양자 보안: 단기적인 주요 과제
가능한 모든 양자 효과 중에서도 사이버 보안은 가장 시급한 과제이다.
제안된 많은 애플리케이션과 달리, 보안에 미치는 영향은 양자 컴퓨터가 당장 유용하다는 사실보다는 이미 사용 중인 암호화 시스템을 해독하는 미래의 기능에 더 기인한다.
쇼어 알고리즘(Shor's algorithm)과 같은 양자 알고리즘은 양자 컴퓨터가 많은 공개 키 암호화 시스템의 기반이 되는 대용량 숫자의 소인수분해를 기존 시스템보다 훨씬 더 효율적으로 처리할 수 있음을 나타낸다. 이 위협의 구체적인 내용과 다른 잠재적 영향에 대해서는 Methods: 양자 엔지니어링의 미래에서 자세히 논의한다.
이러한 위협에 대응하여 포스트 양자 암호(PQC: Post-Quantum Cryptography)는 기존 및 양자 공격을 견딜 수 있는 알고리즘에 중점을 둔다. PQC로 전환하려면 하드웨어, 펌웨어, 프로토콜 및 네트워크 인프라 전반에 걸친 조율이 필요하다.
아직 대규모 내결함성 양자 컴퓨터가 존재하지 않음에도 불구하고 시급성이 제기되는 이유는, 향후 양자 기능이 발전함에 따라 해독할 수 있다는 예상 하에 악의적인 행위자가 지금 당장 암호화된 데이터를 수집할 위험이 있기 때문이다. 엔지니어와 시스템 설계자에게 있어 양자 저항형 표준을 위한 계획을 세우는 것은 현재 진행 중인 문제이다.
엔지니어링 과제 및 현실적인 타임라인
이러한 모든 진전이 이루어지고 있더라도 양자 컴퓨팅은 과학적인 문제인 동시에 엔지니어링 과제로 남아 있다. 더 많은 큐비트를 가진 시스템을 개발하는 것은 상황의 일부에 불과하다. 큐비트는 안정적으로 제어되어야 하고, 노이즈로부터 보호되어야 하며, 유용한 컴퓨팅을 실행할 수 있을 만큼 오랫동안 결맞음을 유지해야 한다. 그리고 이 모든 것은 극저온 환경에서 작동하는 동안 수행되어야 하는데, 이는 그 자체로 일련의 장애물이다.
내결함성은 이러한 장애물 중에서 핵심이다. 장시간 지속되는 양자 알고리즘을 실행하려면 보다 안정적인 논리적 큐비트를 형성할 수 있는 수천 개의 안정적인 큐비트가 필요하다. 오늘날의 시스템은 발전하고 있지만 여전히 노이즈가 있는 중간 규모의 양자 단계(NISQ)에서 작동하고 있다. 지속적인 발전이 꾸준히 이루어지고 있지만 완벽한 내결함성 양자 컴퓨팅 시스템은 장기적인 엔지니어링 목표로 남아 있다.
양자 미래 대비하기
이 글에서 설명한 장벽들을 고려할 때 양자 컴퓨팅은 즉각적인 파괴적(disruptive) 기술이 아니다. 이것은 전략적 인프라 개발이며, 기술이 향상됨에 따라 시간이 지남에 따라 그 영향력이 커질 것이다. 오늘날 그 가치는 양자 프로세서를 기존 시스템과 함께 사용하고, 양자 저항 보안을 준비하며, 최적화 및 시뮬레이션과 같은 애플리케이션을 연구하는 등 실험에 있다.
궁극적으로 양자 컴퓨팅이 제공할 결과는 얼마나 잘 확장되고 얼마나 안정적으로 구현되는지에 달려 있다. 기존 컴퓨팅을 대체하는 대신 기존 시스템이 해결할 수 없는 문제를 해결하는 데 도움을 줄 수 있다. 이러한 미래를 대비하는 것은 오늘날의 책임감 있는 설계 결정이다.
https://www.quantum.gov/2 https://www.ibm.com/quantum/hardware
3https://www.nature.com/articles/s41586-024-08449-y
4https://ai.googleblog.com/2019/10/quantum-supremacy-using-programmable.html
5https://quantum-journal.org/papers/q-2018-08-06-79/
6https://www.nature.com/articles/s41586-023-06096-3
7https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/quantum-computing-use-cases-are-getting-real-what-you-need-to-know
8https://www.nature.com/articles/s41467-023-43479-6
9https://www.nlr.gov/news/detail/program/2025/can-quantum-computers-handle-energy-hardest-problems
저자 소개
브라이언 델루카(Bryan DeLuca)는 복잡한 엔지니어링 개념을 쉽게 설명하는 데 깊은 열정을 가진 베테랑 전자 콘텐츠 제작자이다. 수년간의 실무 경험을 바탕으로, 그는 고급 전자 주제를 엔지니어, 취미 활동가, 메이커들이 이해하기 쉽고 흥미로운 콘텐츠로 풀어내는 데 탁월한 능력을 인정받고 있다. 브라이언은 부품, 전력 전자, 적층 제조, 마이크로컨트롤러, LED, 센서 통합에 초점을 맞춘 기술 기사와 영상을 제작한다.