NISQ 시대란 무엇인가? 현존 양자 컴퓨팅의 현실

불과 몇 년 전만 해도 양자 컴퓨터는 SF의 영역에 가까운 기술이었습니다. 그러나 지금, 우리는 ‘양자 컴퓨팅의 실재’를 이야기하는 시대에 살고 있습니다. 비록 아직 ‘완전한 양자 컴퓨터’는 존재하지 않지만, 그 이전 단계인 NISQ(Nosy Intermediate-Scale Quantum) 시대는 이미 현실화되었으며, 세계 주요 기업과 연구소들은 이를 기반으로 상용 가능성을 실험하고 있습니다.

이 글에서는 NISQ의 의미와 역사, 그리고 현재 우리가 실제로 접근 가능한 기술적 수준과 한계, 미래 확장을 위한 가능성까지 구체적으로 살펴보려 합니다.

NISQ란 무엇인가?

정의: NISQ 시대의 출현

NISQ는 “Noisy Intermediate-Scale Quantum”의 줄임말입니다.

2018년, 미국의 물리학자 존 프레스킬(John Preskill) 교수가 이 용어를 처음 사용하며 널리 알려졌습니다.

“노이즈가 많고, 중간 규모의 큐비트를 가진 양자 컴퓨터”

즉, 수십~수백 개의 큐비트를 갖고 있으나,

아직 오류 정정이 완비되지 않은 과도기적 시스템을 뜻합니다.

NISQ 시스템은 다음과 같은 조건을 갖습니다:

• 큐비트 수가 50~200개 수준
• 노이즈가 존재하며, 계산 중 오류가 발생할 수 있음
• 양자 오류 정정(QEC, Quantum Error Correction)이 적용되기 어려움
• 다만, 일부 특수 목적 문제에 대해 고전 컴퓨터보다 빠를 수 있음

이런 특징 때문에, NISQ 컴퓨터는 ‘완전한 양자 우위’를 달성하지는 못하지만, 제한된 조건 아래에서는 의미 있는 계산을 수행할 수 있습니다.

역사적 맥락: 왜 NISQ가 중요한가?

양자 컴퓨팅의 궁극적 목표는 ‘범용 양자 컴퓨터(Universal Quantum Computer)’입니다.

이 이상적 모델은 수천~수백만 큐비트가 안정적으로 얽히고, 완벽한 오류 정정을 통해 정밀한 계산을 수행합니다.

하지만 이 목표는 아직 멀고 험난한 여정입니다.

그렇기에 과학자들은 현실적인 대안으로 NISQ 모델을 제안했습니다.

이는 “완전한 시스템이 아니더라도, 지금 우리가 가진 기술로 유의미한 계산을 시작할 수 있다”는 가능성을 보여준 선언이었습니다.

예시: 2019년 구글의 ‘양자 우월성(Quantum Supremacy)’ 발표

• Google의 Sycamore 프로세서(53 큐비트)는 기존 슈퍼컴퓨터가 1만 년 걸릴 연산을 약 200초 만에 완료했다고 발표했습니다.
• 이 성과는 NISQ 장비에서 나온 것이며, 제한적 상황에서 양자 컴퓨터가 고전 컴퓨터를 능가할 수 있다는 것을 실증했습니다.

NISQ는 기술의 공백기와 상용화 사이의 다리이자,

양자 실용화의 시금석이라 할 수 있습니다.

NISQ와 기존 컴퓨터의 관계

중요한 사실은, NISQ 컴퓨터는 기존 고전 컴퓨터를 완전히 대체하지 않습니다.

오히려 두 기술은 보완적인 관계를 형성하며 협력 구조로 발전하고 있습니다.

예를 들어, 현재 IBM이나 Google에서 제공하는 NISQ 기반 양자 연산 서비스는 ‘클래식 컴퓨터 + 양자 연산 모듈’이 함께 구성된 하이브리드 컴퓨팅 구조로 작동합니다.

고전 컴퓨터가 제어 명령을 내리고, 양자 컴퓨터가 병렬 연산을 수행하는 방식입니다.

주요 NISQ 플랫폼 소개 – 누가, 무엇을 만들고 있나?

NISQ 시대의 양자 컴퓨팅은 더 이상 개념에 그치지 않습니다.

실제로 작동하는 기기들이 있고, 기업들이 경쟁적으로 이 기술을 상용화하려는 움직임이 활발합니다.

지금부터는 주요 NISQ 하드웨어 플랫폼의 종류와 특징, 대표 기업들의 기술적 차이를 비교하여 살펴보겠습니다.

1) Google – Sycamore (시커모어)

• 큐비트 기술: 초전도 큐비트 (Superconducting Qubits)
• 공개 시점: 2019년
• 큐비트 수: 53개
• 기술 성과:
  • 2019년 ‘양자 우월성(Quantum Supremacy)’ 선언
  • 200초 만에 복잡한 확률분포 샘플링 완료 (고전 슈퍼컴퓨터로는 수천 년 소요)

Google은 복잡한 특정 연산에서 양자 컴퓨터가 고전 컴퓨터를 뛰어넘을 수 있음을 ‘세계 최초’로 실증한 기업입니다.

• 단점:
  • 에러율이 높고, 큐비트 간 결합도가 제한적
  • 프로그래밍 환경이 제한적이며, 양자 오류 정정은 미완

2) IBM – IBM Q System

• 큐비트 기술: 초전도 큐비트
• 양자 서비스: IBM Quantum Experience (클라우드 기반)
• 큐비트 수:
  • 2023년 기준 127 큐비트 프로세서 ‘Eagle’ 공개
  • 2024년 목표: 1121 큐비트 ‘Condor’ 실현

IBM은 가장 체계적으로 양자 생태계를 구축하고 있는 기업입니다.

Qiskit이라는 오픈소스 양자 프로그래밍 프레임워크 제공 중.

• 강점:
  • 교육, 연구, 산업 협업을 통한 저변 확대
  • 실제 기업 프로젝트(머신러닝, 화학 등)에 NISQ 기기 활용
• 한계:
  • 큐비트 연결성 한정
  • 게이트 기반 연산에서 여전히 높은 에러율 존재

3) IonQ – 이온트랩 기반 양자 컴퓨터

• 큐비트 기술: 이온트랩 (Trapped Ion Qubits)
• 특징:
  • 원자 하나하나를 레이저로 제어하여 고정밀 동작 구현
  • 큐비트 간 얽힘 유지 시간이 길어 안정성 우수

IonQ는 비교적 적은 수의 큐비트로도 정확한 연산을 추구합니다.

2023년 기준 32 큐비트의 상용화 플랫폼을 운영 중.

• 장점:
  • 낮은 에러율, 높은 퀀텀 피델리티
  • 큐비트 간 전면적 연결 가능 (Fully Connected)
• 단점:
  • 동작 속도가 느림
  • 하드웨어 확장이 비교적 어렵고, 대규모화에 기술적 도전 존재

4) D-Wave – 양자 어닐링 방식

• 큐비트 기술: 양자 어닐링 (Quantum Annealing)
• 큐비트 수: 2023년 기준 5,000+ 큐비트
• 차이점:
  • 범용 게이트 기반 양자 컴퓨터가 아니라, 특정 최적화 문제 전용 머신

D-Wave는 실험실이 아닌 산업에서 처음으로 양자 하드웨어를 상용화한 기업입니다.

• 적용 분야:
  • 물류 최적화, 금융 포트폴리오, 에너지 분배, 머신러닝 하이퍼파라미터 탐색 등
• 한계:
  • 범용 계산에는 부적합
  • NISQ의 정의에서 다소 벗어난 특수 구조

5) Rigetti – 중소형 양자 기업의 도전

• 큐비트 기술: 초전도 방식
• 플랫폼: Aspen 시리즈 프로세서
• 특징:
  • 클라우드 기반 양자 접근을 초기부터 적극 추진
  • 하이브리드 시스템에 최적화된 알고리즘 제공

Rigetti는 Amazon Braket 등 외부 플랫폼과 협업하며,

스타트업 특유의 민첩함으로 틈새 시장을 공략 중입니다.

플랫폼 비교 요약표

기업	큐비트 기술	큐비트 수 (2023 기준)	장점	한계
Google	초전도	53	고속 계산, 양자 우월성 실현	에러율, 제한적 연결
IBM	초전도	127~1121	오픈소스, 교육·산업 연계	연결성 한정, 오류 문제
IonQ	이온트랩	32	낮은 에러율, 전면 연결	느린 속도, 확장성 부족
D-Wave	어닐링	5000+	최적화 특화, 상용화 선도	범용 계산 불가
Rigetti	초전도	80~100	민첩한 개발, 오픈 생태계	소규모, 경쟁력 부족

NISQ 기반에서 가능한 응용 분야

아직 완전한 오류 정정 기능을 갖추지 못한 NISQ 양자 컴퓨터는 범용 계산에는 한계가 있지만, 특정 문제 영역에서는 고전 컴퓨터를 압도할 수 있는 가능성을 보여주고 있습니다.

이번 파트에서는 현재 NISQ 기술로 시도되고 있는 실제 응용 사례들을 분야별로 나누어 구체적으로 살펴보겠습니다.

1) 양자 화학 & 분자 시뮬레이션

양자 시스템은 물질의 가장 작은 단위인 원자와 전자의 행동을 정확하게 기술하는 데 유리합니다.

이 때문에 양자 컴퓨터는 화학 반응, 분자 구조, 에너지 상태 예측과 같은

복잡한 시뮬레이션에 특히 적합합니다.

• 대표 응용:
  • 수소, 리튬-수화물, 페리딘(pyridine) 등 소형 분자의 전자 구조 계산
  • 화학 반응 경로의 최소 에너지 구간(MEP) 탐색
  • 신약 개발 초기 단계에서의 후보 물질 간 상호작용 분석

IBM, Google, PASQAL 등은 실제 제약사와 협력해

실험 데이터를 기반으로 양자 시뮬레이션을 진행 중입니다.

2) 금융 최적화 & 위험 분석

금융 산업은 수많은 변수와 수치 사이에서 ‘최적’을 찾아야 하는 분야입니다.

NISQ 컴퓨터는 아래와 같은 조합 최적화 문제에서 유의미한 성과를 기대할 수 있습니다.

• 대표 응용:
  • 포트폴리오 최적화
  • 리스크 지수(Risk Index) 계산
  • 파생상품(옵션, CDS 등) 평가 시나리오 분석
  • 양자 몬테카를로 시뮬레이션

Goldman Sachs, JP Morgan은 IBM 및 QC Ware와 협력해

양자 알고리즘을 이용한 투자 모델 개선을 실험하고 있습니다.

3) 양자 머신러닝 (QML: Quantum Machine Learning)

머신러닝은 고차원 공간에서의 데이터 구조를 이해하고 예측하는 과정입니다.

NISQ 장비는 다음과 같은 방식으로 기존 AI 시스템과 결합할 수 있습니다.

• 하이브리드 접근법:
  • 고전 컴퓨터로 전처리 → NISQ로 비선형 문제 처리
  • 파라미터 양자 회로(Parametrized Quantum Circuits, PQC)를 이용한 특성 추출
• 활용 가능 모델:
  • 양자 서포트 벡터 머신 (QSVM)
  • 양자 신경망 (QNN)
  • Variational Quantum Classifier (VQC)

Google과 Xanadu는 각각 TensorFlow Quantum과 PennyLane을 통해

QML 개발 환경을 구축 중이며,

이미지 분류, 주가 예측, 이상 탐지 등의 분야에서 실험 결과를 발표했습니다.

4) 물류 & 경로 최적화

복잡한 물류 시스템에서의 최단 경로 문제, 공급망 흐름 최적화 등도

NISQ 기반의 양자 어닐링이나 QAOA(양자 근사 최적화 알고리즘)로 해결을 시도할 수 있습니다.

• 예시 문제:
  • TSP(Traveling Salesman Problem, 외판원 문제)
  • 차량 경로 문제(VRP)
  • 적재 효율성 최적화 (Bin Packing)

Volkswagen은 D-Wave와 함께

도심 택시의 실시간 경로 최적화 프로젝트를 성공적으로 시연한 바 있습니다.

5) 양자 센싱 및 이미지 분석 (비계산 응용)

계산과는 다르게, 양자의 민감성 자체를 활용하는 방법도 있습니다.

• 응용 분야:
  • 의료 진단을 위한 초고정밀 MRI
  • 중력파 측정, 위성 정밀 항법
  • 군사용 스텔스 탐지 시스템

양자 얽힘 기반 센싱은 기존 레이더나 센서보다 수십 배 민감한 측정이 가능하며,

NISQ 단계에서도 부분적으로 실현 가능한 기술입니다.

요약: NISQ의 실용 가능성은 점점 현실로

응용 분야	주요 기술/알고리즘	기대 효과
양자 화학	VQE, QPE	분자 구조 예측, 신약 개발
금융	QAOA, QMC	포트폴리오 최적화, 리스크 분석
머신러닝	PQC, VQC	고차원 분류, 이상 탐지
물류/경로	QAOA, Annealing	경로 최적화, 비용 절감
센싱/측정	얽힘 기반 센싱	고정밀 탐지, 국방·의료 응용

NISQ의 한계점 – ‘가능’과 ‘불가능’ 사이의 기술

NISQ 시대는 양자 컴퓨팅의 실용화를 위한 중요한 전환점이지만, 그 자체로는 아직 완전한 양자 컴퓨터가 아닙니다.

오히려 이 단계는 ‘극복해야 할 기술적 도전’을 명확히 보여주는 시기입니다.

이번 파트에서는 NISQ 시스템이 지닌 구조적 한계를 네 가지로 나누어 분석하고, 이를 극복하기 위한 주요 기술적 연구들을 함께 살펴보겠습니다.

1) 큐비트 수의 제약 – 작다, 너무 작다

현재 NISQ 기기의 큐비트 수는 수십수백 개 수준입니다.

그러나 현실 세계의 복잡한 문제를 해결하려면

수천수백만 개의 논리 큐비트가 필요합니다.

• 예) RSA-2048 키를 쇼어 알고리즘으로 해독하려면 최소 수천 개의 **오류 정정된 큐비트(logical qubit)**가 필요 → 실제 물리 큐비트는 수백만 개가 필요함

NISQ는 이 논리 큐비트 수요를 채울 수 없는 상태입니다.

2) 오류와 노이즈 – 가장 큰 기술 장벽

NISQ 시스템은 태생적으로 에러가 많은(noisy) 구조입니다.

그 이유는 다음과 같습니다:

• 큐비트의 상태가 주변 환경(열, 진동, 전자기파 등)에 쉽게 영향을 받음
• 큐비트 간 얽힘 유지 시간이 매우 짧음 (수 μ초~수 m초 수준)
• 게이트 연산 자체에도 확률적 오류가 발생함

현재의 물리 큐비트는 완전한 양자 오류 정정(Quantum Error Correction, QEC)을 적용하기에는 부족한 상태입니다.

3) 알고리즘 효율성 부족

NISQ 시스템에서는 오류 정정이 어려우므로,

길고 복잡한 연산을 요구하는 양자 알고리즘은 실행이 어렵습니다.

• 예) 쇼어 알고리즘은 NISQ 환경에서 구동 불가능
• 현재 NISQ에서 가능한 알고리즘은 주로 변분 알고리즘(VQE, QAOA)처럼 고전 컴퓨터와 협업하는 ‘하이브리드형’이 주류

이러한 알고리즘은 제한된 문제에만 적용 가능하고, 완전한 양자 계산의 잠재력을 아직 충분히 끌어내지 못합니다.

4) 하드웨어 불안정성과 제조 공정의 어려움

NISQ 장비는 매우 정밀하고 민감한 환경에서 작동합니다.

• 초전도 큐비트는 극저온(1K 이하)에서만 안정 작동
• 이온트랩 큐비트는 진공, 고정밀 레이저 시스템 필요
• 확장성 문제: 큐비트 수가 늘어날수록 에러율도 기하급수적으로 증가

현재는 산업화보다는 실험실 중심의 하드웨어 설계가 많습니다.

제조 단가, 유지 비용, 신뢰성 모두 해결 과제입니다.

극복을 위한 주요 연구 방향

이러한 한계를 극복하기 위해 다음과 같은 기술 연구가 활발히 이루어지고 있습니다.

1. 양자 오류 정정 (Quantum Error Correction)

양자 오류 정정은 하나의 논리 큐비트(logical qubit)를

수십~수백 개의 물리 큐비트로 보호하는 기술입니다.

• 대표 기법:
  • Surface Code
  • Cat Code
  • Bacon-Shor Code

IBM, Google은 2024년부터 Surface Code의 초기 구현 실험을 진행 중이며, 1개 논리 큐비트를 100개 이상의 물리 큐비트로 유지하는 데 성공하고 있습니다.

2. 큐비트 기술 다양화

기존 초전도 방식 외에도 다양한 큐비트 기술이 시험되고 있습니다.

큐비트 기술	장점	단점
초전도	빠른 연산, 통제 쉬움	냉각 요구, 에러율 존재
이온트랩	긴 얽힘 유지 시간	속도 느림, 확장성 부족
위상 큐비트 (Topological)	이론상 오류 내성 높음	아직 실현 어려움
광 큐비트	통신 네트워크와 호환성 높음	계산 연산이 제한적

다양한 방식이 병렬적으로 실험되며,

범용성 + 안정성을 추구하는 방향으로 발전 중입니다.

하이브리드 컴퓨팅 구조 고도화

현재 NISQ 시스템은 대부분 고전 + 양자 하이브리드 구조로 사용됩니다.

이 구조를 최적화하는 연구가 계속되고 있으며,

특히 변분 기반 알고리즘의 효율성 개선이 핵심 과제입니다.

• 예: VQE(Vaiational Quantum Eigensolver), QAOA
• 고전 컴퓨터가 반복 최적화 → 양자 연산 모듈이 에너지 상태 측정

NISQ 이후의 미래 – 완전한 양자 컴퓨터를 향하여

우리는 지금, ‘가능성과 한계’라는 두 개의 단어 사이에서 기술을 이야기하고 있습니다.

NISQ는 ‘지금 우리가 가진 가장 현실적인 양자 컴퓨팅’이며,

동시에 ‘미래의 거대한 비전으로 가는 징검다리’입니다.

이 마지막 파트에서는 NISQ 이후의 양자 컴퓨팅 발전 방향과

그로 인해 변화할 산업 지형, 그리고 사회와 인간이 함께 고민해야 할 과제를 함께 조망합니다.

1) 완전한 양자 컴퓨터란?

완전한 양자 컴퓨터(Universal Fault-Tolerant Quantum Computer)는 다음의 조건을 충족합니다:

• 수천~수백만 개의 논리 큐비트 확보
• 양자 오류 정정(QEC)이 실시간으로 적용됨
• 긴 얽힘 유지 시간과 고충실도(fidelity)를 바탕으로 안정된 게이트 연산 수행
• 양자 알고리즘 전반(예: 쇼어, 그로버 등)의 실행이 가능
• 고전 컴퓨터로는 불가능한 문제를 빠르고 정확하게 해결

이러한 시스템이 현실화된다면, 인류는 전례 없는 계산력의 신세계를 맞이하게 될 것입니다.

2) 기술 발전 시나리오

가. IBM의 로드맵 (2020~2033)

• 2024년: 1000큐비트급 ‘Condor’ 공개
• 2026년: 오류정정용 모듈화된 양자 시스템 발표 예정
• 2033년: 100만 큐비트 이상을 실현하여 상업용 양자 컴퓨터 출시 목표

나. 구글의 로드맵

• 2029년까지 논리 오류율 1e-9 수준 달성 목표
• 위상 큐비트(Topological Qubit) 연구 병행
• 목표: 양자 기후 모델링, 약물 개발, 재료 설계에 실전 투입

3) 산업적 전환과 비즈니스의 재편

양자 기술이 상용화된다면 다음과 같은 분야에서 대격변이 일어날 것입니다:

분야	변화 내용
정보 보안	기존 RSA, ECC 기반 암호 해체 → 양자 내성 암호(PQC) 필수화
제약·생명과학	신약 개발 시간 수년 단축, 실시간 분자 시뮬레이션 가능
AI	학습 속도 급증, 초고차원 데이터의 실시간 분석
기후/재난 예측	정밀한 시뮬레이션을 통한 장기 예측과 정책 설계
금융	초단위 고빈도 거래 최적화, 위험 예측의 정밀도 비약적 향상

실제로 Accenture, Microsoft, Baidu, Amazon 등은

자체 양자 연구소 또는 투자 펀드를 운영하며 선제적 진입에 나서고 있습니다.

4) 사회적 전환과 윤리적 과제

그러나 기술의 발전은 반드시 인간의 가치와 함께 논의되어야 합니다.

양자 컴퓨팅의 도래는 새로운 종류의 기술적 불평등과 정보 권력 집중을 야기할 수 있습니다.

• 어떤 국가, 어떤 기업이 먼저 ‘양자 우위’를 확보할 것인가?
• 암호가 해독된 세계에서 ‘디지털 프라이버시’는 어떻게 보장되는가?
• 양자 AI가 인간의 지능을 넘어서게 될 때, 우리는 누구에게 책임을 물을 것인가?

윤리, 법, 교육, 문화 등 사회 각 분야에서

기술에 대한 ‘인문적 감수성’과 ‘철학적 성찰’이 함께 자라나야 합니다.

마무리: NISQ, 길 위에서 피어난 가능성

NISQ는 완전하지 않지만,

우리는 이 미완의 기술 안에서 완전한 미래를 향한 단서를 발견하고 있습니다.

이것은 단지 과학의 이야기가 아닙니다.

지금 이 글을 읽고 있는 당신과, 이 세상을 살아가는 우리 모두의 미래 이야기입니다.

시리즈 3편 예고

『양자 컴퓨팅 시리즈 3편』은 다음 주제 아래 이어집니다:

주제: 양자 오류 정정 기술 – 불안정한 큐비트를 다루는 법

• 오류 원인 및 종류 (디코히런스 등)
• 주요 정정 코드 (Shor, Surface Code 등)
• 오류 정정 없이 해결하려는 접근 (Topological Qubit 등)
• 정정 기술이 사용화되기까지 걸림돌

• [양자컴퓨팅 시리즈 1편] 양자 컴퓨팅이 뭐길래? 큐비트부터 쉽게 정리!
• [양자컴퓨팅 시리즈 2편] NISQ 시대란 무엇인가? 현존 양자 컴퓨팅의 현실
• [양자컴퓨팅 시리즈 3편] 양자 오류 정정 기술 – 불안정한 큐비트를 다루는 법
• [양자컴퓨팅 시리즈 4편] 양자 컴퓨팅 활용사례 총정리
• [양자컴퓨팅 시리즈 5편] 양자 컴퓨팅의 미래와 산업전망