엔비디아, 양자 AI 모델 아이싱 공개…양자컴 최대 난제 '오류' 때려잡는다 - 디지털투데이

[디지털투데이 홍진주 기자] 엔비디아가 양자컴퓨터의 보정과 오류 수정을 위한 오픈 소스 인공지능(AI) 모델군 '아이싱'(Ising)을 공개했다. 양자컴퓨팅 상용화를 가로막아온 핵심 병목을 AI로 해결하겠다는 구상이다. 14일(현지시간) 실리콘앵글에 따르면, 엔비디아는 아이싱이 연구기관과 기업이 대규모 응용을 처리할 수 있는 양자컴퓨터 개발에 활용될 것이라고 밝혔다. 양자컴퓨터는 실제 활용 단계로 가기 위해 수백만개의 큐비트를 안정적으로 다뤄야 한다. 하지만 큐비트는 외부 환경 변화와 잡음에 취약하고 오류가 잦아, 시스템 규모가 커질수록 실시간 보정과 오류 수정이 필수로 꼽힌다. 엔비디아는 이런 병목을 해결할 첫 적용 분야로 디코딩(Decoding, 복호화)과 캘리브레이션(Calibration, 교정)을 선택했다. 젠슨 황 엔비디아 최고경영자(CEO)는 "AI는 양자컴퓨팅 실용화에 필수"라며 "아이싱을 통해 AI가 양자 장비의 제어 평면, 즉 운영체제 역할을 맡게 될 것"이라고 말했다. 이어 취약한 큐비트를 확장 가능하고 신뢰성 있는 양자-GPU 시스템으로 전환하겠다는 비전을 제시했다. 아이싱은 두 가지 핵심 모델로 구성된다. '아이싱 디코딩'(Ising Decoding)은 양자 오류 수정용 모델로, 3차원 합성곱신경망 기반의 두 가지 버전(속도 최적화·정확도 최적화)으로 제공된다. 엔비디아는 이 모델이 기존 공개 소스 표준인 파이매칭 대비 최대 2.5배 빠르고, 정확도는 3배 높다고 설명했다. '아이싱 캘리브레이션'(Ising Calibration)은 물리 제어 신호를 조정하고 측정해 시스템 상태를 최적화하는 모델이다. 마이크로파와 레이저 등 제어 신호를 다루며, 시간에 따라 발생하는 잡음과 하드웨어 불안정, 매개변수 변동을 보정한다. 이는 비전-언어 모델(VLM) 기반으로 양자 프로세서의 측정값을 해석해 지속적인 보정 작업을 자동화하는 AI 에이전트를 구동한다. 현장 적용도 진행 중이다. 아이싱 디코딩은 코넬대, 샌디아 국립연구소, UC샌디에이고, UC샌타바버라 등이 도입했으며, 캘리브레이션 모델은 아이온큐, IQM 등 기업과 연구기관에서 활용되고 있다. 엔비디아는 이와 함께 양자컴퓨팅 워크플로와 학습 데이터를 포함한 가이드, 엔비디아 NIM 마이크로서비스도 공개했다. 개발자는 이를 통해 다양한 하드웨어 환경에 맞춰 모델을 커스터마이즈하고, 내부 시스템에서 직접 실행해 민감한 데이터를 보호할 수 있다. 엔비디아는 아이싱을 단일 모델이 아닌 ‘양자-GPU 통합 슈퍼컴퓨팅’으로 가는 출발점으로 규정하고 있다. 이에 따라 양자컴퓨터 상용화를 가로막아온 오류 수정과 장비 보정 문제가 AI로 얼마나 개선될지가 향후 핵심 관전 포인트로 떠오르고 있다.