14일(현지 시각) 발표된 국제 학술지 ‘네이처’ 표지 논문에 획기적인 양자 컴퓨터 연구가 선정됐다. 표지에는 검은색 배경에 흰 점과 선으로 이뤄진 ‘양자 회로’의 모습이 그려져 있다. 표지 왼쪽의 흐릿한 회로는 오른쪽으로 갈수록 뚜렷해진다. 점차 정확해지는 양자 컴퓨터를 의미한다. IBM 연구진은 이 연구에서 지금까지 양자 컴퓨터 상용화의 가장 큰 걸림돌로 꼽히던 계산 오류를 줄이면서 수퍼 컴퓨터를 뛰어 넘는 양자 컴퓨터를 만들어냈다. IBM의 한인 과학자 김영석(36) 박사는 과학계를 놀라게 한 이번 논문의 제1공동저자로 연구를 주도했다. 김 박사는 본지 인터뷰에서 “끝이 보이지 않던 연구를 해냈다는 점에 보람을 느낀다”고 말했다.
전통적인 컴퓨터의 단위인 비트는 0과 1, 두 가지로 정보를 처리한다. 반면 양자 컴퓨터의 정보처리 단위는 0과 1이 동시에 될 수 있는 큐비트다. 00, 01, 10, 11 같은 식이다. 덕분에 양자 컴퓨터는 한 번에 많은 계산을 처리할 수 있어 기존 컴퓨터보다 처리 속도가 월등히 빠르다. 2019년 구글은 수퍼 컴퓨터로 1만년 걸릴 계산을 양자 컴퓨터로 3분20초 만에 이뤄낸 바 있다. 하지만 양자의 단위인 큐비트는 0과 1이 중첩되는 현상 때문에 오류(노이즈)가 생길 수 있고, 큐비트를 늘릴수록 오류도 커지면서 정확한 결과를 얻지 못하는 문제가 있었다.
김 박사는 “양자 컴퓨터를 산업에 사용하기 위해서는 100개 이상의 큐비트가 필요하다”며 “이번 연구에서 127 큐비트 양자 컴퓨터의 노이즈를 줄이는 방법을 찾아내 기존 수퍼 컴퓨터보다 더 정확한 결과를 도출했다”고 말했다. 김 박사 연구팀의 양자 컴퓨터와 미국 UC버클리 연구팀의 수퍼 컴퓨터로 문제 난도를 높여가며 계속 연산을 시키자 수퍼 컴퓨터는 문제가 어려워질수록 성능이 급격히 저하되며 정확도가 떨어졌다. 반면 양자 컴퓨터는 계속 빠른 속도로 정확한 답을 내놓았다. 양자 컴퓨터가 신약 개발이나 반도체처럼 정밀도를 중시하는 산업 분야에서 활용될 수 있는 길이 열린 것이다.
김 박사는 “어렸을 때 프라모델을 좋아하고 친구들이 문방구에서 산 작은 장난감을 대신 만들어주던 평범한 학생이었다”며 “자연스레 엔지니어가 되고 싶단 생각을 했고 포스텍 전자전기공학과에 입학했다”고 말했다. 김 박사는 대학교 2학년 양자 수업을 들으며 흥미를 느끼기 시작했다. 그는 “거시 세계에 적용되는 뉴턴의 운동 방정식이 미시 세계에서는 들어맞지 않는데, 양자가 이 현상을 설명할 수 있다는 점이 신기했다”며 “넓은 세상을 접하고 싶어 유학을 결심하게 됐다”라고 했다. 김 박사는 일리노이대 대학원 시절 양자 현상이나 신소재 물질을 연구하다가 양자 현상을 활용할 수 있는 양자 컴퓨터를 연구하기로 결심했다. 그래서 양자 컴퓨터의 최전선을 이끄는 IBM에 입사했다.
김 박사는 “이 세상에서 누구도 모르는 답을 찾아야 하고, 아무도 가보지 않은 길이라 불확실성이 너무 컸다”며 “언제 끝날지 모르고 실패할 수도 있다는 불안감 속에서 연구했다”고 말했다. 연구실에서 퇴근하고도 계속 머릿속에서 양자에 대한 생각이 맴돌았다. 김 박사는 “신기술을 먼저 관찰하고 기술의 발전에 기여할 수 있는 경험은 흔한 일이 아니다”라며 “앞으로도 많이 배워가며 사회에 영향을 미치는 연구를 해 나갈 것”이라고 말했다.