‘수학계 노벨상’으로 불리는 필즈상(Fields Medal)을 받은 허준이(41) 미국 프린스턴대 교수는 연구실 한쪽 벽 전체가 칠판이었다. 가로 6.5m, 세로 2.3m. 그 칠판에 분필로 적은 수식과 기호, 도형이 파도처럼 춤추고 있었다. 그가 빙그레 웃으며 말했다. “이쪽은 지난주에 동료 수학자와 일한 흔적이고, 저쪽은 지지난 주에 생각한 거예요. 시간의 퇴적층처럼 보이지요?”
허준이 교수는 안식년을 맞아 서울 동대문구 고등과학원에서 연구 중이다. 지난해 문을 연 ‘허준이 수학난제연구소’는 걸어서 10분 거리다. 지난 11일 그를 만나러 가는 길에 세계 톱클래스 수학자의 공간은 얼마나 질서정연할지 상상했다. 웬걸 연구실은 휑뎅그렁했다. 흔한 그림 한 점 없었고 책장도 텅 비어 있었다. 칠판에 일렁이는 수식과 기호, 책상에 뭉텅이로 놓인 노란 메모지가 없었다면 빈방으로 오해할 뻔했다.
수학자는 칠판과 분필, 펜과 종이만으로도 사건을 일으킨다. 허 교수는 2022년까지 10년 동안 ‘리드 추측’ ‘로타 추측’ 등 오래된 난제 11개를 증명해 냈다. 천재들의 업적은 재능의 결과인가 노력의 결과인가. “제가 접해본 천재들은 모두 노력을 많이 하는 사람들이었어요. 애쓰는 과정이 굉장히 자연스러워서 그것이 고통스럽거나 짐이 되지 않는다는 공통점도 있었습니다.”
◇필즈상? ‘벌’을 받는 기분
허 교수는 미국에서 태어났지만 국내에서 초·중·고를 나와 석사까지 마쳤다. 대학원부터 수학을 공부한 늦깎이 수학자지만 경우의 수를 찾는 조합론 문제를 도형을 연구하는 대수기하학 방법으로 해결하며 스타로 떠올랐다. 2022년 7월 핀란드에서 열린 국제수학자대회에서는 한국계 최초로 필즈상을 받았다.
-필즈상 이후 근황이 궁금합니다.
“본질적으론 달라진 게 없어요. 수학 바깥에서 해야 할 일이 좀 더 생겼습니다. 연락과 이메일이 많아지고, 인터뷰나 강연 요청을 받으면서 시간을 빼앗겨요. 무게감을 느끼지만, 수학자는 세상과 소통이 안 될수록 좋아요(웃음). 속 편하게 연구에만 집중할 수 있으니까요.”
-제가 ‘언론계의 라이징 스타’ ‘하늘이 내린 천재 기자’ 소리를 듣는다면 잠깐 기분이 좋다가도 머리가 무겁고 소화가 안 될 것 같습니다만.
“필즈상의 기쁨도 며칠 안 갔어요. 그 이후에도 수십 년 동안 일상을 살아가야 하잖아요. 필즈상은 사전에 통보를 받았으니까, 좋은 기분은 시상식 열리기도 전에 사라져 버렸지요. 하하.”
-한때 시인을 꿈꾸고 고교도 중퇴했는데, ‘내가 걸어온 구불구불한 길이 내게는 가장 빠른 길이었다’는 수상 소감이 인상적이었습니다. 지금은 직선 활주로 위에 있다고 생각하나요?
“그렇지는 않고 현실은 정반대에 가깝습니다. 아무래도 신경 쓸 게 많아져서 연구자로서는 페널티(벌칙)를 받은 기분이에요.”
-상이 아니라 벌이라고요?
“네. 노벨상이나 필즈상을 받은 과학자들이 평생 어떤 결과물을 냈는지 통계적으로 살펴본 연구가 있습니다. 수상자들 대부분은 연구 아웃풋이 떨어졌어요. (그 흐름에 저항하는지 묻자) 모두가 최선을 다해 저항하겠지요. 저도 그렇고요.”
-허준이의 전성시대는 끝난 건가요?
“아직 안 왔습니다. 젊을 때는 너무 열심히 하는 것을 경계할 만큼 공부를 많이 했어요. 하루 24시간 주구장창 달리던 시절이 종종 그립습니다. 요즘에는 집에 가면 열 살과 세 살 난 아이들이 있으니까 자연스럽게 초기화가 돼요. 제 전성시대는 둘째를 대학에 보내고 나서 올 겁니다(웃음).”
-저는 사실 칠판에 압도됐는데, 수학자는 100년 전이나 지금이나 별 차이가 없나요?
“도구는 똑같지만 현대의 수학자가 이해하는 게 훨씬 많아요. 100m 세계기록은 100년 전보다 1초쯤 빨라졌을까요? 요즘 수학자들이 이해하는 깊이는 100년 전 그들과 10만배 차이가 날 거예요.”
-수학자에게 칠판과 종이는 크기 말고 어떤 차이가 있습니까.
“종이에 적으면 그 지식이 영원할 거라는, 소유하는 듯한 착각을 줍니다. 칠판은 달라요. 뭘 쓰더라도 이해하고 소화한 만큼만 내 것이고 지우는 순간 영원히 안녕입니다. 지식의 휘발성을 보여준다는 점에서 칠판이 더 매력적이에요. 순간이 소중해지니까요. 종이에 적어두면 혹시 길을 잃어도 구제받을 거라는 환상을 갖지만, 칠판은 ‘그렇지 않다’는 현실을 차갑게 일깨워 줍니다.”
-칠판에 적은 걸 카메라로 찍어두면 되잖아요?
“그 유혹이 매우 커요. 솔직히 말할까요? 제 휴대폰 사진첩에 많이 있어요. 하하하. 그렇지만 실제로 다시 찾아보게 되는 경우는 매우, 매우, 매우 드물어요.”
◇누군가의 멘토가 된다는 것
허준이 수학난제연구소는 미래 인재 양성, 수학 난제 연구, 글로벌 연구 거점화를 목표로 한다. 허 교수는 “수학자들이 걱정 없이 연구에 몰입할 수 있는 환경”이라며 “안정적으로 지속될 수 있도록 지원이 필요하다”고 했다.
-서울대 시절 히로나카 헤이스케 교수(필즈상 수상자)가 멘토가 돼준 것처럼, 이제 교수님이 누군가의 멘토가 됐습니다.
“멘토 역할이 부담스러웠어요. 뚜렷한 생각을 밝히고 조언하는 성격이 아니거든요. 제 코가 석 자예요(웃음). 좋은 연구를 하는 방법론을 가진 것도 아닙니다. 그런데 저를 잘 정립된 학자로 인식하던 분들이 제 고민과 막연함, 망설이는 모습 등을 보면서 거꾸로 안도감과 자신감을 갖는 것 같아요. 필즈상 받은 허준이도 본질적으론 별 차이가 없구나, 어려운 과정을 거치는 건 매한가지구나….”
-가르치는 기쁨은 어떻게 다른가요?
“가르칠 때는 즉각적으로 보상이 와요. 연구는 100번, 1000번 시도해도 계속 실패의 연속입니다. 아주 긴 시간 동안 아무 보상이 없다가 어느 날 ‘아, 이렇게 되는구나’ 하며 큰 즐거움을 주지요. 저도 100일 중 99일은 ‘오늘도 허탕쳤구나’예요.”
-수학의 가장 큰 매력이라면.
“많은 사람이 독립적 과정을 거쳐 같은 결론에 닿고 깨끗하게 소통하는 것이지요. 결론까지 가는 과정은 고통스럽지만 한번 도달하고 난 사람들끼리는 완벽히 동의하게 됩니다. 또 하나의 매력은 수학에는 우리가 이해하지 못하는 문제나 구조가 어마어마하게 많다는 거예요. 어느 방향으로든 조금만 걸어가면 미지의 영역에 도착해요.”
-그건 답답한 것 아닌가요?
“수학자에게는 대부분의 경우 굉장히 큰 즐거움입니다. 모르는 것을 이해할 가능성이 열려 있으니까요. 종교인이 초월적 존재에게 배우고 마음의 평화를 얻는 것처럼, 이따금 굉장히 신비하면서도 만족스러운 상태를 경험하게 됩니다. 시시해질 틈이 없어요.”
-수학 공부를 하면서 보람이라면.
“여러 문화권에서 다른 방식으로 성장한, 굉장히 재능 있는 사람들과 교류하며 생각을 섞을 수 있다는 점이에요. 그들 틈에 들어가면 ‘나는 똑똑하구나’는 저절로 사라집니다. 자아가 작아졌고 겸손해졌어요. 땅에 발을 붙이고 현실을 정확히 보며 살고 있습니다.”
-어느 분야에서 어떤 연구를 하는지 쉽게 설명해 주십시오.
“수학은 역사가 길어서 몇몇 분야로 갈라졌어요. 먼저 셀 수 있는 구조를 말하는 이산(離散)수학적인 대상이 있습니다. 다음으로 대수(代數)적인 분야, 기하학이라는 공간에 대한 분야도 있습니다. 제가 하는 일은 서로 다른 종류의 수학적 대상들 사이에 ‘다리’를 놓아 한 가지 분야에서 연구되는 대상을 다른 분야의 도구나 사고방식으로 이해하고자 하는 거예요. 대수기하학과 조합론을 연결 짓는 데 집중합니다.”
-그런 연결점을 어떻게 찾습니까.
“어떤 대상을 이해하는 데 첫 번째 겪는 어려움은 적당한 언어를 가지고 있지 않아서예요. 인간은 언어에 기반해 사고하는 종(種)이니까요. 적당한 언어를 개발해 그 대상을 기술하는 시기가 오지만, 그 언어라는 틀이 강제하는 편견도 있어서 결국 더는 나아갈 수 없는 지점에 도착합니다. 그럴 땐 허물어야 해요. 그동안 발전을 가능하게 한 프레임의 편견을. 저는 정확히 그 일에 종사하고 있습니다.”
-수학적 편견 또는 고정관념을 허무는 작업이군요.
“(고개를 끄덕이며) 그렇게 언어를 쌓고 허물고 쌓고 허물고 하면서 조금씩 나아가는 게 아닐까 생각해요.”
◇수학자의 하루는?
한국 수학의 미래에 대해선 낙관했다. 그는 “굉장히 빠른 속도로 성숙해 가고 있다”며 “10년 전만 해도 국내 박사가 해외 유명 대학에서 자리를 잡기란 꿈같은 이야기였는데, 요즘 수학과 박사 과정 학생들의 연구는 세계 톱 대학에서 교수직 얻는 사람들의 수준과 크게 다르지 않다”고 했다.
-평범한 일과가 궁금합니다.
“오전 7시 52분에 큰아들을 학교 셔틀에 태웁니다. 8시에 집 근처 카페에 도착해 커피를 마시고, 9시에 지하철을 타고 세 번 환승해 회기역에 내립니다. 고등과학원까지 걷는 데 20분 걸려요. 10시에 연구실에 도착하죠. 오후 5시에 퇴근하고요.”
-지하철이나 거리에서 알아보는 사람도 있겠네요.
“그럴 땐 부인하지 않고 어색하게 웃어요. ‘사인해 달라’ ‘사진 같이 찍자’고 해도 역시 어색하게 웃으며 응합니다. (불편하면 운전을 하면 되지 않느냐고 하자) 제가 운전을 좀 무서워해요.”
-귀가하면 평범한 가장이 됩니까.
“제가 평범하지 않은 가장이라는 것을 전제한 질문 같군요. 아이들과 잘 놀아줍니다. 수학자라고 특별하지 않아요. 집중이 안 될 땐 유튜브도 보고요.”
-허 교수를 만난다니까 수학 교육법을 궁금해하더군요. 2년 전엔 큰아들이 수학 문제를 내고 허 교수가 풀고 큰아들이 채점한다고 했는데 이제 초등학교 3학년이죠?
“네, 동그라미 개수 맞히는 수준은 벗어났어요. 요즘 귀가하면 ‘숙제했니?’ ‘숙제 왜 안 하니?’ ‘지금 해야 되지 않을까?’ 이렇게 말하는 단계가 됐습니다. 하하.”
-어려서 부친(허명회 고려대 통계학과 명예교수)에게 당한 수학 문제집 숙제의 대물림인가요?
“아휴, 그래도 숙제는 해야죠! 요즘은 ‘아드님’이 학교에 있는 시간도 길어지고 바빠졌어요. (구구단은 뗐는지 묻자) 외우게 하지는 않았는데 시간은 좀 걸려도 정확한 답을 찾아내더라고요. 궁금한 게 생기면 묻기도 하는데, 아내도 수학자지만 제가 더 친절하게 가르쳐준다고 저는 생각합니다.”
-유튜브에서는 아내분이 ‘팁 15%를 계산하지 못해 그냥 20%를 주는 남자’라고 폭로했는데.
“계산이 어렵다기보다는 멘털 에너지를 소모하는 일이라서요. 수학 연구에 쓸 것도 부족한데. 하하. 사실 아내와 해마다 수능 문제 풀기 시합을 하곤 합니다. 수학 빼고는 다 자신 있어요!”
-음식 기다리는 시간도 아까워서 손님 없는 식당에 가고, 물건 구매할 때도 가격 비교 따위는 안 하셨다면서요. 요즘도 시간을 아끼며 사나요?
“아내가 들으면 웃음이 빵 터지겠네요. 그 시절에는 수학에 몰입하면 생각을 멈추지 않는 습성이 있었어요. 문제에서 빠져나오면 다시 들어가기 어려우니까요. 아까 말했듯이 지식은 휘발성이 강해요. 10까지 가야 하는데 5에서 멈추면 돌아갈 때 5부터 시작하는 게 아니라 다시 처음부터 올라가야 해요. 등산할 때 어느 높이까지는 도착해야 쉬기 적당한 장소가 있듯이, 수학에도 그런 지점들이 있습니다. 뭉텅이 시간과 뭉텅이 주의력을 요구해요.”
-등산에서 가장 난코스는 집에서 산 밑까지 가는 것이라고 하지요.
“맞아요. 수학도 예열이 필요하고 시작하기가 힘들어요.”
◇허준이가 본 ‘의대 광풍’
거칠게 말하면 한국은 입시 때문에 수학에 목숨을 걸거나 아예 포기하는 나라다. 사회에서 수학은 어떤 쓸모가 있을까. 허 교수는 “다른 수학자라면 구글 검색엔진에 행렬이 사용되고 AI 모델에 그래프 이론을 활용한다고 답할 텐데, 더 근본적으로 수학은 우리가 생각하는 데 필요한 언어를 개발하는 일”이라며 수학을 변호했다.
-좀 더 설명해 주신다면.
“예컨대 30만년 정도 거슬러 올라가서 인간이 언어를 자연스럽게 사용할락 말락 하고 있을 때, 언어를 가지는 게 농사나 사냥에는 별 도움이 되지 않았을 거예요. 하지만 현대에 우리가 누리는 대부분은 언어를 통해 서로 다른 개체, 서로 다른 세대와 소통함으로써 지식을 축적한 결과물입니다. 수학도 자연적이거나 추상적인 것을 이해할 때 가장 유용하게 쓸 수 있는 언어예요.”
-수학의 오랜 난제를 AI가 먼저 푸는 날도 올까요?
“저는 그렇지 않을 거라고 봅니다. 다만 가까운 미래에 인간 수학자와 AI가 협력하면서 이전 세대 연구자들이 가지 못한 깊이까지 도달하게 될 거예요. 말하자면 그동안 이해하지 못한 것을 두뇌 외에 AI를 이용해 이해하게 되는 거죠. (수학자로서 허탈하진 않은지 묻자) 전혀요. AI도 인간이 만든 거잖아요.”
-의대 광풍이라는 말 들어보셨나요?
“그럼요. 제가 02학번인데 의대에 갈 수 있는 성적이면 가는 게 디폴트(기본값)였어요. 의사가 되고 싶어서 의대에 가는 게 아닌 학생들도 있지요. 사회가 여러 간접적인 주입을 통해 ‘의대에 가야지’라고 생각하는 학생 수를 지나치게 많이 만들어내는 게 문제라고 봅니다.”
-수학과 물리 같은 기초과학을 전공할 경우 미래에 대한 불안, 막연한 공포가 있지 않을까요?
“동의합니다. 의술이라는 게 ‘아픈 사람을 직접 도울 수 있다’는 강력한 근본이 있고, 덤으로 의사는 다른 길과 달리 불확실성이 굉장히 작잖아요. 그 두 가지가 의대 광풍의 배경이겠지요.”
-스탠퍼드와 프린스턴에서 강의해 보니 한국 학생들이 더 잘 준비돼 있다는 느낌은 받지 않았다면서요?
“좁은 범위의 문제를 완벽하게 실수 없이 푸는 데 시간을 많이 쓰느라 그 너머의 것들, 깊고 넓게 공부하는 종류의 준비는 덜 돼 있는 것 같습니다. 스스로에게 제약을 걸지 않으면 굉장히 어린 나이에도 굉장히 멀리까지 갈 수 있어요.”
-미국의 과학 전문 매체 콴타매거진은 허 교수가 박사 학위도 받기 전에 수학 난제를 푼 데 대해 ‘테니스 라켓을 열여덟에 잡았는데 스물에 윔블던 대회에서 우승한 것’이라고 비유했더군요.
“여덟 살에 미적분을 했다는 동료 교수들에 비하면 제가 늦게 시작한 것은 맞아요. 그렇다고 해도 열여덟에 테니스 라켓을 잡았다는 건 과장이고요(웃음).”
-10년 동안 11개의 난제를 증명했는데, 그 해결의 순간은 굉장한 흥분 상태일 것 같습니다.
“(곰곰이 생각하다가) 새로운 장소를 발견한다거나 멀리서 보긴 했지만 한 번도 갈 수 없던 산봉우리를 등정한 기분이었어요. (12번째를 빨리 증명해야 한다는 강박은 없는지 묻자) 있지요! 상을 받으면 안 좋은 게 ‘이번 논문을 사람들이 시시하다고 생각하면 어쩌나’ 하는 불안과 걱정이 생겨요. 수학 연구에 정확히 방해되는 심리죠.”
-그 불안을 어떻게 떨쳐내나요?
“답은 없어요. 아이들과 놀거나 하면 기분이 전환됩니다. 아이들은 전혀 다른 시선으로 나를 대하고 전혀 다른 기대를 하고 있으니까요. 말하자면 리셋이 되면서 처음부터 다시 시작하게 합니다.”
-’시작하기에 늦은 때는 없다’는 수상 소감이 큰 울림을 줬습니다. 수학을 즐기고 싶은 ‘허준이 키즈’가 경쟁에서 이겨야 하는 입시 때문에 수학에 대한 흥미를 잃어버리면 안 될 텐데요.
“소중한 학창 시절을 공부하는 데 사용하는 게 아니라 평가받는 데 사용한다는 게 문제예요. 저는 교육에 대해 비전문가지만 학생들이 이런 현실에 주눅들지 말고 실수 없이 빨리 푸는 것보다 마음이 이끄는 대로 폭넓은 공부를 하길 바랍니다. 교육 당국은 그런 학생들의 용기가 배신당하지 않도록 해야 하고요.”
◇수학은 죄가 없다
이 문제에 접근할 때 기본 원칙은 뭘까. 허 교수는 “마음과 흥미가 가는 대로 거침없이 배울 수 있는 환경이 필요하다”며 “실수 안 하는 공부가 아니라 하고 싶은 공부를 해야 한다”고 답했다.
-재작년에 서울대에서 졸업식 축사를 했지요? 자신에게 하는 말처럼 들렸습니다.
“네! 사실 저 자신에게 뭔가를 조언할 수 있는 대상은 저 하나뿐이라고 생각하거든요.”
-방황하는 학생들에게 하고 싶은 말이라면.
“하하하. 그건 잘 모르겠네요. 미래를 걱정하지 말고 하루씩 사는 게 답인 것 같아요.”
-일상에 빈칸이 필요하다는 건 무슨 뜻인가요.
“그 전에 하지 못한 생각, 닿지 못한 단계에 이르려면 그런 여백이 중요해요. 스마트 기기를 너무 많이 사용하기 때문에 빈칸이 그걸로 채워지는데, 단기적으로는 자극과 지식을 주는 것 같지만 그만큼 우리의 포텐셜을 깎아먹고 있어요.”
-선한 영향을 주고 있는데 한국 사회를 업그레이드하려면 뭐가 필요할까요.
“젊은 학자들이나 학생들에게 하고 싶은 말은 자신이 어떤 것에 흥미를 느끼고 좋아한다는 것 자체가 굉장히 큰 자산이라는 겁니다. 어떤 행위를 즐긴다는 것은 훼손되기 쉬운 종류의 자원이에요. 그 가치를 스스로 인식하고 안전하게 보호해야 해요.”
-학부모가 되고 보니 어떤가요.
“다시 한 사이클이 지나고 원점으로 돌아온 것 같아요. 제가 긴 과정을 한번 거치면서 ‘음, 이렇게 하면 되는구나’ 생각했다가 큰아들이 그 사이클의 초입에 들어서니까 모든 게 초기화됐습니다. 하하하.”
-다음 목표라면.
“없어요. 의식적으로 세우지 않아요. 연구를 방해하니까요.”
마지막으로 수학에 고통받는 학생들에게 해주고 싶은 말을 청했다. 허 교수는 “수학은 죄가 없다”고 잘라 말했다. “수학은 굉장히 어렵고 추상적인데 사실 그게 수학의 매력이에요. 고통스럽고 밉다는 건 이런저런 불가피한 이유에서 성적으로 평가받기 때문이지, 수학을 탓할 일은 아니죠.”
필즈상 수상자도 수학 너머 일상에서는 버거운 난제가 있었다. 부탁 거절하기, 운전과 주차, 교육과 양육···. 그는 “세상에 쉬운 일이 드물다는 생각을 자주 한다”며 컴퓨터와 인공지능 발전에 기여한 수학자 존 폰 노이만의 말을 인용했다. “사람들이 수학이 단순하다는 것을 믿지 않는다면, 삶이 얼마나 복잡한지 알지 못하기 때문입니다.” 삶에 비하면 수학은 복잡하지 않고 간단하다는 뜻이다.
☞필즈상
국제수학연맹이 1936년부터 4년마다 가장 뛰어난 연구 업적을 쌓은 40세 미만 수학자에게 수여한다. 노벨상에는 수학 분야가 없어 ‘수학계 노벨상’이라 부른다. 허준이 교수는 1968년 제기된 ‘리드 추측’을 비롯해 난제 11건을 풀었다.