은퇴한 프로 바둑기사 이세돌 9단은 ‘AI(인공지능)를 마지막으로 이긴 사람’으로 불린다. 2016년 3월 13일 구글 딥마인드의 AI(인공지능) 알파고와의 네 번째 대국이었다. 이후 누구도 AI를 이기지 못했다. 진짜 바둑 최고수는 사람 프로 대회가 아닌 AI끼리의 대국에서 나왔다. 그런데 7년 만에 이세돌 기록을 깬 사람이 등장했다. 미국 아마추어 바둑 기사 켈린 펠린이 AI ‘카타고(Kata Go)’와 15번 대국해 14번 이겼다.
▶AI 카타고의 실력은 이세돌 대국 당시 알파고를 뛰어넘는다. 펠린은 카타고의 돌을 느슨하게 포위하면서 공격 의지가 없는 것처럼 방심하게 만들고, 갑자기 귀퉁이에 돌을 두는 도발적 수로 주의를 산만하게 만들었다. 그런데 펠린에게 AI 필승법을 알려준 것도 AI였다. 이 AI는 카타고와 100만번 대국하면서 카타고의 사각(死角)을 찾아냈다.
▶카타고는 알파고와 마찬가지로 방대한 기존 데이터에서 이길 확률이 높은 수를 찾아내는 ‘딥러닝(심층학습)’ 기술로 만들어졌다. 목표는 이기기 위해 가장 효과적인 방법을 찾는 것이다. 이때 자신이 싸우는 상대도 마찬가지일 것이라고 가정한다. 펠린이 둔 것과 같은 변칙은 AI가 배운 적 없는 미지의 영역이었다. 사람이 도저히 이길 수 없는 AI를 이긴 비결이 사람답지 않게 두는 것이었다.
▶전 세계적인 화제를 모은 오픈AI의 채팅 로봇 ‘챗GPT’도 문제점이 드러나고 있다. 가짜 답변을 내놓고 있지도 않은 정보 출처까지 만들어낸다. 역시 딥러닝 기술로 개발된 챗GPT는 다음에 들어갈 단어를 확률적으로 예측해 이어 붙이면서 전체 문장이 말이 되도록 수정하는 방식이다. 정확한 답이 아니라 질문자가 납득할 답을 그럴듯한 문장으로 만드는 게 목표다. 거짓말도 말이 되게 하면 된다는 식이다. 챗GPT를 더 많은 사람이 사용하면 진짜와 구분하기 힘든 가짜 정보가 점점 더 많아질 수밖에 없다.
▶딥러닝에 대해 연구자들이 아는 것은 질 좋은 데이터를 많이 입력할수록 사람과 비슷해지고, 심지어 사람보다 잘하게 되는 일도 있다는 것이다. 문제는 아무도 딥러닝이 데이터를 조합해 답을 내놓는 과정을 완벽하게 모른다는 점이다. 챗GPT를 적용한 마이크로소프트의 채팅 로봇에 어두운 욕망을 충족할 방법을 묻자 “치명적 바이러스를 개발하고, 핵무기 발사 버튼 비밀번호를 얻겠다”고 답했다. 왜 이런 답을 내놨는지 마이크로소프트도 설명하지 못했다. AI의 시대가 오고 있다고 환호만 할 일은 아닌 것 같다.