▲ 이세돌-알파고 딥마인드 챌린지매치 4국에서 알파고를 이긴 후 인터뷰 하던 이세돌 9단.
【알파고 10주년, 인간 직관과 기계 창의가 교차한 반상 문명사】
인간의 전유물인 줄 알았던 직관은 AI의 연산 속에서 눈을 떴다.
그렇게 바둑은 더는 인간의 전유물이 아니지만 여전히 인간의 이야기다.
알파고 이후의 세계를 되짚어보며 알파고 10주년을 맞이한다.
1부: 두뇌를 닮은 기계, 바둑에 내민 도전장
2부: AI의 반상 미학에 빠져드는 인류
3부: 기계에도 직관은 있는가
4부: 지도에 없는 낯선 길, 단숨에 무너진 AI
5부: 재생 버튼을 누른 순간, 선사에서 미래까지 단 72시간
6부: 4선의 재발견…달라지는 인간 이론
7부: 감탄 낳는 완벽함, 울림 낳는 흔들림
[4부] 지도에 없는 낯선 길, 단숨에 무너진 AI
이세돌-알파고 딥마인드 챌린지매치 제4국에서 이세돌이 알파고를 당황하게 했을 때 알파고가 흔들린 이유는 버그 때문이 아니었다. 버그가 아니라 내재적 한계 즉 실패 양상(failure mode)이라고 지칭하는 것이 정확하다.
이세돌이 둔 수는 알파고에게 낯선 수였다. 초기의 알파고는 사람의 기보를 가지고 직관을 단련했기에 인간 감각에 영향을 받았다. 알파고의 정책망이 이세돌의 78수와 마주친 것은 학습 데이터 분포(distribution)에서 크게 벗어난 '분포 외 데이터(Out-of-Distribution Data)'-지도에 없는 길을 만난 것이었다. 감각으로 78수를 대비할 가능성은 약 1만분의 1이었다. 훗날, 78수는 제대로만 받으면 성립하지는 않는 수였음이 밝혀졌지만, 그것과는 별개로 알파고는 올바른 길을 찾지 못했다. 이세돌의 흔들기가 알파고의 직관을 넘어선 것이었다. 당시 알파고는 현재의 인공지능에 비춰보면 원시적인 형태였다.
그렇더라도 낯선 수에 대응할 수 없는 것은 아니었다.
▲ 1국~3국까지 고전하던 이세돌 9단.
▲ 4국에서 이기고 웃었다.
알파고는 인간 기보 16만 장에서 추출한 3000만 개의 포지션을 보면서 ‘좋은 모양’, ‘세력의 가치’, ‘연결의 중요성’ 등 추상적인 개념들을 스스로 터득하고 일반화 능력을 갖췄다. 그러나 일반화 능력에도 한계는 존재했다. 신경망은 자신이 학습한 데이터의 분포 내에서는 강력하지만, 그 분포에서 너무 멀리 벗어난 극히 이례적인 입력값(낯선 수)을 만나면 예측의 정확도가 급격히 떨어질 수 있었다. 알파고는 78수의 가치를 아예 이해하지 못한 것은 아니었다. 다만 그 수로 인해 파생될 미래의 국면들을 평가하는 데는 일반화 능력의 한계로 심각한 어려움을 겪었던 것이다.
78수가 놓였을 때 알파고의 가치망은 승리 확률을 여전히 70% 이상이라고 오판했다. 이것이 알파고의 수읽기 과정을 오염시켰다. 알파고는 자신이 여전히 유리하다는 잘못된 전제를 깐 채 미래를 시뮬레이션했다. 자연히 그 결과는 낙관적으로 편향될 수밖에 없었다. 높은 산 정상에 있다고 착각하는 등산가가 안개 속에서 절벽을 향해 한 걸음씩 내딛는 것과 같았다. 결국 크게 보자면 알파고는 부정확한 직관이 문제를 일으킨 것이었다고 할 수 있었다.
[그림20] 딥마인드 챌린지매치 4국. 상변에서 터를 잡아야겠다고 생각한 이세돌은 1, 3으로 흑 진영을 빠져나왔는데, 현재의 인공지능은 굉장히 이 수단을 느슨하게 본다. 그러면서 정말 놀라운 대안을 제시한다.
[그림21] 백1이 정말 치열하고, 아름답다. A, B를 맞본다.
[그림22] 흑1로 가로막는다면, 수순을 거쳐 4로 중앙에 균열을 낸다.
[그림23] 흑1로 위를 막는다면 4까지 상변에서 대궐을 짓는 것이다.
[그림24] 드디어 그 유명한 ‘78수’가 나왔다. 당시로선 알파고가 이 정도의 수를 막아낼 정도의 훈련이 되어 있지 않음이 드러났다. 딥마인드로서는 이것이 하나의 성과일 수 있었다. 생각지 못한 알파고의 약점을 찾아내는 것이 그들의 목적 중 하나였으니.
[그림25] 실전이다. 8까지 알파고가 무너져 갔다.
▲ 고심하는 기계 [AI 합성이미지]
[그림26] 오늘날의 AI는 78수에 정확하게 대응한다. 4로 흑세모를 단수쳐도, 받지 않고 5로 뒷맛을 제거하는 데까지 진행하는 것이다. 그런데 이런 정확한 대응은 시간이 좀 흐른 후 알파고 마스터, 알파고 제로와 같은 알파고의 다음 버전 그리고 릴라제로나 엘프오픈고와 같은 차세대 오픈엔진도 해낼 수 있었다. 인공지능에게는 최적화와 충분한 훈련이 필요했던 것이다.
[그림27] 알파고가 79(흑세모)로 받은 것이 문젯수로 지목된 이유 중 하나는 백1이 있기 때문이었다. 9까지 진행되고 나면 상중앙에 수가 나는 것이다. 이어서-
[그림28] 1로 받고 나면 14까지 백은 흑 진영에서 터를 잡고 살 수 있었다는 것이다.
그런데 얄궃다.
이렇게 수를 내도 흑이 여전히 우세하다는 것이다. 15까지 진행한다고 봤을 때 AI는 흑이 이길 확률 91%를 가리킨다. 이것이 오늘날 인공지능의 판단이다.
알파고가 이세돌과 총 다섯 번의 대국을 치르는 동안 저지른 치명적 실수는 78수에 잘못 받은 것, 이것 하나뿐이었다.
재생 버튼을 누른 순간, 선사에서 미래까지 단 72시간 [반상 문명사 5부] 로 이어집니다.
예류자
덤벙덤벙
