행복한 사회와 내쉬(Nash)균형

▲ 서의호 포스텍 교수·산업경영공학과

지난 주 영화 `뷰티풀 마인드`의 실제 주인공이자 노벨경제학상을 받은 수학자 존 내쉬와 그의 부인 알리샤가 자동차 사고로 사망했다는 뉴스가 과학계를 강타했다.

정신분열증을 앓는 천재 수학자에서 `게임이론의 아버지`로 자리매김하기까지 존 내쉬 프린스턴대 명예교수의 인생 역정은 파란만장했다. 그의 대표적인 이론인 `내쉬균형(Nash Equilibrium)`은 필자의 전공분야인 산업공학의 운용과학(OR)의 한 분야인 게임이론의 중요한 이론으로 자리잡아 왔기에 개인적으로 그의 죽음이 특히 큰 충격으로 다가왔다.

내쉬는 20대에 세웠던 내쉬균형 이론으로 수학의 노벨상이라는 필즈상 수상 후보로 일찌기 거론되었으나 너무 젊은 나이라는 이유로 수상하지 못했고 후에 정신분열증에 걸려 필즈상을 받을 기회를 영원히 잃어버렸다. 하지만 지난 1994년 게임이론으로 경제학상을 수상했다. 그의 게임이론은 수학에 기반하고 있지만 경제학 발전에 이바지하면서 노벨경제학상을 받게 된 것이다.

그의 드라마틱한 삶은 영화로도 구현되었다. 영화 `뷰티풀 마인드`는 27쪽짜리 논문 하나로 150년 동안 지속되어 온 경제학 이론을 뒤집고 신경제학의 새로운 패러다임을 제시한 천재 수학자 존 내쉬의 이야기를 담은 이야기로 2002년 아카데미상 작품·감독상 등 4개 부문을 수상한 명작이다.

1940년대 최고의 엘리트들이 모이는 프린스턴 대학원 장학생으로 입학한 존 내쉬는 이미 입학 당시부터 수학 천재로 불리지만 너무나 내성적이나 무뚝뚝해 보이고, 자기 생각만으로 꽉 차 사람들과 잘 어울리지 못했다. 다소 괴짜 같은 모습을 보이던 존 내쉬는 어느날 술집에서 학교 친구들이 금발의 미녀를 둘러싸고 벌이는 경쟁을 지켜보다가 이를 바탕으로 `균형이론`의 단서를 발견하며, 이 논문을 발표한 후 20살의 청년 존 내쉬는 하루 아침에 제2의 아인슈타인으로 떠오른다. 그러나 제2의 아인슈타인이라 불린 인물이지만, 30년 동안 정신분열증에 시달렸다. 그러나 이 모든 것을 이겨내고 노벨경제학상을 수상, 영화보다 더 극적인 삶을 살았다.

게임이론에서 내쉬균형이란 무엇인가?

내쉬균형은 각 경기자들은 다른 경기자들의 균형전략을 알고 있고 어떠한 경기자들도 자신의 전략을 바꾸지 않을 유인이 있다고 가정하는 두 명이나 그 이상의 경기자들의 비협조적인 게임에 관한 해결방식이다. 만약 각 경기자들이 자신의 전략을 고수하고 아무도 전략을 바꾸지 않는다면 현재의 전략선택은 내쉬균형에 부합하는 결과를 갖게 된다.

다시 말해, 각 참여자가 상대방의 전략을 주어진 것으로 보고 자신에게 최적인 전략을 선택할 때 그 결과가 균형을 이루는 최적 전략의 집합을 말한다. 즉 상대방의 전략이 공개되었을 때 어느 누구도 자기 전략을 변화시키려고 하지 않는 전략의 집합이라고 말할 수 있다. 그리고 이러한 전략 구성이 두 참여자에 의해 모두 예측되었을 때 이 게임은 내쉬 균형에 도달하게 된다.

그러나 내쉬균형은 각각의 플레이어의 이기적인 입장에서 보면 최적의 귀결을 반드시 의미하지는 않는다는 것이 우리에게 중요한 시사점을 던져준다.

기업들, 개인들이 개인의 이익을 위한 전략에 몰두하고 있다. 남을 이기기 위해 경쟁기업을 이기기 위해 전략을 사용한다. 때로는 필요에 따라 소비자를 중독시키기도 하고, 제품의 위상 제고를 위해 과장된 광고전략을 쓰기도 한다.그리고 그러한 전략을 가르치는 것이 아이러니칼하게도 필자와 같은 대학교수의 의무이기도 하다.

그러나 개인의 이익과 공공의 이익이 부합되는 시점에서 개인의 정열은 폭발점을 찾게 되고 그것이 결국 행복한 사회를 만든다는 점에서 내쉬균형을 생각케 한다. 개인의 이익과 공공의 이익이 부합되는 순간들의 합이 행복한 사회를 만든다. 그리고 그것은 내쉬균형이다.

천재 수학자 내쉬의 명복을 빈다.