인류를 위협하는 것은 정말 AI일까?

대중이 느끼는 AI의 위험성은 현실적인 것이라 말하기 어렵다. /Pixabay

최근 미국의 비영리단체 ‘퓨처 오브 라이프 인스티튜트’(이하 FoLI)에서 ‘거대 AI 실험 일시중지 공개서한’을 공개했다. 서한의 주된 내용은 AI 기술이 갖는 위험성이 인간의 통제 가능 범위를 벗어났다는 것. 따라서 전 세계의 AI 개발사들이 6개월 동안 ‘GPT-4’ 이상의 강력한 인공지능에 대한 연구를 중단하고 이에 대한 윤리적, 철학적, 과학기술적 모색을 수행해야 한다는 것이 FoLI의 입장이다.

서한이 공개되었을 때 대중을 놀라게 했던 점은 두 가지다. 하나는 일론 머스크(테슬라 CEO), 스티브 워즈니악(애플 창업자), 유발 하라리(역사학자) 등 업계의 유명인사 및 석학들이 이 서한에 참여했다는 사실. 다른 하나는 AI 기술이 갖는 위험성이 현실적 문제로 다가왔다는 사실이다. 지금까지는 다만 SF 영화의 설정 정도로 치부되었던 AI 기술이 인류에게 핵무기, 인간복제 기술과 같은 현실적 위협으로 다가왔다는 점이다. 때문에 FoLI는 인간과 경쟁하는 AI는 사회와 인류에 심각한 위험을 초래할 수 있으므로, 최소 6개월 간 AI 시스템 훈련을 중단하고, 그 기간 동안 독립적인 외부 전문가에 의한 감시, 감독을 위한 안전 프로토콜을 제정해야 한다고 주장한다.

하지만 업계는 이 서한에 대해 부정적인 분위기다. 마이크로소프트의 창업자인 빌 게이츠는 AI 기술 개발 일시 중단이 궁극적인 문제 해결 방안은 아니라고 말하며, 중단을 수행할 주체는 누구이며 모든 기업과 국가에게 강제할 수 있는지에 대해 부정적인 입장이다. 워싱턴 대학 컴퓨터공학 명예교수 페드로 도밍고스는 반세기 이상 사용된 인터넷 기술에 대한 규제 및 제한조차 완전히 이루어지지 않았는데 AI 기술에 대한 규제 방안을 6개월 안에 만든다는 것이 가능한지 현실적인 측면을 지적한다.

물론 AI 기술이 갖는 위험성은 분명 현실적인 것이다. 가령 노동 시장을 예로 들자면 최근 중국의 경우 AI 기술의 도입에 따라 약 200만 명의 실업자가 발생하였으며, 미국의 경우 근시일 내에 전체 일자리의 1/4에 해당하는 약 3천600만 개의 일자리가 AI에 기반한 자동화 시스템으로 대체될 전망이다. 특히 인적 관리 측면에서 대다수의 플랫폼 노동자들이 AI에 기반한 알고리즘 시스템에 의한 관리 속에서 노동에 종사하고 있다는 사실에 주목하자면, 노동시장은 이미 AI 기술로 인해 그 저변에서부터 돌이킬 수 없는 변화가 일어나고 있다고 할 수 있다.

하지만 대중이 느끼는 AI의 위험성을 마냥 현실적인 것이라 말하기도 어렵다. AI의 위협은 분명 현실적인 것이지만, 공포감은 SF 영화를 비롯한 창작물에서 기반한 비현실적인 것이라는 생각. 물론 새로운 기술의 발달이 예기치 못한 부작용을 발생시켜 인류에게 위험을 초래할 수 있다는 것은 의학 분야와 군사 관련 분야에서 초래된 경험적인 것이겠으나, AI 기술의 실질적 위험성에 대한 대중의 체감에는 인간이 아닌 이종이 인간을 지배한다는 SF적인 과장이 뒤섞여있는 것처럼 느껴진다.

임지훈 2020년 문화일보, 서울신문 신춘문예 평론 부문에 당선된 문학평론가. 한양대 국문과 박사 과정을 수료했다.

흥미로운 사실은, 그러한 비현실적인 공포가 이미 일어난 노동시장과 컨텐츠 시장에서의 변화를 은폐한다는 사실이다. 축약해 말하자면, 상당수 노동자는 이미 AI 기술로 인해 변화한 시스템에 종속돼 있으며, 소비와 향유 역시 알고리즘에 의해 제어되고 있다. 그럼에도 AI가 근미래에 인류에게 위험으로 작용할 수 있다는 주장은 대중의 비현실적 공포를 부추기는 동시에, 대다수의 인류가 처한 실질적인 종속과 지배의 구조를 비가시화시키는 효과를 발생시킨다. 더불어 지금 AI 기술에 반대하고 있는 기업가들이 실질적인 AI 기술 시장의 잠재적 참여자들로 평가받고 있다는 사실은 이러한 주장이 과연 인류라는 대의를 위한 것인지 아니면 각 기업의 사적 이익의 추구를 위한 것인지 모호하게 만든다.

물론 신기술의 개발과 발전에 따른 부작용은 인류가 늘 주의해야 하는 사안. 우리는 이미 핵무기를 통해 인류가 통제할 수 없는 기술이 인간에게 미치는 해악에 대해 알고 있다. 하지만 AI 기술의 발전을 둘러싼 담론에는 어딘가 석연찮은 게 있다. 여기에서 충돌하고 있는 것이 과연 ‘인간’의 가치를 비롯한 정신적인 가치들 뿐인 것일까. 아니면, 새로운 시장의 개척과 형성을 둘러싼 거대 기업들의 각축인 것일까. 지금 우리 앞에 놓인 것은 실질적인 위협일까, 아니면 무지에서 비롯된 비이성적인 공포일까. 공포를 부추기고, 공포를 먹고 사는 누군가가 있는 건 아닐까. 우리가 의심해야 하는 것은 AI 기술일까, 아니면 기술 담론의 참여자들일까.