중국 전한(前漢)의 왕망은 역성혁명을 통해 평제를 독살하고 신(新)나라를 세워 스스로 황제의 자리에 올랐다.
모든 것이 새롭다 하여 국호를 ‘신(新)’으로 명명하였으나 정작 왕망 자신의 폭정과 관리들의 부패로 15년 만에 붕괴되고 중국 역사에도 국가로 인정받지 못하는 나라가 되었다.
중국 역사학자 반고는「한서(漢書)」 교사지에서 이를 두고 ‘가짜 황제가 세상을 어지럽혔다’고 하여 ‘이가난진(以假亂眞)’이라고 하였고 후대에서는 가짜가 진짜를 어지럽히고 거짓이 진실을 뒤흔든다는 뜻의 고사성어로 회자되고 있다.
진짜를 어지럽히는 가짜는 동서고금을 막론하고 종종 있어왔다. 최근 가수 비비의 노래 ‘밤양갱’이 큰 인기를 얻고 있는 가운데 여러 가수의 ‘밤양갱’ 커버곡이 나란히 유튜브의 높은 조회수를 기록하며 화재다. 그런데 이 커버곡이 딥페이크(Deep Fake) 기술을 이용한 AI커버곡임이 밝혀지면서 연예계는 물론 사회적으로 큰 파장을 불러일으키고 있다. 가수의 진짜 목소리와 거의 유사한 AI의 가짜 목소리에, 일각에서 호기심과 경이를 넘어 우려와 불쾌감을 표현하는가 하면 법조계에서도 퍼플리시티권, 저작권 등이 문제가 될 수 있다는 지적이다.
‘딥페이크’는 인공지능(AI) 기술 중 하나인 ‘딥러닝(Deep learning)’과 ‘가짜(Fake)’를 조합한 용어이다. 딥페이크를 통해 시·공간을 뛰어넘어 무궁무진한 창작활동과 의사표현의 영역을 확장시킬 수 있게 되었지만 앞서 보았듯 순기능만을 찬양하기에는 풀어야 할 문제들이 많아 보인다. 또한 기술이 정치적 영역으로 확장됨에 따라 또 다른 피해 확산도 우려된다.
실제로 2023년 슬로바키아 총선의 가짜 음성, 미국 대통령선거 예비경선에서 조 바이든 대통령의 가짜 목소리가 유포되어 정치적으로 큰 문제가 되고 세계적으로도 이슈가 된 바 있다.
진짜를 위협하는 가짜의 등장이 정권의 정당성, 나아가 민주주의에 대한 위협으로 대두되자 각국에서는 뒤늦게나마 딥페이크등 신기술에 대한 규제의 입법화를 서두르고 있다. 우리나라에서도 2023. 12. 28. 공직선거법 개정으로 ‘딥페이크영상등을 이용한 선거운동’ 조항을 신설함으로써 딥페이크에 대한 규제의 법적 근거를 마련하였다. 선거일전 90일부터 선거일까지 ‘선거운동을 위한’ 목적의 딥페이크는 제작ㆍ편집ㆍ유포ㆍ상영 등이 금지되고 선거일전 90일 도래 전에 딥페이크를 이용하여 선거운동을 할 경우 딥페이크임을 표시하도록 규정하는 것을 골자로 하고 있다.
‘일정 기간 가짜를 이용하지 못하게’ 하고, ‘가짜를 가짜라고 알릴 의무‘를 부과한 것이다.
교묘하고 정교하게 만들어진 딥페이크라는 가짜는 유권자의 직관적 인지력을 교란하여 거짓 정보를 사실로 받아들이게 함으로써 판단을 왜곡할 수 있다. 또한 ‘전파’라는 말이 무색할 정도로 온갖 정보가 전 국민에게 실시간 ‘공유’되는 현실에서 선거현장에 유포되는 가짜 정보의 파급력은 상상을 초월하며, 사후 복구에 많은 시간과 비용이 수반되고 나아가 정권의 정당성마저 위협할 수 있다. 그렇기 때문에 ‘가짜를 가짜라고 알릴 의무’를 부과하는 것과 ‘일정 기간 가짜를 이용하지 못하게 하는 것’은 딥페이크로 인한 선거혼란을 막는 필요 최소한의 방편이다.
그러나 이러한 규제로는 급속도로 발전하는 AI기술의 폐해에 대비하는 데 한계가 있다.
세계경제포럼(WEF·다보스포럼)이 펴낸 ‘글로벌 리스크 리포트 2024’에 따르면 전 세계 각계 전문가들이 기후변화를 인류 최대의 위협으로 꼽으면서 뒤이어 AI가 생성한 가짜 정보를 두 번째 위협요인으로 꼽았는데, 그 이유가 각국의 규제 속도와 효과가 AI의 발전 속도를 따라잡지 못해서라고 했다.
선거에서 딥페이크영상 등 규제의 한계점을 보완하기 위해서는 정보의 진위여부를 따져보고 정확한 정보를 선별하여 취하려는 유권자 스스로의 노력과 민주주의를 위협하는 가짜에 대항해 이를 저지하려는 사회 공동체적 노력이 필수적으로 수반되어야 한다. 민의를 교란하고 선거를 왜곡할 수 있는 딥페이크 선거범죄로부터 민주주의를 수호하는 공동 파수꾼이 되어야 하는 것이다.
조지오웰은 “거짓(가짜)이 만연하는 시대에 진실을 말하는 것은 혁명적 행동이 된다.”고 하였다.
4월 10일 국회의원선거가 20일 남짓 남았다. 딥페이크 기술의 산물들이 넘쳐나는 상황에서, 유권자를 현혹할 수 있는 가짜 정보 생산의 유혹을 물리치는 것, 그리고 딥페이크를 이용한 가짜 정보를 가짜라고 알리는 것이 결국 진실을 말하는 것이 되지 않겠는가.
후보자와 유권자 모두 가짜로부터 진짜 민주주의를 지켜내는 혁명적 행동에 동참함으로써 이번 국회의원선거가 ‘이가난진’의 선거가 되지 않기를 바란다.
