[인더스트리뉴스 성기노 기자] AI가 정치에 유용한 ‘도구’가 될 것이라는 예상은 어쩌면 장밋빛 환상인지도 모른다. 정치 신인이 특히 어려움을 겪는 홍보전략과 후원금 모금 등에 있어서 AI의 도움을 받을 수 있을 것이라는 희망 섞인 기대가 나온다. AI가 학맥 지연 등에 얽매이지 않는 새로운 정치 등용문이 될 것이라는 예상도 있다.

하지만 이런 AI의 긍정적 요소들을 한꺼번에 덮어버리는 부정적인 위험성 또한 상존한다. AI를 사용한 가짜뉴스나 허위 정보를 유포할 경우 심각한 후유증을 초래할 수 있기 때문이다. 특히 선거 기간 중 생성 AI로 제작된 거짓 텍스트, 이미지, 동영상이 인터넷을 통해 빠르게 전파될 경우 투표 선택에 심대한 영향을 줄 수도 있다.

지난 2022년 챗GPT 등장 이후 AI 관련 기술이 급속도로 발전하면서 AI에 의한 딥페이크의 선거 악용이 큰 우려를 불러일으켰다. 딥페이크는 AI를 활용하여 실제와 구분하기 어려운 가짜 영상이나 음성을 생성하는 기술로, 정치적 허위 정보의 생산과 확산에 사용되어 선거의 공정성을 위협하고 있는 것이다.

실제로 딥페이크가 선거에 악용된 사례도 있었다. 지난 2023년 5월 치러진 튀르키예 대통령 선거에서 AI가 등장한 건 결선 투표 2주 전이었다. 당시 에르도안 대통령은 자신의 지지자들에게 터키의 분리주의 단체 PKK가 상대방인 클르츠다로을루 후보를 지지하는 노래를 부르는 영상을 보여주었다. 하지만 그것은 AI가 만든 가짜 영상이었고 클르츠다로을루 후보는 배후에 러시아가 있다고 비난했다. 결국 아르도안 후보가 대선에서 승리해 30여년 장기집권의 서막을 열었다.

에르도안과 클르츠다로을루 후보의 격차는 5%포인트도 채 되지 않았다. 에르도안은 야당 후보에게 지지율에서 밀리고 높은 인플레이션과 경제난 등으로 인기가 추락했음에도 민족주의 노선을 한층 강화하는 데 AI 딥페이크를 활용해 대권을 차지한 경우다.

2023년 9월 실시된 슬로바키아 총선에서는 투표 이틀 전 야당 대표가 ‘우리 당이 선거에 이기려면 로마족에게 돈을 줘야 한다‘고 말하는 가짜 음성 파일이 공개돼 집권당의 승리에 영향을 주었다.

지난 2024년 미국 대선에서는 AI를 선거 캠페인에 활용해 논란이 되기도 했다. 공화당 전국위원회(RNC)는 2023년 4월에 바이든 대통령이 2024 대선 도전을 공식 선언한 날 32초 분량의 영상을 공개했다. 이 영상에는 바이든 정부 2기가 출범하면 예상되는 디스토피아 세상을 묘사한 AI 사진이 담겨 문제가 됐다.

이런 ‘AI 흑색선전’ 사례는 윤석열 대통령 비상계엄과 탄핵 정국으로 조기 대선이 실시될 가능성이 있는 상황에서 유의해서 살펴볼 필요가 있다. 먼저 딥페이크 활용을 선거 직전 10여일 사이에 집중 ‘살포’하고 있다는 점이다. 선거에 임박해 짧게 던지는 AI 딥페이크의 임팩트 있는 공격에 상대 후보가 즉각 부인하며 상황을 정상으로 돌린다 해도 이미 가짜뉴스가 광범위하게 퍼진 상태이기 때문에 피해를 만회할 시간이 별로 없다.

또한 대중들의 ‘기호’에 맞는 딥페이크를 던져 주면 그것이 설령 거짓이라고 해도 열혈 지지층들은 가짜를 진실로 믿으려 하는 확증편향 경향이 오히려 더 강해진다. 전문가들은 AI가 후보자의 목소리를 흉내 내 스스로 범죄를 저질렀다고 자백하거나 지역 차별적인 발언을 터뜨릴 가능성도 있다고 예상한다. 또한 상대 후보가 하지도 않은 연설이나 인터뷰가 담긴 영상 등 다양한 딥페이크가 나올 수 있다고 전문가들은 우려하고 있다.

이런 AI를 활용한 딥페이크 유포의 혼란상에 대해 정치권도 비상한 관심을 보이고 있다. 국회미래연구원은 ‘생성형 AI 혁명 시대 미래정책 연구’(이승환 한상열 손승록 이재윤)라는 보고서를 지난해 12월 말 발표했다. 이 보고서에 따르면 “생성형 AI 혁명 시대에 접어들며 딥페이크가 본격 확산되고 있다. 2023년 전 세계 딥페이크 시도는 전년 대비 31배 증가했다”고 밝히고 있다.

딥페이크가 정치에 ‘악용’될 경우 가장 우려스러운 것은 간단한 ‘조작’으로 누구나 쉽게 만들 수 있다는 점이다. 이에 대해 보고서는 “생성형 AI 도구의 진화로 누구나 딥페이크 제작이 가능한 여건이 조성됐다. 텍스트, 음성･소리, 이미지, 영상, 가상공간･인간 등 디지털 요소를 제작하는 생성형 AI 도구들이 배포되면서 딥페이크가 급속도로 확산될 수 있다”라고 밝혔다.

전문가를 넘어 이제 일반인도 자연어 기반 생성형 AI로 딥페이크 제작이 가능하게 되면서 피해 대상도 정치인을 넘어 그들의 가족과 일반인들로 확대될 수 있다는 점에서 심각한 문제가 아닐 수 없다. 윤석열 대통령 탄핵 과정에서 서부지법 난동 사건이 발생하는 등 점차 극렬 정치 지지층들의 ‘준동’도 도를 넘고 있다. 이런 상황에서 딥페이크는 과격세력의 손쉬운 ‘테러 무기’가 될 수도 있다.

AI가 일반적인 예상보다 훨씬 더 빠르게 정치와 일상생활에까지 퍼지면서 이에 대한 대비책도 시급한 상황이다. 정치권은 딥페이크 관련 법제도 개선 방안을 모색하고 있다. 현재 딥페이크는 성범죄 방지법, 공직선거법에서 금지 사항을 규정하고 있으나 피해 대상과 범위가 확대됨에 따라 이에 비례하는 규제 조치가 필요하다.

기술적 측면에서 딥페이크 탐지 기술의 고도화도 필요하다. 현재 구글의 신스 ID(Synth ID) 등 딥페이크 탐지기술 개발이 진행 중이며 이에 딥페이크 탐지기술에 대한 연구개발 확대 및 글로벌 협력 강화가 필요하다.

특히 딥페이크가 앞으로 얼마나 더 ‘악의적’으로 진화할지 누구도 알지 못하기 때문에 딥페이크의 미래 진화에 대비해야 한다. 국회미래연구원은 “딥페이크는 AI, 공간컴퓨팅, 오감기술의 융합으로 더욱 고도화될 전망”이라며 “화면을 넘어 초실감 몰입공간에서 생길 정책이슈에 대한 모니터링도 필요하다”고 밝혔다.

AI 기술의 급속한 발전으로 그 정치적 활용이 가져올 수 있는 다양한 문제점들이 많이 대두될 것이다. 앞으로 정치권이 AI의 악의적인 '정치 개입'을 어떻게 차단할 것인지 활발하게 논의해야 할 것으로 보인다. 

성기노 기자 다른기사 보기