2024년 6월 5일, 인도에서 6억 4천만 표 이상을 개표하는 세계 최대 규모의 선거가 있었다. 이를 지켜본 사람들은 다양한 정당과 정파가 인공지능(AI) 기술을 어떻게 활용했는지, 그리고 이 선거가 전 세계에 어떤 교훈을 주는지 평가하고 있다.

이번 선거운동에서는 후보자, 유명인, 사망한 정치인을 사칭한 딥페이크 등 AI를 광범위하게 활용했다. 일부 추산에 따르면 수백만 명의 인도 유권자가 딥페이크를 본 것으로 나타났다.

광범위한 허위 정보에 대한 우려에도 대부분의 선거운동과 후보자 및 활동가들은 선거에서 AI를 건설적으로 사용했다. 이들은 ‘진흙탕 싸움‘ 같은 일상적인 정치 활동에서도 AI를 사용했지만, 이번에는 유권자들과 더 잘 소통하기 위해 AI를 사용했다.

속임수 없는 딥페이크

인도의 정당들은 이번 선거 기간 동안 유권자들과 공동체를 공략하기 위해 AI가 생성한 공인된 콘텐츠를 사용했으며 약 5천만 달러를 썼다. 이는 대체로 성공적이었다.

인도의 정치 전략가들은 오랫동안 유권자에게 미치는 개성과 감정의 영향력에 집중했으며, 메시지를 강화하기 위해 AI를 사용하기 시작했다. 엔터테인먼트 산업에 서비스를 제공하기 시작한 인디언 딥페이커(Indian Deepfaker)와 같은 신생 AI 기업은 AI로 생성된 선거운동의 수요가 증가하자 발 빠르게 대응했다.

지난 1월, 20년간 남부 타밀나두(Tamil Nadu)주의 총리를 역임한 무투벨 카루나니디(Muthuvel Karunanidhi)가 당의 청년부 회의에 영상을 통해 모습을 드러냈다. 그는 특유의 노란색 스카프와 흰색 셔츠, 검은색 안경을 착용하고 고개를 옆으로 살짝 숙인 익숙한 자세를 취했다. 하지만 카루나니디는 2018년에 사망했다. 그의 당은 딥페이크를 승인했다.

딥페이크 기술로 부활한 정치인

딥페이크 기술은 죽은 정치인을 인도 선거운동에 끌어들였다. 지난 2월, 전인도 안나 드라비다 진보 연맹(AIADMK, All India Anna Dravida Munnetra Kazhagam) 당의 공식 X(트위터) 계정은 구어체로 "암마(Amma)" 또는 "어머니"라고 불리는 타밀나두 주 정치의 상징적인 슈퍼스타 자야람 자얄랄리타(Jayaram Jayalalithaa)의 음성 클립을 게시했다. 자얄랄리타는 2016년에 사망했다.

한편, 유권자들은 지역 대표로부터 지역 현안을 알리는 전화를 받았는데, 수화기 너머에 있는 지도자는 AI 사칭 인물이었다. 샤크티 싱 라토레(Shakti Singh Rathore)와 같은 바르티야 잔타당(BJP, Bharatiya Janata Party) 당원들은 AI 신생기업을 통해 특정 유권자들에게 정부 혜택에 대한 개인 맞춤형 동영상을 전송하고 왓츠앱(WhatsApp)을 통해 투표를 요청했다.

AI로 다국어 지원

딥페이크만이 인도 선거에서 AI의 유일한 징후는 아니었다. 선거가 시작되기 훨씬 전에 나렌드라 모디(Narendra Modi) 인도 총리는 인도 남부 타밀나두 주와 북부 우타르 프라데시(Uttar Pradesh) 주의 바라나시(Varanasi) 시가 연결된 것을 축하하기 위해 꽉 들어찬 군중에게 연설했다. 청중에게 이어폰을 착용하라고 지시한 모디는 힌디어 연설이 실시간으로 타밀어로 번역되는 가운데 '새로운 AI 기술'의 출시를 자랑스럽게 발표했다.

22개의 공식 언어와 약 780개의 비공식 기록 언어를 사용하는 인도에서 바르티야 잔타당(BJP)은 힌디어를 쉽게 이해하지 못하는 지역의 유권자들에게 모디 총리의 입장을 전달하기 위해 AI 도구를 도입했다. 2022년부터 모디와 BJP는 나모(NaMo, 나렌드라 모디 인도 총리의 이름을 딴 모바일 앱)에 내장된 AI 기반 도구인 바시니(Vasini)를 사용하여 모디의 연설을 텔루구어, 타밀어, 말라얄람어, 칸나다어, 오디아어, 벵골어, 마라티어 및 펀잡어로 음성 번역하고 있다.

일부 AI 회사는 모디 총리의 유명한 월간 라디오 쇼인 '만키 바트(Mann Ki Baat)'의 바이럴 버전을 배포했는데, 이는 '마음으로부터'라는 뜻으로 지역 언어로 복제된 음성을 번역한 것이다.

적대적 사용

인도 정당은 AI를 활용해 온라인 논쟁을 두 배로 늘리고, 밈 전쟁을 강화했다. 선거 초반, 인도 국민회의(Indian National Congress, INC)는 인도의 새 힌디어 음악 앨범의 타이틀곡인 'Chor'(도둑)를 소재로 한 짧은 영상을 600만 명의 인스타그램 팔로워에게 공개했다. 이 영상은 모디의 디지털 외모를 리드 싱어에 입히고 인도 재계 거물들과의 밀접한 관계를 비판하는 가사를 개사하여 그의 목소리를 복제했다.

BJP는 700만 명의 팔로워를 보유한 인스타그램 계정에 모디가 거리에서 선거운동을 하는 슈퍼컷과 지지자들의 클립을 독특한 음악에 섞어 자체 제작한 동영상으로 응수했다. 2008년 세상을 떠난 유명 가수 마헨드라 카푸어(Mahendra Kapoor)가 부른 오래전 애국적인 힌디어 노래였는데, AI 음성 복제를 통해 부활했다.

모디 총리는 래퍼 릴 얏티(Lil Yachty)의 무대 영상을 바꿔 AI가 만든 춤추는 영상을 트위터에 직접 인용하며 "투표 시기에 이런 창의성이 정말 반갑다"고 언급했다.

Like all of you, I also enjoyed seeing myself dance.

Such creativity in peak poll season is truly a delight! #PollHumour https://t.co/QNxB6KUQ3R

— Narendra Modi (@narendramodi) May 6, 2024

모디의 선거운동에서 무슬림을 위험에 빠뜨리고 폭력을 선동하는 내용이 생성형 AI 도구를 통해 전달된 경우도 있지만, 그 피해는 AI 도구 자체가 아니라 혐오적인 내용의 문제였다.

인도의 실험

인도는 AI의 초기 도입국으로, 인도의 실험은 향후 선거에서 전 세계가 무엇을 기대할 수 있는지를 보여주는 예이다. 이 기술은 누구의 동의 없이도 딥페이크를 생성할 수 있어 진실과 허구를 구분하기 어렵게 만들 수 있지만, 동의된 사용은 민주주의에 더 쉽게 접근할 수 있게 할 것이다.

엔터테인먼트, 정치 밈 전쟁, 국민에 대한 감성적 호소, 부활한 정치인, 유권자의 개별 전화를 통한 설득 등으로 시작된 인도 선거의 AI 수용은 참여 민주주의에서 AI의 역할을 보여줬다.

예상했던 의회 과반수 확보에 실패한 BJP의 의외의 선거 결과와 인도가 다시 치열한 경쟁 정치 체제로 돌아간 것은 AI가 숙의 민주주의와 대의 정부에서 긍적적인 역할을 할 수 있다는 가능성을 보여주기도 한다.

전 세계 민주주의를 위한 교훈

민주주의 국가에서 정당이나 후보자는 유권자들과 더 많은 접촉점을 확보하는 것이 목표다. 이번 인도 선거에서는 언어적, 인종적으로 다양한 선거구에서 보다 개별화된 소통을 위해 AI를 활용하고, 특히 농촌의 저소득층 등이 메시지에 더 쉽게 접근할 수 있도록 하는 독특한 시도를 보여주었다.

AI와 참여 민주주의의 미래는 유권자와 개별적으로 소통할 뿐 아니라 이를 대화로 만들어 유권자가 자신의 요구와 경험을 대표자와 빠르게, 대규모로 직접 공유하게 할 수 있다.

인도의 뛰어난 AI 활용은 정치 분야를 넘어선 사례가 될 것이다. 인도 정부는 이미 이러한 플랫폼을 사용하여 시민들에게 모국어로 정부 서비스를 제공하고 있다. 이 기술이 안전하고 윤리적으로 사용된다면, 특히 농촌 지역 주민들의 요구와 경험이 의회에 전달될 수 있는 대의 민주주의의 새로운 시대를 여는 계기가 될 수 있다.

[출처] Indian election was awash in deepfakes – but AI was a net positive for democracy

[번역] 참세상 번역팀

덧붙이는 말

반디니카 슈클라(Vandinika Shukla)는 하버드 케네디 스쿨(Harvard Kennedy School)의 프랙티싱 데모크라시 프로젝트(Practicing Democracy Project) 연구원이다. 브루스 슈나이어(Bruce Schneier)는 하버드 케네디 스쿨(Harvard Kennedy School) 공공 정책 부문 겸임 강사이다. 참세상은 이 글을 공동 게재한다.