출처: Pixabay. PrompterMalaya

인공지능(AI)은 전체 인구를 상대로 한 무기를 통해, 또는 팔레스타인 사람들에게 가해진 공포를 은폐하는 살균된 이미지를 통해 팔레스타인 사람들을 지우는 데 사용되고 있다. 나는 8개월 동안 이스라엘의 가자지구 전쟁의 형언할 수 없는 참상을 목격했다.

가장 최근인 5월 26일 라파(Rafah)에 있는 팔레스타인 난민 텐트촌을 겨냥한 공격 이후, 전 세계는 시신이 재로 변하고 불길이 치솟는 가운데 머리 없는 아기가 함께 안겨 있는 모습을 목격했다. 국제사법재판소(ICJ)가 이스라엘에 라파에서의 군사 작전 중단을 명령한 후 보복 공격으로 추정되는 공격으로 일요일 저녁 45명이 사망했다.

이 묵시록적인 장면은 팔레스타인 사람들이 폭격을 피할 수 없다는 것을 상기시켜 주었다. 10월 7일부터 계속된 공격으로 이스라엘의 전략적이고 고의적인 폭력으로 인해 잔해에 갇힌 사람들을 제외하고 3만 6천 명 이상의 팔레스타인인이 살해되고 수만 명이 다쳤으며 약 200만 명의 국내 이재민이 발생했다. 이러한 장면은 소셜 미디어에서 전례 없이 많은 양으로 유포되어 '최초의 실시간 스트리밍 대량 학살'로 묘사되고 있다.

가자지구의 심장부에서 실시간으로 벌어지고 있는 테러를 증명하듯 수많은 콘텐츠가 전송되고 있다. 사실, 인플루언서 시대에 예측 가능하지만 불안한 점은 팔레스타인의 용감한 목소리를 기록하여 전 세계로 전송하는 사람들이 우리 모두에게 친숙한 이름이 되었다는 점이다. 소셜 미디어에서 유통되는 생생하고 끔찍한 동영상의 양이 엄청나게 많아지면서 주류 언론 매체는 TikTok, Instagram 및 X에 밀려 주요 뉴스 소스로서 자리를 잃은 지 오래다. 우리는 이미지뿐만 아니라 그들의 삶과 개인적인 경험을 엿볼 수 있는 현장 젊은이들의 피드를 팔로우한다. 우리는 그들의 두려움과 슬픔을 함께 나누고, 그들이 밤새 살아남았다는 소식을 올리지 않았다면 그들의 안전을 걱정한다.

이 모든 맥락에서, 우리는 이제 어디에나 있는 '라파에 대한 모든 시선' 인스타그램 템플릿이 얼마나 빠르게 퍼져나가는지 매우 흥미롭게 관찰했다. AI로 생성된 이 이미지는 다양한 색조의 깔끔하게 조립된 텐트들이 끝없이 펼쳐져 있고 그 위에 하얀 눈이 덮인 산이 오버랩된 이미지였다. 굵은 대문자로 표시된 단어와 깔끔한 이미지가 서로 어울리지 않는 것처럼 보이지만 라파의 현실은 전혀 다른 곳이다. 하지만 어쩌면 그래서 더 쉽게 공유할 수 있는 것일지도 모른다. 팔레스타인에 대한 '인플루언서'와 유명인들의 참여 부족으로 많은 비판을 받는 상황에서 그래픽 이미지를 완전히 삭제하고 의도적으로 생략한 덕분에 소셜 미디어 사용자들이 더 쉽게 '공유'할 수 있었을지도 모른다.

그러나 우리가 공유하는 콘텐츠에서 편리함이나 편안함이 결정적인 요소라면, 실제 이미지 대신 이 이미지를 게시할 때 우리는 무엇을 개선하고 있는가라는 근본적인 질문을 스스로에게 던져야 한다.

우리는 정확히 무엇을 보호하고 있는가?

2023년 10월 22일 가자지구 중심부 데이르 알 발라에 있는 알 아크사 순교자 병원 인근 건물에 이스라엘 공습이 가해지자 팔레스타인 사람들이 생존자를 구출하고 잔해에서 시신을 꺼내려 하고 있다. (모하메드 자눈/액티브스틸)

디지털 행동주의

가자지구 전쟁이 시작되면서 우리가 기술과 디지털 공간을 활용하는 방식에 주목할 만한 변화가 생겼다. 잔학 행위에 항의하는 학생들에게는 독싱 위협이 흔히 발생하고, 고용주가 소셜 미디어 게시물에 태그를 달거나 알림을 받는 경우 직업적 영향에 대한 우려도 커지고 있다. 최근 영국 노동당 예비 후보였던 파이자 샤힌(Faiza Shaheen)은 이스라엘에 대한 보이콧, 투자 철회 및 제재(BDS)를 지지하는 트윗에 '좋아요'를 눌렀다는 이유로 후보직에서 사퇴한 것으로 알려져 논란이 되었다. 활동가들의 협박은 그 영향력만큼이나 실제적인 것이므로, 4천만 건을 넘어선 '라파' 게시물의 파급력은 숫자에 안전이 있다는 의미로 해석될 수 있다.

AI가 생성한 이 그래픽에 대해 비평가들은 2020년 조지 플로이드(George Floyd) 시위 당시 흑인 커뮤니티가 직면한 폭력적인 불의와 배제에 맞서 연대를 표명하기 위해 인기를 얻었던 악명 높은 검은 사각형 프로필과 #BlackoutTuesday 게시물과 같이 얄팍한 보여주기식의 다른 바이럴 제스처에 비유하기도 했다.

다른 사람들은 '라파' 게시물이 예술의 정치적 역량과 항의와 저항의 한 형태로서의 잠재력을 보여주는 증거이며, '공포'의 부족이 필터링이나 차단 메커니즘을 우회하여 이미지의 엄청난 도달에 기여할 수 있다는 전략적 방식을 고려할 때, '라파' 게시물이 예술의 정치적 역량을 보여주는 것이라고 해석했다.

하지만 이 에피소드는 온라인 내러티브 구축과 행동주의에서 AI의 역할과 영향력에 대해 더 깊이 생각해 볼 수 있는 계기가 되었다. AI 콘텐츠를 쉽고 빠르게 생성할 수 있다는 점은 매혹과 재미, 심지어는 힘을 실어준다는 찬사를 받기도 한다.

키워드 몇 개만 입력하면 우리의 생각을 표현하는 동시에 우리의 불안과 편견을 드러낼 수 있는 이미지(또는 텍스트)를 손끝에서 만들어낼 수 있다.

디지털 공간이 행동주의의 다양한 가능성을 열어준 것과 마찬가지로, 바이럴 온라인 트렌드의 목표 달성에 대한 효과에 대한 의문도 제기되고 있다.

이 신자유주의 시대에 해시태그와 대규모 '차단'의 영향은 정확히 무엇일까?

이러한 트렌드가 실제로 의도한 목표에 영향을 미칠 수는 있지만, 우리는 이러한 행동주의에 참여할 때 소셜 미디어 회사에 우리 자신에 대한 어떤 정보를 제공하고 있으며, 이러한 트렌드가 잠재적으로 행동주의를 모으거나 억제하거나 진정시키는 도구가 될 수 있을까?

AI 대량 학살

'라파' 이미지의 인기에 힘입어 수많은 반박 그래픽이 제작되었는데, 그중 하나는 하마스 전사가 총을 들고 아기를 내려다보는 모습과 함께 "10월 7일에 당신의 눈은 어디에 있었습니까?"라는 질문이 대문자로 새겨진 그래픽이다.

정치적 성향이 무엇이든, AI가 생성한 콘텐츠가 스토리텔링에 활력을 불어넣고 콘텐츠 중심의 시청자에게 활력을 불어넣고 있다는 것은 분명하다. 동시에 봇과 가짜 계정이 이데올로기를 확산시키면서 진실과 거짓을 구분하기가 더 어려워지고 있으며, 기술에 대한 불신은 더욱 깊어질 것이다. 그러나 이러한 사실을 더욱 복잡하게 만드는 것은 시민 저널리즘이 절정에 달하고 있다는 점이다.

우리는 말 그대로 실시간으로 펼쳐지는 최초의 인공지능 전쟁을 목격하고 있다. 인공지능이 생성한 게시물을 통해 내러티브를 부추기거나 인공지능 감시와 무기를 사용하여 가장 큰 피해를 입히는 등 말 그대로 인공지능 전쟁이 실시간으로 벌어지고 있다.

AI가 생성한 콘텐츠의 공유가 허용될 수 있는가에 대해 의견이 분분하지만, AI가 감시와 '표적' 살인을 통해 전쟁을 진전시키는 데 어떻게 사용되고 있는지는 시급히 다뤄야 할 문제다.

2021년 이스라엘은 '장벽의 수호자 작전(Operation Guardian of the Walls)'으로 알려진 침공에서 혁신적인 기술을 사용했다고 자랑했지만, 가자지구가 AI 무기의 실험실이 되면서 팔레스타인인 261명이 사망했다. 이스라엘 군이 '라벤더(Lavender)', '더 가스펠(The Gospel)', '아빠 어디야(Where’s Daddy?)' 등의 AI 표식 및 추적 시스템에 지속적으로 의존하고 있는 것은 인간의 감독을 최소화한 채 '멍청한 폭탄(dumb bombs)'(또는 비유도 미사일)을 사용하여 살상하도록 허가된 프로그램에 무서울 정도로 광범위한 권한을 부여하고 있다.

드론과 정교한 감시 프로그램을 사용하여 팔레스타인 사람들의 삶을 불안정하게 만드는 동시에 이스라엘 군인의 지상 침공을 피함으로써 이스라엘 군인의 생명을 보호하는 것은 AI 기술이 어떻게 다른 생명보다 우선순위를 정하는 데 사용되는지를 보여준다.

이러한 방식으로 AI는 의도적으로 전체 인구에게 사용되는 무기를 통해, 또는 팔레스타인 사람들에게 일상적으로 가해지는 공포를 은폐하는 살균 처리된 이미지의 유포를 통해 팔레스타인 사람들의 삶을 비인간화하고, 지우고, 위협하는 데 사용되고 있다. 이러한 긴급한 시기에 인공지능을 통해 진실을 가리는 것은 우리의 시야를 흐리게 할 뿐이며, 손끝에서 접할 수 있는 콘텐츠의 양이 계속해서 급증하는 상황에서 우리가 경계해야 할 역설이다.

[출처] 'All Eyes on Rafah': How a viral campaign exposed an unfolding AI war | Middle East Eye

[번역] 하주영

덧붙이는 말

카디자 엘샤이얄(Khadijah Elshayyal)은 에든버러대학교의 연구원으로 디지털 무슬림 공간을 연구하고 있으며, 『무슬림 정체성 정치 영국의 이슬람』, 『행동주의, 평등』(IB Tauris, 2019)의 저자다. 셰린 페르난데스(Shereen Fernandez)는 런던정경대학교(LSE)의 ESRC 박사후 연구원이다. 참세상은 이 글을 공동 게재한다.