참세상

이스라엘은 가자에서 팔레스타인인을 살해하는 학살 캠페인에 인공지능(AI) 기술을 활용하고 있으며, 이스라엘과 미국의 기술 기업들이 이 과정에 동원되고 있다. 그러나 이 순간에 이르기까지 팔레스타인 점령지 전역에서 감시 관행은 오랫동안 이어져 왔다.

AI는 일반적으로 인간의 지능이 요구되는 작업을 수행할 수 있는 기계를 의미한다. 결정은 인간보다 훨씬 빠르게 이루어지며, 알고리즘은 감시 데이터를 분석한다. 《팔레스타인 실험실(The Palestine Laboratory)》의 저자인 앤서니 로웬스타인(Antony Lowenstein)은 6월 초 열린 팔레스타인 디지털 행동 포럼에서 "앞으로 AI가 비난을 받는 상황이 올 것이 두렵다. 우리가 한 게 아니고 기계가 한 것이라고 말할 것이다. 아니다… 기계가 집을 폭격하라는 결정을 내린 것이 아니다. 그 결정은 인간, 즉 이스라엘인이 내린 것이다"라고 말했다.

출처: Unsplash, david henrichs

가자지구

이스라엘 점령군(IOF)이 가자에서 벌이는 학살 캠페인에서 사용되고 있는 AI 데이터 처리 시스템인 ‘라벤더(Lavender)’, ‘가스펠(Gospel)’, ‘웨얼스 대디(Where’s Daddy)’에 대한 보도가 널리 주목받았으며, 일부 언론은 가자를 세계 최초의 AI 기반 학살이 벌어지는 장소라고 칭하고 있다.

AI 기술은 2021년 이스라엘의 11일간의 가자 공격 당시 처음 사용되었으며, 현재 진행 중인 학살에서는 전례 없는 수준으로 팔레스타인인을 살해하는 데 사용되고 있다. 이 세 가지 시스템은 이스라엘이 수년 동안 가자에서 수집한 대규모 감시 기록을 바탕으로 공습의 ‘대상’을 식별한다. 이는 이스라엘이 팔레스타인 사람들을 ‘위협’으로 간주하는 인종차별적인 프레임워크에 따른 것이다.

‘가스펠’은 공격할 건물과 구조물을 ‘추천’하고, ‘라벤더’와 ‘웨얼스 대디’ 시스템은 살해할 사람들을 ‘추천’하며 그들의 위치를 추적해 언제 공격할지 결정한다. 이 ‘추천’은 이스라엘 군에 의해 거의 검토되지 않은 채 승인된다. 일부 이스라엘 정보 요원은 <+972 매거진>에 공습 추천을 승인하는 데 ‘개인적으로’ 20초밖에 걸리지 않으며, 그 시간 동안 남성인지 여부만 확인한다고 말했다. 이는 실제 정책인지는 불확실하다. 그러나 8월에 유엔 인권 최고 대표는 가자에서 사망한 사람들의 대다수가 여성과 어린이라는 성명을 발표했다.

이스라엘은 특정 성별이나 연령대만이 아니라, 모든 팔레스타인인을 대상으로 민족 청소를 하고 있다. 이러한 AI 기반 군사 기술의 기능성과 ‘정밀성’에 대한 잘못된 이야기는 식민지적 서방 세계를 달래고 감탄하게 하려는 의도다. 이는 이스라엘이 레바논에서 수천 명의 사람을 불구로 만들고 실명시키고 살해한 테러적인 공격에도 불구하고, 수많은 서방 언론인들이 이스라엘의 기술적 우수성을 칭찬했을 때 분명히 드러났다.

이 AI 시스템은 구글 포토의 얼굴 인식, 왓츠앱 그룹 멤버십, 소셜 미디어 연결, 전화 연락처 및 휴대폰 정보 등 기존의 이스라엘 감시 데이터를 수집, 검색 및 처리해 살해 목록을 만든다. 이후 이스라엘 군은 이를 승인해 가족과 이웃 전체를 폭격한다. 이런 일이 반복되며, 이전보다 훨씬 빠른 속도로 이루어진다. 무기 기술의 발전 덕분에 이 도구들이 매우 ‘정밀하다’고 주장하지만, 실상은 팔레스타인 사람 전체를 집단 학살 대상으로 삼고 있다. AI 시스템은 인간보다 훨씬 빠르게 목표를 생성할 수 있으며, 이스라엘 군은 미국이 주로 제공하는 대량의 탄약을 가지고 가자에서 팔레스타인 사람들을 대규모로 살해하고 있다. 이스라엘 군은 누구를 죽일지 정확히 알고 있으며, 결국에는 온 동네가 잿더미로 변할 것을 알면서도 결정을 내리고 있다.

수십 년 동안 이스라엘은 가자(그리고 점령된 팔레스타인 전역)에서 팔레스타인들이 사용하는 통신 인프라를 통제해왔다. 여기에는 전화선, 모바일 네트워크, 인터넷 네트워크 등이 포함된다. 팔레스타인 미디어 학자 헬가 타윌-소리(Helga Tawil-Souri)는 이 통제를 ‘디지털 점령’이라고 부르며, 이것이 팔레스타인 통신을 식민지적, 학살적 목적으로 감시하고, 속도를 늦추거나 차단하는 것이라 말한다. 2021년 기준, 이스라엘의 정보부대인 8200 부대의 정보원은 이스라엘이 서안과 가자에서 이루어지는 모든 전화 통화를 감청할 수 있다고 <중동의 눈(Middle East Eye)>에 밝혔다. 이 정보는 가자에서의 학살에 사용되는 AI 기반 살해 기계에 입력되는 정보일 가능성이 높다.

<+972 매거진>과 인터뷰한 익명의 이스라엘 정보 요원은 "우발적인 일은 없다. 우리는 매번 민간인 피해가 얼마나 될지 정확히 알고 있다"고 말했다. 이스라엘의 감시는 ‘대상’이 될 것으로 간주되는 사람을 암살하기 위해 얼마나 많은 민간인이 죽을지를 계산하고 추정한 후, 공습 목표를 승인한다. 한 이스라엘 군인은 <+972 매거진>에 "IDF는 망설임 없이 가족의 집을 폭격했다. 그것이 첫 번째 선택이었다. 가족의 집을 폭격하는 것이 훨씬 쉽다. 이 시스템은 그러한 상황에서 그들을 찾기 위해 만들어졌다"고 말했다. AI와 감시 학자인 소피아 굿프렌드(Sophia Goodfriend)는 <+972 매거진>에 "이스라엘은 가자에서 완전한 자율 무기에 의존하고 있는 것이 아니라, 정보부대가 AI 기반 표적 시스템을 사용해 민간인과 민간 인프라가 무장 단체와 연관될 가능성을 평가하고 있다. 이는 군대가 누구를 죽일지 선택하는 과정을 가속화하고 확장시켜, 하루에 생성되는 목표의 수가 인간 인력이 1년 동안 생성할 수 있는 수보다 많아진다"고 강조했다. ‘웨얼스 대디’ 시스템에 대해 익명의 한 제보자는 <+972 매거진>에 "수백 명의 사람을 시스템에 입력하고 누가 죽일 수 있을지 기다린다"고 설명했다.

<아마존 웹 서비스(Amazon Web Services)>는 가자에 있는 팔레스타인에 대한 대규모 감시 데이터를 저장하는 데 사용되는 클라우드 서비스와 서버를 제공하고 있음이 확인되었다. 이 감시 데이터는 위에서 설명한 AI 기반 살해 ‘추천’ 시스템에 입력된다. 아마존과 구글은 2021년 4월에 이스라엘 정부와 12억 달러 규모의 ‘프로젝트 님버스(Project Nimbus)’ 클라우드 기술 계약을 체결했으며, 이는 현재 가자에서 진행 중인 학살에서 대규모로 사용되고 있다.

2024년 7월, 이스라엘 군 사령관은 이 군대가 가자에서 민간인 클라우드 인프라를 사용하고 있다고 공개적으로 밝혔으며, 이는 아마존, 구글, 마이크로소프트와의 계약을 통해 이루어졌다. 미국의 데이터 마이닝 회사인 팔란티어(Palantir)도 IOF의 AI 시스템 운영에 사용되고 있으며, 이는 <더 네이션(The Nation)>에 의해 보도되었다. 2024년 1월, 이 회사는 팔레스타인에 대한 감시 데이터를 처리하고 현재의 ‘전쟁 관련 임무’에서 그들을 목표로 하기 위해 이스라엘 정부와 새로운 ‘전략적 파트너십’을 체결했다. 이는 가자에서의 학살적 군사 작전을 포함한다.

2024년 1월, 팔란티어 이사회는 첫 회의를 이스라엘에서 개최했으며, 공동 창립자이자 CEO인 알렉스 카프(Alex Karpe)는 이스라엘 국방부와의 군사 본부에서 업데이트된 협정을 직접 체결했다. 팔란티어는 미국 회사로, 미국의 ‘대테러’, 경찰, 군사 작전에 깊이 관여하고 있다. 이 회사의 CEO는 "우리는 이스라엘에서 매우 잘 알려져 있다. 이스라엘은 우리의 제품을 높이 평가한다. 나는 이스라엘을 공개적으로 지지하는 몇 안 되는 CEO 중 하나다"라고 자부했다.

감시는 새로운 것이 아니다

감시라는 용어는 오늘날 디지털 기술과 함께 공공 영역에 등장했으나, 그 본질은 새로운 것이 아니다. 이는 디지털 기술의 유무와 상관없이 사람들을 통제하고 재산을 박탈하려는 시스템이다. 나크바 이전 영국이 팔레스타인을 점령하던 시절부터, 그리고 이후 이스라엘 점령 하에서, 팔레스타인인들은 신분증, 인구 등록, 검문소, 통금, 감시탑, 인위적인 국경, 감옥, 벽 등을 통한 ‘저기술’ 감시를 견뎌왔다.

감시는 식민지적 사업에서 그 뿌리를 두고 있으며, 전 세계 식민지화된 사람들은 통제와 재산 박탈을 목적으로 자신들이 감시받고 있다는 사실을 잘 알고 있다. 많은 생체 인식 감시 관행은 식민지 맥락에서 개발되고 사용되었다. 1965년 팔레스타인 학자 파이예즈 사예흐(Fayez Saygeh)는 "시온주의 정착국가는 존재하는 한 영토 확장을 위해 준비하고 노력해야 한다"고 썼다. 이는 팔레스타인인을 억압하고 ‘이스라엘의 시선’이 팔레스타인 삶을 감시하도록 감시 기술을 활용하는 것으로 드러난다.

감시는 단순히 지켜보는 행위가 아니다. 이는 이동 통제, 신체적 폭력, 강제 이주, 학살을 가능하게 하는 도구다. 팔레스타인 감시 학자인 엘리아 주레이크(Elia Zureik)는 감시가 ‘다른 사람으로 취급하는 과정과 밀접하게 연결되어 있으며, 이 과정에서 식민 통치자의 자아 확인과 정체성 구축은 피식민자의 정체성을 낙인찍고 폄하하는 방식으로 형성된다’고 강조했다. 팔레스타인인들은 시온주의 정착 식민주의의 도구로서 끊임없이 감시받고 있다고 느끼도록 만들어진다. 이는 인종적 현상으로, 팔레스타인인들은 이스라엘 정착민들과 비교해 열등한 인종 정체성으로 규정된다. 이 정착민들은 감시 관행을 통해 그들을 억압하고 식민지화하려고 한다.

오늘날의 첨단 AI 기반 감시 체제는 부당하게 더 많이 수집된 데이터와 함께 같은 목표를 수행하고 있으며, 더 많은 팔레스타인인에 대해 더 빨리 폭력을 행사할 수 있는 기술적 역량이 증가했다. 오늘날의 감시는 방대한 양의 정보를 수집하는 ‘빅 데이터’ 생태계에 의존하며, 이는 팔레스타인을 학살적 식민 목표로 억압하는 데 사용된다. ‘라벤더’와 같은 대규모 AI 데이터 처리 시스템은 오늘날의 ‘빅 데이터’ 시대를 직접 반영한다. 정부는 민간 기술 회사의 지원을 받아 인구에 대한 최대한의 데이터를 수집하고 이를 억압하는 데 사용하려고 한다. 팔레스타인 감시 연구 학자인 미라 야신(Mira Yaseen)은 빅 데이터 패러다임을 그 식민 역사를 연결해 설명한다. 그는 팔레스타인 광장에서 "감시 연구는 종종 감시의 식민 뿌리를 간과한다. 이를 인정할 때에도 오늘날 감시를 재구성하는 빅 데이터 패러다임에 많은 관심을 기울이지 않는다"고 말했다. 그는 이스라엘 정권이 ‘인구 관리를 위해 자국산 빅 데이터 기술을 점점 더 많이 도입하고 있다’고 강조했으며, 이는 ‘라벤더’, ‘웨얼스 대디’, ‘가스펠’과 같은 AI 기반 기술들이 점령된 팔레스타인 전역에서 사용되고 있다는 사실에서 명확하게 드러난다.

2024년 팔레스타인 디지털 행동 포럼에서 "전쟁 시기의 AI: 가자, 자동화된 전쟁, 감시, 서사의 전투"라는 제목으로 발표한 학자 매트 마흐무디(Matt Mahmoudi)는 팔레스타인 사람들이 알지 못한 채 이스라엘 군대에 의해 가자의 살라흐 알딘 도로 검문소에서 얼굴 인식 기술에 노출되었다고 밝혔다. 이 도로는 학살 초기 이스라엘 점령군(IOF)에 의해 팔레스타인들이 그들이 소지할 수 있는 모든 것을 가지고 이동할 수 있도록 지정된 '안전 경로'였다. 때때로 맨발로, 길을 따라 순교자의 시신이 있는 가운데 북쪽에서 남쪽으로 강제 이주가 이루어졌다. 이 얼굴 인식 기술은 악명 높은 이스라엘 사이버 정보부대 8200이 개발했으며, 이스라엘의 민간 회사 코사이트(Corsight)와 미국의 알파벳(Alphabet)사의 구글 포토를 통해 부분적으로 운영된다. 이 도구들은 저화질 사진과 붐비는 공간에서 얼굴을 분석하는 데 사용된다. 이 기술로 '하마스 전사'로 식별된 팔레스타인 남성과 소년들은 이스라엘에 의해 인질로 잡혀 가자와 알나카브(네게브) 사막의 비밀 장소에 감금되어 성폭력, 의학적 고문, 살인을 포함한 끔찍한 고문을 당한다.

이 식민지적 맥락에서 실험적인 무기 테스트가 광범위하게 이루어지고 있다. 많은 이스라엘 감시 기술들은 가자와 서안에서 처음 사용되며, 이스라엘의 군사 통치와 팔레스타인 생명에 대한 학살적 무관심으로 인해 민간 기업들이 IOF와의 계약을 통해 제품을 시제품으로 만들어 정제한 후 해외로 수출하고 있다. 팔레스타인 법학자 사메라 에스메이어(Samera Esmeir)는 2012년 8일간 가자에서 벌어진 이스라엘의 치명적인 공격에 대해 논평하며, 이 공격으로 165명 이상의 팔레스타인인이 사망했고 그 중 42명은 어린이였다고 밝혔다. 그는 이 공격이 "가자를 이 지역에서 식민지적, 제국주의적 패권을 위한 실험실로 변모시키고 있다"고 썼다. 이 공격은 미국이 제공한 아이언 돔 미사일 방어 기술의 첫 번째 공식 사용 기록이었다. 엘리아스 주레이크는 팔레스타인 감시의 실험적 성격에 대해 광범위하게 저술하며, 아이메 세제르의 '부메랑 효과' 개념을 확장해 "한 식민지 공간에서 다른 공간으로 감시 기술과 전략이 순환하는 것을 넘어서, 국가에 위협이 된다고 인식된 소수 집단을 감시하기 위해 채택된 방법들은 결국 다수에게 확장된다"라고 주장했다. 이스라엘 NSO 그룹이 만든 페가수스 같은 식민지 감시 도구가 전 세계적으로 사용되어 기자, 인권 옹호자, 활동가를 해킹하고 있는 것도 이와 같다.

서안지구

점령된 서안의 알칼릴(헤브론) 도시에 있는 이스라엘 정착민들은 특히 구시가지와 그 주변 지역을 차지하고 있으며, 이곳은 이스라엘 군의 완전한 통제하에 있다. 이곳에서 팔레스타인인에 대한 AI 기반 통제는 만연해 있다. CCTV 카메라는 얼굴 인식 기술이 탑재되어 팔레스타인 가정의 집을 향하고 있으며, 일부는 팔레스타인 집의 지붕에 강제로 설치되어 있다. 이 AI 기술들은 기존의 감시 인프라, 즉 이스라엘 검문소, 감시탑, 신분증과 허가증, 그리고 분리된 도로와 같은 인프라의 폭력성과 범위를 확장시킨다.

<워싱턴 포스트>에 따르면 2020년 이스라엘 군은 점령된 알칼릴에서 팔레스타인인들의 이미지를 가능한 한 많이 강제로 수집하도록 지시받은 새로운 감시 프로그램을 도입했다. 이는 한 전직 군인이 '팔레스타인인을 위한 페이스북'이라고 부른 데이터베이스를 구축하기 위한 것이다. 군이 운영하는 스마트폰 기술인 블루 울프(Blue Wolf)는 이 감시에 사용되며, 수집된 사진들은 이미지 데이터베이스와 일치시킨다. 이 앱은 사람이 통과할 수 있을지, 체포될지, 즉시 구금될지를 빨강, 노랑, 초록 색상으로 표시해 이스라엘 군이 팔레스타인인들을 마음대로 괴롭힐 수 있게 한다.

블루 울프는 울프 팩(Wolf Pack)이라는 더 큰 군사 운영 데이터베이스의 스마트폰 호환 버전으로 알려져 있으며, 서안 전역의 팔레스타인인들의 이미지, 가족 역사, 보안 등급, 차량 번호판 정보, 허가 정보, 교육 수준 등을 저장한다. 이러한 군사 도구들의 목적은 서안에 있는 모든 팔레스타인인에 대한 정보를 수집하고 관리해 이스라엘 정착 식민 통제를 유지하고 확장하는 것이다.

2023년 국제앰네스티는 "자동화된 아파르트헤이트(Automated Apartheid)"라는 제목의 보고서를 발표해, 기존에 알려진 AI 기반 기술들에 대한 정보를 확장하며 알칼릴(헤브론)과 예루살렘에서 사용되는 감시 기술인 레드 울프(Red Wolf)에 대해 문서화했다. 이 기술은 블루 울프(Blue Wolf)와 울프 팩(Wolf Pack)과 연결되어 있는 것으로 추정된다. 레드 울프는 점령된 알칼릴 내 IOF(이스라엘 점령군) 검문소에서 작동하며, 얼굴 인식 기술을 사용해 팔레스타인인들의 얼굴을 스캔하고 등록해 그들의 동의 없이 방대한 감시 데이터베이스에 포함시킨다. 이는 블루 울프 스마트폰 애플리케이션으로는 불가능한 기능이다. 레드 울프는 검문소에서 팔레스타인들이 통과할 때 그들의 얼굴을 자동으로 기록하며, 이는 IOF 병사가 사진을 찍어 데이터베이스를 통해 확인하는 과정과 달리 팔레스타인인의 동의 없이 진행된다. 이 프로그램은 팔레스타인인이 검문소를 통과할 수 있을지, 억류될지 여부를 결정하는 데 사용된다. 레마 하마미 박사와 같은 학자들은 이스라엘 검문소가 점령된 팔레스타인 전역에서 팔레스타인 사람들의 이동을 통제하는 ‘정착민 식민지 기술’로 어떻게 기능하는지에 대해 광범위하게 저술해 왔다. 이는 원주민 인구의 생물정치적 관리를 용이하게 하며, 궁극적으로는 제거의 논리에 의해 움직인다.

출처: Unsplash, Levi Meir Clancy

점령된 예루살렘

점령된 예루살렘에서는 AI 기반 감시가 모든 곳에 있다. 국제앰네스티는 구시가지 전역에 수천 대의 CCTV 카메라가 설치되어 있다는 사실을 문서화했으며, 이는 IOF이 통제하는 ‘마밧 2000(Mabat 2000)’이라는 비디오 감시 시스템의 일부이다. 이 시스템은 얼굴 인식 기술이 탑재되어 있으며, 점령된 동예루살렘에서 운영 중이다. 이 시스템은 2000년에 시작되었으며, 2018년에 생체 인식 기능, 즉 객체 및 얼굴 인식 기능을 포함하도록 업그레이드되었다. 국제앰네스티는 점령된 동예루살렘의 지리 내에 CCTV 카메라가 5미터마다 한두 대씩 설치되어 있다고 밝혔으며, ‘유로메드 모니터(Euro-Med Monitor)’는 그 지역의 95%가 CCTV로 감시되고 있다고 보고했다. 셰이크 자라와 실완 지역에서는 지난 3년 동안 CCTV 카메라 수가 급격히 증가했으며, 이는 이스라엘 정부가 정착민들이 팔레스타인 가정을 차지할 수 있도록 강제로 팔레스타인들을 퇴거시키려는 의도 때문이다. 2021년 팔레스타인 디지털 권리 단체 ‘7암레(7amleh)’가 실시한 보고서에서는 점령된 예루살렘의 팔레스타인들을 인터뷰하여 그들이 심지어 집 안에서도 지속적으로 감시받고 있다는 공통된 감정을 기록했다. 이 감시는 CCTV 카메라뿐만 아니라 이스라엘 사이버 유닛에 의해 소셜 미디어도 감시된 결과라고 보고했다. 이 사이버 유닛은 2015년에 설립되어 소셜 미디어 회사들과 협력해 팔레스타인 관련 콘텐츠를 삭제한다.

2021년, 실완의 한 젊은 팔레스타인인은 ‘7암레’에 "우리는 여기서 물리적 봉쇄뿐만 아니라 전자적 봉쇄 아래에도 있다"고 말했다. 이 전자적 봉쇄는 가자에서 진행 중인 학살 동안 더욱 강화되었고, 이로 인해 점령된 팔레스타인 전역에서 학살에 관한 소셜 미디어 게시물을 작성한 팔레스타인들이 체포되는 사례가 증가했다. 자동화된 AI 기반 콘텐츠 검열 알고리즘은 전 세계적으로 팔레스타인 콘텐츠를 불균형하게 제거하고 있으며, 질리언 요크(Jillian York)는 2024년 6월 초에 열린 ‘7암레’ 주최 팔레스타인 디지털 행동 포럼(PDAF)에서 이를 "블랙박스"라고 불렀다. 팔레스타인 디지털 권리 전문가 모나 슈타야(Mona Shtaya)는 가자에서 진행 중인 학살 동안 ‘메타(Meta)’가 "팔레스타인에서의 인권 침해를 기록하려는 콘텐츠, 예를 들어 알-아흘리 아랍 병원 폭격과 관련된 증거들을 적극적으로 억제하고 있으며, 팔레스타인 관련 콘텐츠를 부당하게 차단하고 있다"고 문서화했다.

생성형 AI와 팔레스타인 콘텐츠에 대한 편향

생성형 AI는 훈련 데이터를 사용해 이미지, 텍스트, 대화 등을 생성하는 급속히 확장되는 기술로, 팔레스타인 콘텐츠에 대해서도 편향적이다. ‘생성형 AI: 팔레스타인인들과 소외된 커뮤니티에 대한 비인간화 및 편향"’이라는 제목으로 포럼에 참가한 슈타야(Shtaya)는 챗봇이나 왓츠앱 AI 생성 스티커와 같은 AI 도구들이 팔레스타인에 대한 부정적인 콘텐츠를 생성해 여론을 조작하고 학살을 가능하게 하는 허위 정보 캠페인을 조장한다고 지적했다. 슈타야는 "소셜 미디어와 기술 플랫폼들이 허위 정보를 방지하거나 기술로 인한 피해를 제한하는 데 충분한 자원을 투자하지 않고 있다"고 강조했다.

샤흐드 칸남(Shahd Qannam)과 자말 아부 아이셰(Jamal Abu Eisheh)는 <예루살렘 분기별 보고서(Jerusalem Quarterly)>에서 이스라엘의 팔레스타인 감시가 특히 예루살렘에서 정착 식민주의의 비전을 어떻게 실현하려 하는지 설명했다. 이 비전은 예루살렘과 점령된 팔레스타인 전역에서 팔레스타인들을 완전히 제거하는 것이다. 그들은 "디지털 및 온라인 영역은 식민주의적 논리와 원주민 저항이 서로 싸우는 공간이 된다. 결국, 영토는 정착 식민주의의 핵심이며, 디지털 공간도 영토이므로, 이스라엘이 이를 지배하는 방식을 주목하는 것이 중요하다"고 썼다. 이스라엘은 온라인 공간에서 팔레스타인 목소리를 제거함으로써 팔레스타인 전체를 제거하려고 한다. 이스라엘 회사들은 심지어 IOF가 팔레스타인인들의 페이스북 게시물을 감시하고 구금할 수 있는 알고리즘도 개발했다. 이는 예측 알고리즘으로, 순교자 사진이나 구속된 팔레스타인인들의 사진과 같은 '폭력을 선동한다'고 여겨지는 게시물을 탐색한다.

칸남과 아부 아이셰는 이스라엘이 2009년에 "이스라엘 생체 인식 프로젝트(Israeli Biometric Project)"를 배포했다고 밝혔다. 이는 디지털 신분증을 의무화하고 예루살렘 주민, 특히 점령된 예루살렘의 팔레스타인 거주자들의 생체 정보를 데이터베이스에 저장하기 위한 조치였다. 이 디지털 신분증은 이스라엘 내무부에서 갱신해야 하며, 갱신이 거부되면 팔레스타인들은 예루살렘에서 거주할 권리를 박탈당할 수 있다. 대규모 데이터 수집은 감시와 통제의 수단으로 사용되어 정착 식민지적 팔레스타인 제거를 가속화한다.

기술의 치명적인 교환

미국에서 제조된 결함 있는 AI 기반 음향 총격 탐지 시스템 ‘샷스포터(ShotSpotter)’는 2021년에 이스라엘 경찰과 계약을 체결했으며, 이는 초국적 식민지적 억압을 자동화하려는 욕망을 드러낸다. 이 시스템은 팔레스타인에 대한 식민지적 통제의 범위를 땅과 하늘 모두에서 확장하는 기능을 한다. 이 도구는 원래 흑인 미국인들을 감시하고 통제하기 위해 만들어졌으나, 팔레스타인 억압에도 유용한 것으로 간주되었다. 2021년 12월 16일 샷스포터의 계약 관련 보도 자료에서 사장 겸 CEO인 랄프 A. 클락(Ralph A. Clark)은 "샷스포터는 에어로보틱스(Airobotics)와 협력해 새로운 시장을 개발하고, 이스라엘 법 집행 기관이 총격 사건에 더 신속하고 정확하게 대응할 수 있도록 돕게 되어 기쁘다"고 밝혔다.

이 강력히 군사화된 맥락에서 에어로보틱스와의 파트너십을 통해 추가된 드론은, 지상에 있는 음향 센서가 감지한 총격 위치로 출동 중인 대응 요원에게 중요한 시각적 정보를 제공하는 역할을 한다. 이러한 드론의 도입은 시각적 감시를 통해 공간의 무기화를 더욱 심화시키는 방식으로 작용하고 있다.

이스라엘 정권은 세계 최초로 대형 무인 항공기를 민간 공역에서 비행할 수 있도록 허가한 국가다. 2022년에 이스라엘 교통부가 이스라엘 무기 제조업체 ‘엘빗 시스템즈(Elbit Systems)’가 만든 드론이 민간 공역에서 비행할 수 있도록 승인한 것이 그 예다. 이 조치는 이스라엘 식민지 사회의 극도로 군사화되고 편집증적인 성격을 보여준다. 에어로보틱스는 인간 조종사나 수동 감독이 필요 없는 "무인 드론 솔루션"을 개발한 세계 최초의 회사로 마케팅하고 있으며, 이는 점령된 팔레스타인에서 특히 유용하다.

샷스포터는 '이스라엘의 도시 지역'에서 배치될 예정인데, 이 용어는 모호하며 이스라엘이 서안에서 팔레스타인 지역을 점령하고 정착지를 확장하는 것을 정상화하는 역할을 한다. 샷스포터가 사용될 도시에 대한 공개된 정보는 없다.

식민지적 이스라엘 경제와 AI 기반 폭력의 연관성

인종과 기술을 연구하는 학자 루하 벤자민(Ruha Benjamin)은 인종화된 집단과 식민지화된 집단의 억압이 기술 혁신을 가능하게 한다고 설명한다. 가자는 2006년부터 완전한 봉쇄 상태에 있으며, 이는 가자지구를 25마일 길이의 농도 짙은 수용소로 변모시켰다. 서안지구는 수십 년 동안 군사 점령하에 있었으며, 그곳에서 팔레스타인인들에 대한 감시, 통제, 체계적인 살해는 지난 몇 년 동안 급격히 증가했다. 동시에, 2016년 기준 이스라엘은 세계에서 1인당 감시 회사 수가 가장 많은 국가로, 27개 이상의 감시 회사가 존재하며, 그 중에는 침투성 페가수스(Pegasus) 소프트웨어를 개발한 악명 높은 NSO 그룹이 포함되어 있다. 이 회사는 2014년까지 60억 달러 이상의 제품과 서비스를 수출했다.

이스라엘은 매우 군사화된 정착 식민지 국가이기 때문에, 감시는 국가와 민간 부문 모두에서 핵심 투자 분야이다. 다른 많은 국가들과 달리, 이스라엘의 감시 부문은 국내 수요와 수출에 모두 의존한다. 2000년대 초반, 통신 붐과 미국 주도의 '테러와의 전쟁' 시기에 이스라엘 정보 커뮤니티는 미국의 보안 전문가들과 기술 기업 CEO들과 협력해 이스라엘의 정보 기구를 점령된 서안, 동예루살렘, 가자에서 크게 확장하고 민영화했다. 8200 부대는 가자에서 검문소에 사용되는 얼굴 인식 프로그램인 ‘라벤더 시스템’을 개발했으며, 이 시스템은 아마도 다른 여러 AI 도구와 알고리즘에도 사용되고 있다. 또한 미국과 이스라엘 간에는 교정 전술의 교환도 존재한다. 미국 경찰, 군대, 국경 순찰대가 이스라엘에서 훈련을 받는 사례가 그 예다.

이는 ‘치명적인 교환(Deadly Exchange)’으로 알려져 있으며, 미국-멕시코 국경에서도 엘빗 감시 시스템이 배치되고 있다. 아랍에미리트도 이스라엘 보안 기술 회사와 첨단 무기 시스템 회사에 수십억 달러를 투자해 특히 인공지능 기술에 대한 지원을 강화하고 있다.

학자 소피아 굿프렌드에 따르면, 민간 기술 부문과 IOF 간의 관계는 항상 긴밀했으며, 이는 이스라엘 정권의 식민지적 목표에 매우 유리하게 작용한다. 많은 이스라엘 감시 기술들은 가자와 서안에서 처음 사용되며, 이스라엘의 군사 점령과 팔레스타인 생명에 대한 무시가 민간 기업들이 IOF와의 계약을 통해 제품을 시범 운영하고 정제한 후 해외로 수출할 수 있도록 한다. 일부 미국 기업들도 팔레스타인 억압에 직접적으로 연루되어 있어, 팔레스타인 재산 박탈에 공모하고 있다. 그러나 이러한 AI 도구들이 팔레스타인에 어떻게 사용되는지, 특히 학살적 목적으로 어떻게 사용되는지에 대한 보도는 극히 드물다. 팔레스타인에 대한 학살에서 이러한 도구들의 개발과 배치는 시온주의 정착 식민 프로젝트의 논리적 결과다. 우리는 이를 명확히 그렇게 명명해야 한다.

[출처] Explainer: The Role of AI in Israel's Genocidal Campaign Against Palestinians

[번역] 이꽃맘

덧붙이는 말: 앰버 라흐만(Amber Rahman)은 프린스턴 대학교(Princeton University)에서 아프리카계 미국인 연구를 전공하는 학부생이다. 그의 연구는 기술 발전, 감옥화, 그리고 정착민 식민주의 간의 관계를 해체하여 글로벌 감시 관행과 제국 전략에 도전한다. 앰버는 아이다 B. 웰스 저스트 데이터 연구소(Ida B. Wells Just Data Lab)에서 연구 조교로 활동하고 있다. 참세상은 이 글을 공동 게재한다.