참세상 전체기사2024 :: 일반 :: AI의 민주적 거버넌스가 진짜 해법

AI 붐이 초래할 수 있는 재앙적 영향은 강력한 숙의와 실질적인 민주적 거버넌스를 요구한다. 데이터센터 건설 중단 같은 지역적 조치만으로는 해결할 수 없다.

데이터센터 건설을 막는 것은 AI의 불안할 정도로 빠른 확산과 속도를 늦추기 위한 유혹적인 지름길처럼 보인다. 그러나 진짜 과제는 AI가 어떻게 발전하는지를 민주적으로 통제하는 체계를 구축하는 데 있다. 출처: Unsplash+

그렇다면 우리는 데이터센터 건설을 중단해야 할까? 적어도 잠시 멈춰야 할까? 직관적인 답은 그렇다, 잠시 숨을 고르자는 것이다. 몇 주 전 버니 샌더스와 알렉산드리아 오카시오코르테스가 제안한 ‘인공지능 데이터센터 모라토리엄 법안(Artificial Intelligence Data Center Moratorium Act)’은 “합리적인 일시 중단”을 제안한다. 속도 조절은 주 단위에서도 핵심 의제가 되었으며, 최소 12개 주에서 모라토리엄 법안이 제출되었다. 메인주의 LD 307은 양원을 통과해 최초의 주 단위 중단 조치가 될 예정이었지만 주지사의 거부권으로 무산됐다.

이러한 시도는 이른바 님비 정치의 힘과 장치를 활용해 급증하는 에너지 수요, 탄소 배출, 일자리 감소 같은 다양한 위협에 대응하려 한다. 성공적인 모라토리엄은 AI 모델을 훈련하고 운영하는 데 필요한 물리적 에너지를 차단함으로써 디지털 성장을 억제할 것이다.

그러나 직관과 달리 AI 데이터센터에 대한 모라토리엄은 매우 잘못된 생각이며, 심각한 형평성 문제를 일으킨다. 모라토리엄은 부의 집중을 막으려는 의도에서 출발하지만, 역설적으로 이를 더 악화시킬 가능성이 크다. 이는 진보 진영에게 중대한 전략적 오류이며, 우리는 그 글로벌 정의 측면과 후속 효과를 따져봐야 한다. 이러한 조치가 실제로 시행되면 어떤 일이 벌어질까.

부담의 해외 이전과 디지털 격차 고착화

우선 분명한 점은 모라토리엄이 AI 개발을 실질적으로 멈추지 못한다는 사실이다. 개발을 중단하지 않고 단지 개발의 지정학, 기업 전략, 그리고 AI 서비스 접근 권한을 재편할 뿐이다.

우리는 부담을 다른 곳으로 떠넘기는 제안에 신중해야 한다. 신자유주의 자본주의 하에서 산업은 환경 피해를 규제가 약하고 노동 비용이 낮으며 환경 보호 기준이 느슨한 지역으로 이전한다. 공장과 비교하면 AI 데이터센터는 해외 이전이 더 어렵다. 해외 전력망이 취약하고 반도체 수출 제한이 있기 때문이다. 그러나 이러한 제약은 고정된 것이 아니다. 기업은 반도체 수출 규제를 바꾸도록 영향력을 행사하거나, 미국-아랍에미리트 협력처럼 양자 협정을 체결해 해외 AI 인프라를 확장할 수 있다. 또한 이미 미국에서 하고 있는 것처럼 자체 전력 설비를 구축할 수도 있다.

더 나은 세상을 목표로 한다면 단순히 AI 개발의 지정학을 바꾸는 것이 아니라 그것 자체를 재구성해야 한다. 해외 이전은 연산 자원에 제약을 가하고, 이는 기술 기업들이 가격을 인상하도록 만들며, 소기업, 학계 및 비영리 연구자, 개인 사용자부터 먼저 접근권을 잃는다. 대기업은 여전히 최고 수준의 AI에 접근할 수 있다. 모라토리엄은 기존 대기업에 유리한 시장 구조를 강화한다. 이는 신흥 경제권의 학생, 소기업 소유주, 1세대 전문직 종사자에게도 영향을 미친다.

일부는 이미 많은 사람들이 딥시크(DeepSeek), 큐원(Qwen) 같은 중국산 저비용 모델을 사용하고 있으며 이런 추세가 강화될 것이라고 주장할 수 있다. 이러한 모델은 데이터 프라이버시, 인권, 경제 구조에 대한 다른 접근을 반영한다. 값비싼 미국 모델이 각국이 문화적 맥락과 데이터 소유권, 개인정보 보호를 반영한 ‘절약형’ 혹은 ‘주권형 AI’를 개발하도록 자극할 수 있다는 전망도 있다. 장기적으로 이는 매력적인 비전이다. 그러나 현재 상황은 그렇지 않다. 단기적으로 접근하기 어려운 최첨단 모델은 디지털 격차를 더 고착한다.

이러한 시간적 차이는 중요하다. 인터넷 기술 커뮤니티에서 클로드 미토스 프리뷰(Claude Mythos Preview)에 대한 경각심이 커진 것은 먼저 강력한 AI를 개발하는 것이 얼마나 중요한지를 보여준다. 미토스는 사이버보안 기능이 매우 뛰어나 개발사인 앤트로픽(Anthropic)이 이를 공개하지 않고 기업 컨소시엄에만 접근 권한을 부여해 취약점을 보완하도록 했다. 일부에서는 제한적 공개가 기업에 유리하다는 의견도 있지만, 전문가들은 그 성능이 실제라고 평가한다. 모든 데이터가 노출되고 모든 조직이 사이버 보안 취약성을 갖는 상황을 상상해보라. 이는 단순한 신원 도용이나 사기를 넘어 금융, 의료, 기업, 선거, 식량 및 에너지 시스템 전반에 영향을 미친다. AI 개발은 단순한 경쟁이 아니라, 중단 자체가 우리의 디지털 및 물리적 인프라 전반에 실질적 결과를 초래하는 경쟁이다.

데이터센터 차단은 계급 전쟁인가

아이러니하게도 데이터센터 건설을 막기 위한 조직화의 상당 부분은 비교적 부유한 지역사회와 집단에서 나온다. 이들은 조직화할 힘을 더 많이 가진 경우가 많다. 물론 이에 대한 엄밀한 연구는 부족하다. 그러나 미국 내 데이터센터의 입지를 보면, 북버지니아나 오하이오주 콜럼버스의 부유한 교외 지역에 밀집해 있고, 인센티브와 가용 토지를 바탕으로 주변 지역으로 확장되고 있다는 점에서 지금까지는 상대적으로 불리하지 않은 지역에 있는 경우가 많다.

저항의 상당 부분은 환경운동이 조직했으며, 푸드 앤 워터 워치(Food and Water Watch)는 230개 단체가 참여한 공동 서한을 주도했다. 이는 취약한 지역사회가 대기업에 맞서는 서사로 표현되기도 하며, 멤피스 남부의 xAI 데이터센터가 보여준 착취와 대기오염 사례처럼 이러한 틀에 맞는 경우도 있다. 그러나 실제 현장과 데이터센터 반대 페이스북 그룹을 보면 더 복잡한 양상이 드러난다. AI 데이터센터는 좌우를 가리지 않는 반대에 직면하며, 개즈던 깃발과 “이 집에서는…”이라는 진보적 표지판이 함께 등장하는 상황도 나타난다.

계급적 맥락은 중요하다. ‘데이터센터 반대’의 실체가 교외 및 농촌 주민뿐 아니라 지식 노동에 종사하는 전문가를 포함한 교육받은 중산층이, 의식적이든 무의식적이든 AI가 제기하는 위협으로부터 자신의 계급적 위치를 보호하기 위해 동원되는 모습이라면 어떻게 될까. 이들 중 얼마나 많은 사람들이 데이터센터 건설은 막으면서도, 그것이 일상과 업무에 얼마나 유용한지 분명해지면 최첨단 모델 구독료를 기꺼이 지불하게 될까. 세계 대부분의 사람들이 아직 이러한 모델을 접하고 배울 기회조차 얻지 못한 상황에서, 부유한 환경주의자와 자산 보유자들이 이러한 인프라 구축을 막으려 하는 것은 공정하지 않다.

최첨단 모델의 능력에 대해 낡은 인식을 가진 사람들은 데이터센터 차단이 AI 접근성에 미칠 영향을 과소평가할 수 있다. 그러나 이는 저렴하고 접근할 수 있는 지능이 학습, 소프트웨어 개발, 조언, 연구, 개인 프로젝트 등에서 무엇을 가능하게 하는지에 대한 상상력의 부족을 반영한다. 예를 들어 필자는 지난해 자신이 교수로 재직 중인 주립대학에서 미적분학과 프로그래밍 학부 과정을 수강했다. 많은 과목에서 AI가 제공하는 개인 맞춤형 튜터링은 여전히 대학에서 사용하는 낡은 강의 중심 모델보다 훨씬 우수하다. 교육 방식에 근본적 변화가 없다면 우리는 자격증에 대한 지대만 추출하게 될 위험이 있다.

또 다른 사례로, 필자는 외국어 문서가 포함된 복잡한 이민 행정 문제를 처리해야 했고, 한 변호사는 이를 해결하는 데 3,000달러를 요구했다. 클로드(Claude)는 여러 기관을 상대하는 절차를 안내했고, 챗GPT는 서류를 번역해 주어 비용을 절약했다. 이는 새로운 형태의 ‘빈곤 프리미엄’이 어떻게 형성되는지를 보여준다. 교육받은 중산층은 월 구독료를 지불하며 더 적은 마찰 속에서 학습하고 삶을 영위하는 반면, 이를 감당할 수 없는 사람들은 기존 시스템에 묶여 더 큰 비용을 지불하게 된다. 이러한 AI 기반 빈곤 프리미엄은 먼 미래가 아니라 몇 년 내에 현실이 될 가능성이 크며, 계산 자원을 제한하는 모라토리엄은 이를 더 강화한다.

현실적 문제들

모라토리엄 추진이 막다른 길인 이유 중 하나는 데이터센터 반대 연합을 형성한 좌우 진영이 다른 사안에서는 서로 다른 이해관계를 갖고 있기 때문이다. 데이터센터를 중단한다고 해서 청정에너지 확대나 보편적 의료 같은 사회 정책이 자동으로 실현되는 것은 아니다.

정책 전문가 냇 퍼서(Nat Purser)가 이미 지적했듯이, 일시 중단은 실제 AI 거버넌스를 대체할 수 없으며, 모든 문제를 하나의 조치로 해결하려는 시도는 오히려 해결 가능성을 낮춘다. 데이터센터에 대한 대중적 분노는 심층적 사회 개혁을 촉진하기보다 전자기장이나 세포 손상에 대한 우려 같은 음모론적 유사 환경주의로 흐를 수 있다. 또는 샘 올트먼 자택 공격 사례에서 보듯 정치적 폭력과 이에 따른 탄압으로 이어질 수 있다.

과장된 주장으로 형성된 인식 환경은 사람들의 건강과 복지에 실제 위험을 초래한다. 종말론적 수사를 받아들이기보다 데이터센터 확장이 제기하는 실제 문제를 냉정하게 직시해야 한다. ‘AI’라는 이름 아래 묶인 다양한 문제를 해결하려면 각각의 과제에 맞는 별도의 접근이 필요하다.

기후 문제는 탈탄소화 계획의 문제다. 우리는 자동차, 건물, 공장을 탈탄소화하기 위해 청정에너지가 필요하다는 사실을 이미 알고 있었다. 데이터센터의 배출과 에너지 소비는 실제 문제지만 더 큰 기후 문제 속에서 위치 지어야 한다. 미국의 연간 온실가스 배출량 약 60억 톤 중 약 6,700만 톤이 데이터센터에서 발생한다. AI 데이터센터는 2030년까지 약 2,400만~4,400만 톤의 이산화탄소를 배출할 것으로 예상되며, 자체 가스 터빈에 의존할 경우 더 증가할 수 있다. 다행히 AI 데이터센터는 중공업보다 탈탄소화가 훨씬 쉽다. 기업들이 전력을 절실히 필요로 한다는 점을 활용해 전력망 확충 비용을 부담하게 할 수도 있다. 미네소타주의 HF 16처럼 청정에너지 사용을 요구하는 주 법안도 늘어나고 있다.

물 사용 문제는 수자원 관리의 문제다. 예를 들어 2024년 구글의 데이터센터는 전 세계적으로 81억 갤런의 물을 사용했으며, 이는 미국 남서부 평균 54개 골프장을 관개하는 데 필요한 양과 비슷하다. 그러나 대부분의 데이터센터는 물이 풍부한 지역에 있다. 물이 부족한 지역에서는 잔디 관리나 농업과의 물 사용 경쟁 속에서 데이터센터 문제를 함께 고려해야 한다. 물이 부족하지 않은 지역에서는 주 정부가 개발을 관리하고 물 사용 허가 기준을 마련하거나, 기업에 고효율 기술 사용을 의무화할 수 있다. 이는 이미 입법 과정에서 논의되거나 시행되고 있는 구체적 조치다.

AI가 경제를 붕괴시킬 가능성은 어떠한가. 거품 붕괴나 노동 대체 문제는 자원과 정책 역량을 집중해야 할 영역이다. 현재 데이터센터 건설은 미국 경제를 떠받치고 있다. 초대형 클라우드 기업들은 올해 GDP의 2.1%에 해당하는 투자를 할 것으로 예상되며, 이는 철도 건설이나 고속도로, 우주 프로그램보다 큰 규모다. 동시에 순환적 금융 구조는 시스템 리스크에 대한 우려를 낳는다. 만약 AI 기업이 붕괴하지 않고 수익화에 성공한다면 노동 대체 문제가 뒤따른다.

오픈AI가 최근 AI로 인한 사회경제적 충격을 다루기 위한 산업 정책 필요성을 언급한 보고서를 발표한 것은 정책 논의의 여지가 여전히 크다는 점을 보여준다. 공공부 펀드나 효율성 정책 등 일부 제안은 의미 있는 아이디어를 포함하지만, 오픈AI는 과거 이러한 정책을 저지한 전력이 있다.

이러한 과제 중 상당수는 이미 입법 초안이 존재한다. 그러나 모두 더 구체적인 설계와 공적 논의, 진보적 리더십이 필요하다. 이 논의는 기업이 아니라 시민이 주도해야 한다. 데이터센터 반대 운동을 이끄는 환경 단체와 조직은 단순하고 불평등한 모라토리엄이라는 유혹에 빠지기보다, 기술과 그 영향, 정책 선택지에 대한 공공 참여와 교육을 포함한 보다 폭넓은 해결책에 집중해야 한다.

[출처] Democratic Governance of AI Is the Real Solution

[번역] 하주영