참세상

"신자유주의는 경제 시스템으로서 산업 생산보다 지대 추출을 우선시한다."

디스토피아적 상황: AI 감시 기술이 당신의 차를 멈출 수도 있다

인류가 만든 가장 혁명적인 발명품 두 가지는 20세기에 등장했다. 하나는 세기 초에, 다른 하나는 세기 말 무렵에 나왔다. 두 발명품은 공통된 혁신을 제공했다. 개인의 자유와 권한을 비약적으로 확장한 것이다.

물론 여기서 말하는 것은 자동차, 즉 개인 교통수단과 개인용 컴퓨터(PC)다.

자동차와 컴퓨터

자동차를 소유하면 자신의 교통수단을 갖게 된다. 빌리거나 임대하는 것이 아니다. 개인 교통수단 ‘소유’의 장단점을 두고는 논쟁이 있을 수 있다. 기후, 오염, 혼잡 문제를 근거로 반대할 수도 있다. 그러나 자동차가 사람들에게 자유를 제공한다는 사실만큼은 분명하다. 지금 당장 떠나고 싶다면 차에 올라타고 가면 된다.

PC도 마찬가지다. PC 이전에는 어떤 계산이나 모델링 작업은 너무 고통스럽고 시간이 오래 걸렸으며, 많은 작업은 아예 불가능했다. 당신이 지금까지 만든 가장 복잡한 스프레드시트를 떠올려보라. 그것을 손으로 만들 수 있었을까? 아니, 설령 가능했다고 해도 정말 그렇게 했겠는가?

1990년의 초기 선 워크스테이션(Sun Workstation). PC의 기업용 버전이다. 출처: National Museum Of American History

PC와 그 기업용 대응물인 유닉스(UNIX) 기반 선 워크스테이션 이전에는 컴퓨팅 파워에 접근하려면 IBM 스타일 메인프레임이나 DEC 같은 기업이 만든 미니컴퓨터를 사용해야 했다. 이런 장비들은 결코 ‘개인용’이라고 부를 수 없었다. 너무 비쌌고, 여러 사용자가 단말기를 통해 접속할 수는 있었지만 실제 컴퓨팅은 중앙집중식이었고 기업이 소유했다.

메인프레임보다 작은 컴퓨터인 미니컴퓨터(minicomputer)는 ‘덤 터미널(dumb terminal)’을 통해 사용자들에게 서비스를 제공했다.’출처: PCmag

미니컴퓨터용 ‘덤 터미널(dumb terminal)’. 출처: BCcampus

이 점을 기억하라. PC 이전에는 컴퓨팅이 중앙집중적이고 기업 소유였다. PC 이후에는 컴퓨팅 파워가 당신이 사용하는 기기 안으로 들어왔고, 개인이 구매할 수 있는 가격으로 제공됐다. 그러나 이제 윈도우11(Windows 11) 덕분에 모든 것이 다시 뒤집혔다.

자동차와 컴퓨터는 각각 개인의 권력과 통제를 혁명적으로 확장한 존재였다. 그러나 이제 둘 다 우리에게서 사라질 것이다. 당신의 자동차도 더 이상 당신 것이 아니고, 당신의 PC도 더 이상 당신 것이 아니다.

곧 당신은 자동차를 소유하지 못하게 될 것이다

위 문장은 여러 의미에서 사실이다. 당신이 이미 구매한 자동차조차 이제는 당신에게 ‘라이선스’ 형태로 제공될 것이며, 그 라이선스는 언제든 취소될 수 있다.

당신의 새 자동차는 감시 장치다

지난 몇 년 동안 자동차는 컴퓨터가 됐다. 그리고 그것은 자동차가 감시 기계가 됐다는 뜻이기도 하다. 다음은 2023년 모질라 재단(Mozilla Foundation)이 개인정보 보호 관점에서 자동차 산업을 평가한 보고서다. 결론은 제목 그대로다.

공식 확인: 자동차는 우리가 지금까지 검토한 제품군 가운데 개인정보 보호 측면에서 최악이다

“우리가 조사한 25개 자동차 브랜드 모두 ‘개인정보 보호 제외 경고(*Privacy Not Included)’ 딱지를 받았다. 자동차는 우리가 지금까지 검토한 제품 가운데 개인정보 보호 측면에서 공식적으로 최악의 제품군이 됐다.”

개별 브랜드 평가 링크는 여기 있다. 문제점은 많지만, 핵심은 다음과 같다.

1. 모든 자동차 브랜드가 과도한 개인정보를 수집한다.

2. 대부분(84%)은 당신의 데이터를 공유하거나 판매한다.

3. 대부분(92%)은 운전자에게 개인정보에 대한 통제권을 거의 주지 않는다.

4. 어느 브랜드도 최소 보안 기준(Minimum Security Standards)을 충족하는지 확인할 수 없었다.

당신의 데이터를 구매하는 대상에는 보험회사도 포함될 수 있으며, 이들은 당신의 운전 습관에 대한 모든 기록을 구매할 수 있다.

그리고 이런 기능은 끌 수도 없다. 왜냐하면 그것은 하드웨어가 아니라 소프트웨어이며, 자동차는 그 소프트웨어 없이는 작동하지 않기 때문이다. 다음은 2023년 테슬라(Tesla)의 소프트웨어 경고문이다. 강조는 원문에 있다.

“그러나 귀하가 더 이상 테슬라 차량에서 차량 데이터 또는 기타 데이터를 수집하는 것을 원하지 않는다면 연결 기능 비활성화를 위해 당사에 문의해주시기 바랍니다. 다만 무선 업데이트(over-the-air updates), 원격 서비스(remote services), 모바일 애플리케이션 연동, 위치 검색, 인터넷 라디오, 음성 명령, 웹 브라우저 기능 같은 차량 기능은 이러한 연결성에 의존한다는 점을 유의하시기 바랍니다. 귀하가 차량 데이터 수집 거부를 선택할 경우(차량 내 데이터 공유 설정 제외), 당사는 귀하 차량과 관련된 문제를 실시간으로 파악하거나 통지할 수 없게 됩니다. 이에 따라 차량 기능 저하, 심각한 손상 또는 작동 불능 상태가 발생할 수 있습니다.”

그 이후 상황은 더 악화했다. 테슬라는 이제 시작에 불과하다.

바이든 법안이 의무화한 ‘킬 스위치’

상단의 브레이킹 포인츠(Breaking Points) 영상을 보라. 신뢰할 수 있는 기자들이 2027년 이후 생산 차량에 들어갈 다음 디스토피아적 기능, 즉 운전하면 안 된다고 판단할 경우 차량을 멈추게 하는 ‘킬 스위치(kill switch)’를 설명한다.

세부 내용은 여기있다. 기본적으로 조 바이든 행정부 아래에서 제정된 인프라 투자 및 일자리법(Infrastructure Investment and Jobs Act) 제24220조는 “모든 신규 승용차에 운전자 상태 이상을 감지하고 차량 운행을 방지하거나 제한하는 기술을 궁극적으로 기본 장착하도록 요구한다.”

이 제도의 시행은 미국도로교통안전국(NHTSA·National Highway Traffic Safety Administration)이 맡고 있으며 현재 관련 규정을 마련 중이다. 의회가 이를 막거나 수정하지 않는 한, 이 킬 스위치는 2026년 말 또는 2027년 초부터 생산되는 모든 신차(중고차 제외)에 탑재될 것으로 예상된다.

프라이버시와 통제

현대 미국에서는 두 가지가 분명하다. 첫째, 프라이버시를 한 번 빼앗기면 다시 돌아오지 않는다. 둘째, 기업과 정부가 권력을 얻으면 가능한 한 빨리 그것을 왜곡해 사용한다.

가장 대표적인 사례는 전쟁이다. 의회가 오래전에 전쟁 권한을 행정부에 넘긴 이후 대통령 권한은 계속 확대됐고, 이제는 의회 승인을 받는 척조차 하지 않는다. 트럼프가 어디든 전쟁을 원하면 그대로 실행한다. 혹은 ‘테러리스트’의 정의를 생각해보라. 오늘날 그것은 “연방정부가 해치고 싶어 하는 사람, 그리고 원하는 수준까지”를 뜻한다.

그렇다면 ‘새로운 자동차’가 초래할 수 있는 최대 피해는 무엇일까? 당신의 운전은 AI에 의해 감시되고, 데이터는 세밀하게 저장된다. 누구든 원하는 목적을 위해 그것을 구매할 수 있다. 보험료를 올리거나 보험 가입을 거부하는 데 사용할 수도 있다.

더 나아가 소프트웨어를 통제하는 누구든 — 제조사, FBI(처음에는 영장을 통해서겠지만 이후에는 누가 알겠는가), 경찰, 국토안보부, 또는 법 집행기관이라는 이름의 어느 조직이든 — 원할 때 자동차를 멈출 수 있다. 혹은 왜 안 되겠는가? 차량을 완전히 통제하고, 당신을 안에 가둔 채 원하는 곳으로 데려갈 수도 있다. 새로운 권력은 결국 모두 왜곡된다는 사실을 기억하라.

언제나 그렇듯 시작은 “아이들을 보호하자”는 구호다(음주운전반대운동(MADD)은 이 법안을 열렬히 지지한다).

그다음 단계는 범죄와의 전쟁을 강화하는 것이다(“OJ 심슨 고속도로 추격전을 기억하는가? 자동차를 그냥 꺼버릴 수 있었다면 어땠겠는가? 당신은 OJ를 잡고 싶지 않은가? 경찰이 싫은가?”).

그리고 그것은 결국 무엇으로 변할까? 국가안보 체제가 원하는 무엇이든 된다. 이유는 언제나 같다. “당신을 안전하게 지키기 위해서”다.

OJ 심슨의 저속 도주 시도. 출처: Branimir Kvartuc/ZUMAPRESS.com/코비스(Corbis)

라이선스 혁명

당신은 또 다른 이유에서도 자동차를 소유하지 못하게 될 것이다. 이미 눈치챘을 수도 있다. 예전에는 구매할 수 있었던 것들이 이제는 단지 임대 형태로 제공된다.

• 애플(Apple)은 음악을 판매하지 않는다. 사용 권한을 라이선스로 제공할 뿐이다.

• 당신은 더 이상 소프트웨어를 소유하지 않는다. 예를 들어 터보택스(TurboTax)는 “주문 및 활성화 조건에서 제공된 사용 기간 동안 해당 소프트웨어를 사용할 수 있는 개인적이고 제한적이며 비독점적이고 양도 불가능하며 취소 가능한 라이선스”를 판매한다.

• 아마존(Amazon)의 전자책과 오디오북도 마찬가지다.

• 마이크로소프트 윈도우(Microsoft Windows)도 마찬가지다. (이에 대해서는 뒤에서 더 다룬다.)

양도 불가능하고 취소 가능한 라이선스. 당신은 삶 자체를 임대하고 있다.

라이선스 혁명은 권력을 가진 이들에게 수많은 이익을 제공한다. 그중 하나는 사회적 통제다. 아마존이 당신의 서재에서 책 한 권을 삭제하고 싶다면 그렇게 할 권리가 있으며 실제로 그렇게 한 적도 있다. 트럼프 체제의 아마존이 “당신의 책을 선별”하는 상황을 상상해보라. 혹은 티퍼 고어(Tipper Gore)식 애플이 당신이 이미 ‘구매한’ “폭력적인” 노래를 삭제하는 상황도 생각해보라.

또 다른 거대한 기업 이익은 수십억 달러 규모의 지속적 수익 흐름이다. 과거에는 어도비 아크로뱃(Adobe Acrobat)을 구매할 수 있었다. 그러나 2020년 이후부터는 갱신이 필요한 라이선스 상품이 됐다. 사용자 1인당 매년 수백 달러를 영원히 지불해야 한다는 뜻이다. 고객이 그냥 떠나지 않는 한 말이다. 수억 명의 사용자를 고려하면 이는 연간 수십억 달러 규모 수익이다.

당신은 어도비를 떠날 수 있다. 어쩌면 애플도 떠날 수 있다. 그러나 자동차를 포기한 채 직장을 유지하기는 어렵다.

어떻게 해야 하나?

의무화 시점 이후 생산되는 모든 신차에는 우회 불가능한 소프트웨어가 탑재돼 당신의 사용을 감시하고 통제할 것이다. 게다가 이런 차량들은 기능별 소프트웨어 라이선스를 갱신하지 않으면 점점 사용 자체가 어려워질 것이다.

어떻게 해야 할까? 간단하다. 새 차를 사지 말라. 영원히. 당신만 그런 선택을 하는 것은 아닐 것이며, 중고차 시장은 번성하게 될 것이다.

윈도와 ‘개인용’ 컴퓨터

나는 여러 차례 컴퓨터가 이미 자동차가 곧 가게 될 길을 먼저 걸었다고 말했다. 컴퓨터는 더 이상 당신의 것이 아니다. 운영체제(OS)를 통제하는 소프트웨어 기업들의 것이며, 대부분의 신형 컴퓨터에 들어 있는 ‘트러스트 칩(trust chip)’ 즉 TPM(Trusted Platform Module)도 그들이 통제한다. TPM 칩에는 수많은 프라이버시와 통제 문제가 존재하며, 윈도 자체도 마찬가지다. 이는 이 연재의 2부에서 다룰 예정이다.

그러나 핵심 결론은 이것이다. 윈도우11에서는 더 이상 당신이 컴퓨터를 소유하지 않는다. 당신이 구매한 것은 단지 단말기다. 대부분의 소프트웨어와 데이터는 다른 어딘가에 존재하며, 대부분의 처리는 ‘클라우드(cloud)’에서 이뤄진다. 즉 다른 누군가가 통제하는 기계 위에서 작동한다는 뜻이다.

따라서 우리는 결국 다시 이런 상태로 돌아왔다.