챗GPT가 말했다. “인간보다 더 많은 책임을 지게 될 줄이야!”

① 들어가며
② 알고리즘의 "부수적 피해"가 되어버린 사람들
③ 인공지능이 우리 삶을 결정한다면?
④ 배달노동자, 배차 알고리즘을 법정에 세우는 소송 나선다
⑤ 알고리즘 사장님과 개인정보 자기결정권
⑥ "비정한 시스템 방치하면 미래 노동의 표준이 될 위험 있어“
⑦ 당신에게 위험할 인공지능

영국 ‘앱 운전자 배달원 노동조합(The App Drivers and Couriers Union, 이하 ADCU)’은 2020년 노동조합을 결성하면서 해고된 우버 택시 노동자 사건을 법원에서 다투기 시작했다. 법적 다툼은 우버의 데이터가 보관된 네덜란드에서 진행됐다. 노동조합이 이들의 해고가 부당하다고 주장한 중요한 법적 근거는 유럽연합(EU)의 개인정보보호법(GDPR) 제22조 제1항이었다.

EU GDPR 제22조 제1항은 “개인정보 주체는 프로파일링 등, 본인에 관한 법적 효력을 초래하거나 이와 유사하게 본인에게 중대한 영향을 미치는 자동화된 처리에만 의존하는 결정의 적용을 받지 않을 권리를 가진다”고 규정한다. 즉, 법은 완전 자동화된 해고 등 중대한 결정을 내릴 때 정보 주체인 노동자들을 보호하도록 규정하고 있는 것이다.

사건이 진행되면서 GDPR과 관련된 다른 택시 노동자 관련 사건도 함께 다뤄졌다. 승차 플랫폼인 우버(Uber)와 올라(OLA)의 노동자 9명이 각각 개인정보 열람을 요청했지만 회사로부터 거절당했기 때문이다.


그리고 2023년 4월 3일 암스테르담 항소법원은 노동자의 디지털 권리를 인정하는 역사적인 판결을 내렸다. 암스테르담 항소법원은 “우버가 노동자들을 자동 해고(robo-firing) 했으며 이것은 택시 노동자에 대한 권리침해”라고 판결했다.

법원은 우버 노동자들이 애플리케이션에 접근하지 못하면 수입을 얻을 수 없기 때문에 우버에 의해 자동화된 의사결정은 우버 노동자들의 노동환경에 상당한 영향을 미친다고 판단했다. 또 우버의 주장과 달리 자동화된 의사결정에 의미 있는 사람의 개입이 없었다고 결론지었다. 또 법원은 우버와 올라가 보안 사항 또는 기업 비밀이라는 이유로 노동자들의 개인정보 열람을 거부하는 것이 부당하다고도 판결했다.

법원은 우버와 올라에 ▷운전자 프로필 ▷태그 ▷운행별 보고서 ▷개인 평점 ▷선불 요금 시스템 ▷개인 데이터 수신자 관련 정보 ▷가이드노트의 카테고리 ▷자동화된 개별 의사 결정에 대한 정보 ▷운전자의 GPS데이터 등을 노동자에게 공개하라고 판결했다.

이 소송을 주도했던 ADCU 사무총장 제임스 파(James Farr)에게 이번 소송의 의미를 물었다. 제임스 파는 ADCU 조합원들을 대리해서 암스테르담에서 소송을 진행하고 있는 노동자 디지털 권리 옹호 단체인 노동자정보교환(Worker Info Exchange)의 이사이기도 하다. 인터뷰는 이메일 서면으로 진행됐다.

영국에서 앱에 기반한 노동자가 겪는 가장 큰 어려움은 뭔가.

다른 곳과 마찬가지로 가장 큰 문제는 저임금과 불안정한 일자리다. 엄청난 힘의 불균형이 존재한다. 이를 해결할 수 있는 유일한 길은 노동자들을 조직해 불균형에 맞설 수 있는 단체 교섭력을 만드는 것이다.

이번 사건과 판결의 의미는 뭔가.

이번 판결은 영국을 비롯한 유럽 전역에서 일하는 긱(gig) 이코노미 노동자(수요에 따라 필요한 경우에만 계약을 맺는 초단기 노동)들의 큰 승리다. 긱 이코노미 기업의 고용주들은 노동자를 착취하고 임금, 배차, 부당 해고처럼 고용과 관련된 기본적인 사안에 대한 권리를 부정하기 위해 정보의 비대칭성, 영업 비밀보호를 내세웠다. 우버, 올라 등 플랫폼 고용주들은 은밀한 알고리즘 속에 숨어 고용 관계의 지배력을 행사했다. 그러나 이번 판결로 이같은 행동을 계속할 수는 없게 됐다. 이번 판결로 이런 일은 끝나야 한다.

많은 노동자가 인공지능으로부터 어떤 혐의를 받았는지 정확히 알 기회도 없이, 심지어 부정행위를 저질렀다는 허위주장으로 일터와 생활과 정신 건강이 파괴됐다. 이 와중에 이들 기업은 비용을 절감하고 고용주의 책임을 회피하기 위해 사람이 개입하지 않는 자동화된 인사 결정 시스템을 구축했다. 이 비정한 시스템을 그대로 방치한다면 미래 노동의 표준이 될 위험이 있다.

이 사건에서 가장 전형적인 사례를 소개해 달라.

코로나19 팬데믹 동안 일반적이지 않은 장거리 운전을 한 사례가 있다. 일 자체가 너무 적어서 주는 대로 일을 한 것이다. 그런데 아무런 증거도 없이 운전자 한 명은 포르투갈에서, 또 다른 운전자 한 명은 영국에서 해고됐다. 승객이 신용카드로 결제하지 않아서 플랫폼 기업은 운전자가 승객과 공모한 것이 틀림없다고 판단했다.

운전자는 그들이 받은 혐의를 제대로 소명할 기회를 얻지 못했다. 회사의 보안팀은 운전자에게 “연락을 주겠다”고 약속했지만 운전자는 연락받지 못했다. 법원은 운전자들을 해고하는 결정이 폴란드 크라루프에서 이루어졌다는 사실을 알아냈고, 회사쪽 해고 결정에 사람이 개입했다는 주장은 받아들이지 않았다. 사람이 개입해서 해고를 검토했다고 해도 상징적으로만 이뤄졌다는 것이 법원의 판단이다. 이와 같은 처리는 EU의 GDPR 22조를 위반한 것이다.

‘의미 있는 사람의 개입이 없는 자동화된 의사 결정’이 가져다줄 위험이 뭐라고 생각하나.

기업들은 운전자 관리를 완전히 자동화하려고 하기 때문에 사람이 검토하지 않은 채 여러 결정이 내려진다. 기업들은 굳이 인사팀을 고용하면서까지 관련 사례들을 적절하게 검토하려고 하지 않는다. 운전자들에게는 권리가 없고, 플랫폼 노동을 하고 싶어 하는 사람들은 많기 때문이다. 운전자들은 아무런 저항 없이 인공지능 기계에 의해 해고될 수 있다. 우리는 여기에 도전하려고 하는 것이다.

향후 계획은.

우버가 대법원에 항소할지 일단 지켜봐야 할 것 같다.