챗GPT가 말했다. “인간보다 더 많은 책임을 지게 될 줄이야!”

① 들어가며
② 알고리즘의 "부수적 피해"가 되어버린 사람들
③ 인공지능이 우리 삶을 결정한다면?
④ 배달노동자, 배차 알고리즘을 법정에 세우는 소송 나선다
⑤ 알고리즘 사장님과 개인정보 자기결정권
⑥ "비정한 시스템 방치하면 미래 노동의 표준이 될 위험 있어“
⑦ 당신에게 위험할 인공지능

"노동에서 알고리즘을 이용하는 것은 노동자들에 대해 투명하고 비차별적이며 신뢰할 수 있고 윤리적이어야 한다. 알고리즘의 투명성과 비차별성은 업무 배정과 배분, 가격 책정, 광고, 평점 및 상호작용에 적용돼야 한다. 더 나아가 알고리즘 관리 기능은 특히 업무 배정, 평점, 정지 절차, 가격 책정, 또는 이에 대한 모든 변경은 이해할 수 있게 설명되고 명확하며 최신 방식으로 전달돼야 하고 사회적 대화의 일부여야 하는 한편 영업비밀을 존중해야 한다."

2021년 9월 유럽연합 의회가 채택한 '플랫폼 노동자를 위한 공정한 근로조건, 권리 및 사회적 보호 결의안'의 일부다. 업무 배정 기준과 임금처럼 노동조건에 영향을 끼치는 중요한 알고리즘은 플랫폼 노동자들에게 이해가능 하도록 설명되고, 최신 방식으로 전달돼야 한다고 규정한다. 한국은 대통령까지 나서 '글로벌 스탠다드'를 주창하고 있지만 국내 플랫폼 기업들의 사용자 책임은 국제 표준을 따라가지 못하고 있다. 유럽연합과 캐나다 등에서 채용 및 고용 분야에 쓰이는 인공지능 기술을 특별히 '고위험 인공지능'으로 분류하고, 규제에 나서고 있지만 한국 플랫폼 기업들은 인공지능에 의한 알고리즘이 자신들의 통제 및 인지 능력 바깥에 있다고 주장하며 관련한 일체의 정보를 공개하지 않고 있다. 알고리즘의 설계자조차 이유를 알기 어려운 블랙박스 안 인공지능이 한 일이라는 것이다.

지난 4월 21일 서울시 강서구 공공운수노조 사무실에서 만난 구교현 라이더유니온 위원장은 "기술을 알고 싶은 게 아니다. 알고리즘이 어떤 목적으로 설계돼 있는지 알고 싶은 것이다"라고 플랫폼 기업의 주장을 반박했다. 구 위원장은 "인공지능을 학습시킨다고 하면 어떤 목적으로 학습시키는지, 목표로 하는 결괏값은 무엇인지, 그것에 도달하기 위해 가중치를 어떻게 바꾸고 있는지 등의 정보가 노동자들에게 제공돼야 한다"라며 "목적을 설계한 것은 인공지능이 아닌 인간이다. 우린 알고리즘 시스템의 목적이 필요하다"라고 말했다.

그동안 라이더유니온은 인공지능의 뒤에 숨어 책임을 회피하는 플랫폼 기업들을 상대로 알고리즘에 대한 설명을 수없이 요구했다. 하지만 이를 뒷받침할 법도 없고, 교섭 대상으로 올릴 만한 노동조합의 힘도 충분치 않아 묵살당하기 일쑤였다. 그래서 라이더유니온을 비롯한 배달노동자들은 개인정보 열람청구를 위한 소송을 고려하고 있다. 지난 3월 개정된 〈개인정보 보호법〉에 제4조(정보주체의 권리) 3항의 '개인정보의 처리 여부를 확인하고 개인정보에 대한 열람 및 전송을 요구할 권리'와 6항 '완전히 자동화된 개인정보 처리에 따른 결정을 거부하거나 그에 대한 설명 등을 요구할 권리' 등이 추가돼 오는 9월부터 시행될 예정이다. 라이더들은 개정된 〈개인정보 보호법〉을 활용해 라이더의 노동조건에 영향을 미치는 알고리즘의 설명을 플랫폼 기업에 요구하려 한다. 구교현 위원장은 "플랫폼 노동의 가장 핵심적인 부분을 건드리게 될 것"이라고 소송에 대한 의의를 밝혔다.

"기존의 노동환경에서 업무와 관련한 전반의 내용은 문서로 남겨졌고, 노사 간 교섭 대상이었어요. 일종의 취업 규칙 형태인데 이를 노동자에게 불이익하도록 변경하기 위해선 절차들도 필요했고요. 그런데 플랫폼 기업들은 업무 전반에 AI 알고리즘을 사용하면서 관련한 기준과 규칙을 공개하지도 않고, 설명조차 하지 않고 있어요. 사측 마음대로 모든 걸 조정하고 통제하고, 노동자에게 적용되는 규칙을 불이익하게 바꾸면서도 따로 절차를 필요로 하지 않아요. 이 때문에 노동자들은 100% 사용자의 선의에 기댈 수밖에 없는데, 이런 상황을 권리의 요구로 타개해 보려고 나선 겁니다. 개인 정보 차원에서 알고리즘 설명을 받아내는 것 자체가 플랫폼 노동자가 처한 현실을 모두 바꿀 순 없어도, 송곳 하나로 구멍을 뚫어주는 효과 정도는 있지 않을까요? 궁극적으로 알고리즘은 사용자의 일방적인 통제 수단으로 기능할 수 없도록 노사 교섭의 의제로 만들어야 합니다."

코로나19에 의한 배달시장의 특수가 사라지고 있는 지금의 상황에서 일감 배분은 매우 중요한 문제다. 한 조사에 따르면 지난 2월 기준 배달앱 3사의 총 월간활성화이용자수(MAU)는 2,922만 7,535명으로, 지난해 동기(3,586만 4,693명) 대비 18.5% 감소했다.¹⁾ 2022년 플랫폼 종사자 규모와 근무실태를 파악한 고용노동부의 조사에선 2022년 플랫폼종사자 규모가 약 80만 명으로 집계됐다. 2021년의 약 66만 명 대비 20.3% 증가한 수치였는데, 플랫폼 종사자 중 규모가 가장 큰 배달·배송·운전 직종은 2.2% 증가에 그쳤다. 배달·배송·운전 직종에선 최근 3개월(’22.9월~11월) 동안 1년 전에 비해 수입이 줄었다고 응답한 비율도 55%로 절반을 넘었다.²⁾ 구 위원장은 코로나 특수로 호황을 누리던 배달 시장의 성장이 둔화하면서 배달노동자들의 시간당 수익이 급격하게 낮아지고, 이로 인해 경쟁이 과열되고 있다고 설명했다. 배달 현장에서의 과열 경쟁은 쉽게 사고로 이어진다. 이미 배달 플랫폼 업체들은 산재 신청 1, 2위를 다투고 있다. 구 위원장은 배달노동자 증가와 실제 사고 증가 두 가지 효과가 동시에 나타난 결과라고 해석했다.

"전반적으로 배달료를 낮추고 있는 추세입니다. 기존에도 배달료 기준이라는 게 없던 상태였지만요. 플랫폼사들이 통상적으로 기본 배달료에 더해 거리별 할증과 필요할 때 프로모션을 더하는 구조였는데, 현재 프로모션은 거의 없애고 기본 배달료와 할증까지도 낮추고 있어요. 지역에 있는 배달대행업체의 경우 최근 기본 배달료가 2,500원까지 깎인 곳도 있었어요. 버틸 사람은 버티고, 나갈 사람은 나가라는 뜻이죠. 누구를 콕 집어서 자르고 안 자르고 복잡하게 선택할 필요도 없이, 기준을 낮추니 알아서 구조조정이 되는 식입니다. 조합원 탈퇴도 늘고 있는데 그 이유를 보면 이직이 가장 많습니다. 배달을 전업으로 삼던 사람들이 이직하고, 투잡을 뛰고 있습니다. 배달 노동으로 얻는 소득 자체가 크게 줄었으니까요. 앞으로 어디까지 더 안 좋아질지 모르기 때문에 모두가 불안한 상태라고 할 수 있습니다."

구교현 위원장 또한 2019년부터 배달 현장에서 배달 노동을 하고 있다. 노조 상근을 병행하며 주 4일 배달 노동에 나서는 건 유한한 인체를 가진 인간에겐 벅찬 일이다. 평일엔 평균 3일 하루 5시간 정도를 배달하고, 주말에도 하루 이상 평일보다 길게 일한다고 한다. 그는 배달 일 때문에 노조에서 일찍 퇴근한다고 했지만, 인터뷰를 진행하던 날도 고작 1시간을 일찍 퇴근하는 일정이었다. 너무 오래 일하는 것 아니냐는 걱정에 그는 "죽을 지도 몰라요"라며 농담으로 넘기기 어려운 말을 꺼냈다. 구 위원장과 상황은 다르지만 다른 배달노동자들도 장시간 노동으로 몰리고 있다.

"예전에 하루 10시간 일해서 15만 원을 벌었다면 지금은 배달료가 하향평준화하고 있는 추세라 10만 원밖에 못 벌고 있어요. 여기에서 선택지는 일하는 시간을 더 늘리거나 아니면 같은 시간 안에 더 많은 배달을 하거나 두 가지예요. 오래 일하면 장시간 노동에 따른 피로도가 증가할 것이고, 속도를 올린다면 그만큼 사고위험이 올라가는 거죠. 저 같은 경우에도 일하는 시간이 늘어나고 있어요. 예전엔 저녁 9시 정도에 퇴근했는데, 수입을 보면 자연스럽게 밤 10시 넘어서까지 일하게 돼요. 조급함도 심해졌고요. 물건을 가지러 가게에 갔는데 아직 준비가 안 됐으면 굉장히 불안해지고, 배달에서 그만큼 속도를 내게 되죠. 빨간불 신호에선 가지 말아야 하지만 갈등하게 되고요."

구 위원장을 초조하게 하는 또 다른 요인은 배차를 기다리는 대기시간이다. 1분 1초가 그렇게 길게 느껴질 수가 없다. 요샌 30분을 기다리기도 한다. 콜이 올 만한 곳으로 계속 이동하고, 그래도 들어오지 않으면 왜 배차되지 않을까 온갖 망상에 빠진다. 인공지능이 정해준 자동배차의 기준은 어떤 알고리즘을 통해 나온 것인지 알 길이 없다. 라이더들은 자동배차 콜을 많이 거절해서인지, 배달 속도가 느려서인지, 다른 라이더들보다 배달에 투입하는 절대적인 시간이 적어서인지, 여러 가능성을 떠올려 본다. 업무 할당 기준을 알 수 없으니 배달노동자로선 여러 가능성을 염두에 두고 처신할 수밖에 없다. 구 위원장은 이를 두고 "자발적 충성도를 높이는 효과가 있다"라고 설명했다.

노동자들이 자신들의 건강과 안전을 후순위로 두고 자발적인 통제와 착취에 나서는 것. 세계 각국에서 인공지능 기술에 대한 규제에 나서는 이유다. 규제 없는 한국에서 플랫폼 기업들은 제멋대로 라이더들의 업무 방식을 바꾸고, 검증되지 않은 새로운 시스템을 도입하거나, 프로모션 등을 활용해 마음대로 임금을 높이고 낮출 수 있었다. 라이더들은 노조를 통해 임금, 일감 등 노동조건을 좌지우지하는 알고리즘에 대한 정보를 지속적으로 요구했다. 특히 라이더유니온은 2020년 출범한 '플랫폼노동 대안 마련을 위한 사회적 대화 포럼'(이하 사회적 대화 포럼)에 참여해 알고리즘에 의한 업무배분 정책을 투명하게 공개해야 한다고 촉구했다. 사회적 대화 포럼은 정부 개입 없이 노조와 사측이 참여한 한국 최초의 민간주도 사회적 대화기구였는데, 같은 해 노사가 함께 플랫폼 노동자의 노동자성 인정, 디지털 노동 환경 구축에 관한 공동선언을 발표하고 플랫폼노동 배달 영역에서 최초로 사회협약을 체결한 데 높은 평가를 받고 있다. 라이더유니온의 강력한 요구로 협의서 부속 사항에 '플랫폼의 합리적이고 공정한 업무 배분에 관한 서비스 정책, 기술적 요소 등'을 논의해야 한다는 문구를 삽입했는데, 알고리즘 설명 요구를 위한 밑작업이었다. 하지만 구 위원장은 아쉬운 대목이 많다고 했다.

"당시 협약서 본문엔 들어가지 않았지만 '제도개선 합의사항 및 정부 건의'에 업무 배분 정책을 설명할 수 있도록 해야 한다고 관련한 표현을 하나 넣긴 했죠. 이 문구가 추가되지 않으면, 앞으로 대화에 참여할 수 없다고 하면서 거의 우격다짐으로 넣은 것이죠. 방향은 넣었지만 내용을 채워 넣지 못해 아쉽죠. 후속 논의에서 다시 얘기해 볼 수 있을 거라 기대했는데 이후 진전된 사항은 없고요. 노사 합의 문서에 업무 배분 정책이 언급된 건 처음이긴 합니다."

한편, 지난해 4월 배달의민족은 라이더들에게 자체 개발한 내비게이션을 사용하도록 했다. 새 시스템 도입 이후 실제 운행거리보다 짧게 계산된다는 라이더들의 항의와 반발이 계속됐다. 결국 자체 개발 내비게이션 시스템 도입 5개월 만에 배달의민족 운영사인 우아한형제들은 해당 시스템을 포기하고 다시 상용 내비게이션을 쓰기로 했다. 배달플랫폼노조의 기자회견, 오토바이 행진 시위 등이 사측을 압박한 탓도 있지만, 무엇보다 잘못된 거리가 책정된 배달 오류의 증거가 너무도 명확했다. 문제는 노동자가 접근하기 힘든 정보에 있다. 권오성 성신여대 교수는 “알고리즘에 의한 자동화된 의사결정도 결국 기업에 의한 일방적인 일감의 배분으로 평가돼야 할 것”이라고 말한 바 있다.

"기업 쪽에선 인공지능의 알고리즘에 대해 블랙박스에 비유하며, 자기들도 알 수가 없다고 말합니다. 하지만 저희는 그 블랙박스를 열고 싶은 게 아니라 설계된 목적이 궁금한 거거든요. 인공지능에 어떤 목적으로 정보를 넣어서 알고리즘을 만들었냐는 거죠. 기업이 말하는 최적의 배달 시스템이 최대 수익, 고객의 최대 만족 등 어떤 것을 목표로 짜였냐고 묻는 겁니다. 알고리즘을 짤 때 원하는 목적을 위해 필요한 정보의 가중치도 변화할 텐데 가중치 변화의 추세적 경향이 어떻게 되는지도 파악이 필요합니다. 어떤 항목을 더 중요하게 고려하느냐에 따라 일감 배분의 기준도 달라질 수 있죠."

구 위원장은 인공지능 알고리즘과 이를 통해 구축되는 배달플랫폼 업체의 시스템이 노동자의 안전을 전혀 고려하지 않는다고 강조했다. 라이더들이 직접 느끼는 위험 요소에 대해 항의하거나 의견을 개진할 통로가 없다고도 했다. 그나마 회사와의 접촉은 'AI' 챗봇을 통해 이뤄지는데 인공지능인지 실제 사람인지도 모른다. 그리고 챗봇은 배달지의 주소가 불분명할 때, 고객과 연락이 안 될 때 등 일상적 문의밖에 답해주지 않는다.

"물건 픽업이든, 배달이든 플랫폼 업체에서 정해주는 시간을 넘기면 지금 배달 중인지 확인 메시지가 와요. 그럼 답을 해서 배송 중이라는 것을 알려야 해요. 확인을 안 하면 주문이 자동적으로 취소되거든요. 근데 이 답을 하려면 주행 중에 계속 휴대전화를 조작해야 하는 거예요. 실제로 이것 때문에 나는 사고들도 있고요. 라이더들은 블루투스 이어폰을 쓰니까 통화가 편한데 인력을 쓰기 싫으니 자동화된 앱이 하도록 하는 거죠."

2021년 산업안전보건법 개정으로 배달앱 등을 통해 음식을 배달하는 배달노동자에 대한 안전조치 사항이 생겼다. 이 법 78조는 '이동통신단말장치로 물건의 수거·배달 등을 중개하는 자는 그 중개를 통하여 이륜자동차로 물건을 수거·배달 등을 하는 사람의 산업재해 예방을 위하여 필요한 안전조치 및 보건조치를 하여야 한다'고 명시한다. 이를 위반하면 1천만 원 이하의 과태료를 물게 된다. 라이더들의 증언은 배달을 중개하는 플랫폼 업체들이 위험한 상황을 방관하고 있다고 일관되게 주장하지만, 산안법을 위반해 처벌받은 기업은 없다. 법이 아닌 현실을 사는 라이더는 중첩된 위험에 노출된 채 위태롭게 이륜차에 몸을 싣는다.

각주
1) https://zdnet.co.kr/view/?no=20230309155153
2) 「2022년 플랫폼종사자 규모와 근무실태」, 고용노동부, 2022.12.28.