챗GPT가 말했다. “인간보다 더 많은 책임을 지게 될 줄이야!”

① 들어가며
② 알고리즘의 "부수적 피해"가 되어버린 사람들
③ 인공지능이 우리 삶을 결정한다면?
④ 배달노동자, 배차 알고리즘을 법정에 세우는 소송 나선다
⑤ 알고리즘 사장님과 개인정보 자기결정권
⑥ "비정한 시스템 방치하면 미래 노동의 표준이 될 위험 있어“
⑦ 당신에게 위험할 인공지능

"우리 ㅎ대 지원하는 거지? 꼭 같이 붙자!"

원서 접수를 며칠 앞두고 채이와 아현은 메신저로 대화를 주고받았다. 채이는 고등학교 진학과 동시에 부모님의 성화에 어쩔 수 없이 강남으로 이사를 간 아현과 같은 유튜브 채널을 통해 함께 공부하고 같은 대학에 가기로 굳게 약속한 터였다. 둘은 같은 학교의 같은 과를 목표로 공부해 왔고 모의고사 등급도 비슷해 변수가 없다면 충분히 가능할 것으로 보였다. 그런데 비보가 전해졌다. 올해 전염병 상황이 너무 심각해 수능 자체가 취소되고, AI알고리즘을 이용한 대체 평가를 진행한다는 것이다.

교육 당국이 선정한 알고리즘 수행평가 모델이 수많은 데이터를 통해 도출한 점수는 예상과 달랐다. 비수도권 지역에 사는 채이는 세 과목에서 2등급을, 두 과목에서 3등급을 받았고 강남에 사는 아현은 두 과목에서 2등급, 세 과목에서 1등급을 받았다. 전국의 학생들과 교사들이 반발했다. 알고 보니 학교의 과거 입시 성적이 반영되며 강남에 있는 학교에 다니는 학생과 비수도권 학교에 다니는 학생이 현저히 차별적인 등급이 매겨지게 된 것이었다.

"너한테 옮아서 증상이 같은가 봐…."

채이는 남동생 민기와 동시에 코로나에 걸렸다. 둘은 격리 중에 비슷한 흉통과 메스꺼움으로 비대면 원격진료를 요청했다. 그런데 원격진료 챗봇은 여성인 채이에게는 우울증이나 공황발작을 제시하고 남성인 민기에게는 심각한 심장 질환 가능성을 언급하며 즉시 응급실에 올 것을 지시했다. 문진을 몇 번이고 다시 해도 소용없었다. 결국 대면 진료를 접수했지만, 채이의 순서는 한참 뒤로 밀렸다. 병원에 전화해 같은 증상이고 같이 사는 사람임을 알렸지만, 이 역시 인공지능이 순서를 결정하기에 어쩔 수 없다는 대답뿐이었다.

"기계와 기계처럼 대화해야 면접에 붙을까요?"

여느 친구들과 마찬가지로 채이는 휴학 없이 대학을 졸업하고 바로 하반기 취업전선에 뛰어들었다. 취업 관련 정보가 나열된 어플과 스케쥴표를 계속해서 체크하고, 이력서와 자기소개서를 쓰는 나날이었다. 수없이 서류를 보낸 뒤 다행히 몇 군데 회사에서 면접을 보자는 연락을 받았다. 면접을 보러 나선 길, 정장과 구두가 어색했다. 두 명의 면접관이 기다리고 있다가 면접자들을 상대로 여러 질문을 던졌다.

"업무를 할 때 일을 하기 싫어하는 팀원이 있다면 어떻게 할 건가요?"

대답을 하던 도중, 면접관이 펜을 돌리기 시작했다. 채이는 왠지 조급해져 급하게 말을 마무리했다. 다행히 그다음 대답은 약간의 미소를 얻어낼 수 있었다. 면접관이 마지막으로 하고 싶은 말이 있냐고 묻자, 어색한 침묵을 깨고 옆 사람이 손을 들었다.

"제가 오늘 준비한 만큼 답변을 못 했지만 기회를 주신다면……."

채이는 그 말을 흘려들으며 열심히 머리를 쥐어짰다.

그 사람을 시작으로 모든 지원자가 한마디씩 하고 면접이 끝났다. 공공기관은 대부분 AI 면접이었기에, 채이는 AI 면접을 위해 집 근처 면접용 공간을 미리 대여했다. 집에서 면접을 보다가 갑자기 접속이 끊기거나 AI가 같은 말을 반복하는 등 오류가 생겨 제대로 면접을 보지 못해 떨어진 적이 있다는 선배들의 이야기를 미리 들었기 때문이다.

"오랜만에 만난 친구가 당신에게 보험상품 가입을 부탁한다면, 당신은 어떻게 하겠습니까?"

예상했던 질문이 나오자 채이의 말이 빨라졌다. 대체로 예상했던 질문들이 주어졌지만 게임 형식의 테스트들은 머리를 쥐어짜도 어려웠다. 원래도 도형과 공간지각력 등에 약해 문과를 지원한 터였다. 면접이 끝나고 나니 진이 빠졌다. 다양한 분야를 테스트하는 것은 좋았지만, 자신에 대한 이야기를 거의 하지 못했다는 생각이 들었다.


"이번에 인사고과 이상하게 나왔다 싶으신 분 계세요?"

인사고과를 확인한 채이는 깜짝 놀랐다. 올해 채이는 다른 팀이 진행하는 대규모 프로젝트를 부분적으로 나눠 수행했는데, 업무량도 만만치 않았고 성실하게 일했다고 생각했다. 아무리 생각해도 낮은 고과를 받을 이유는 없었기에 인사팀 면담을 신청했지만, 인사팀에서는 컴퓨터가 하는 일이기에 임의적 조정이 어렵다는 답변뿐이었다. 인사고과는 상대적 등급만 공개되기 때문에 실제 채이의 점수가 몇 점인지, 어떤 요소가 반영된 건지 제대로 알 수 없었다.

회사 내 익명게시판과 주변 인맥을 이용해 이것저것 물어본 결과 최근 도입한 AI 인사고과 프로그램이 인사고과와 함께 이직 가능성을 평가했다는 사실을 알게 됐다. 이 프로그램이 채이를 이직 가능성이 있는 사원으로 분류했고 이에 따라 인사고과가 낮게 평가된 것으로 보였다. 그리고 다른 팀에서도 주로 연령이 낮거나 경력이 낮은 경우, 미혼인 경우 이직 가능성이 높다고 평가받았음을 알게 됐다. 다들 받아들이는 분위기여서 채이는 이의를 제기할 수도 없었다. 팀장 역시 프로젝트 성격상 평가가 어려운 상황이었기에 AI 인사고과 프로그램 사용에 동의했다며 다음에는 점수를 잘 주겠다는 말뿐이었다.

"제가 안 그랬는데 누가 그랬다고 그래요?"

채이는 뇌졸중으로 쓰러진 어머니를 돌보기 위해 회사를 그만두고 가족요양을 신청해 요양급여를 받고 있다. 월세와 생활비, 병원비를 충당하고 나면 너무나 빠듯했지만 다른 아르바이트는 할 수 없어 알아보던 중 데이터 라벨링을 시작했다. 녹음이나 설문조사 같은 일은 건당 몇 만 원도 받을 수 있다는 이야기를 들었지만 경력이 쌓여야 가능한 듯 했다. 비교적 쉬운 반면 금액이 높은 일은 거의 뜨지 않아 채이는 매일 밤, 눈이 빠지도록 모니터를 지켜보고는 했다. 생각보다 괜찮은 일거리가 많지 않아 대기하는 시간에 비해 수입은 현저히 적었다.

그러던 어느 날, 부정수급이 감지됐으니 출석해서 소명하라는 연락을 받았다.

채이는 관련 부서로 소환돼 부정수급이 아니라는 취지의 진술을 했다. 하지만 관련 부서에서도 채이가 했던 일에 대해서는 언급 없이 부정수급 사실이 AI로 탐지됐다는 말 뿐, 제대로 된 설명을 해주지 않았다. 자연스럽게 채이가 자신을 변호하는 일이나 신고된 사실에 대해 부정하는 일도 어려웠다. 채이는 어쩌면 자신이 했던 인공지능 데이터 분류 작업들 중에 이와 관련된 일이 있었을 수도 있겠다는 생각이 들었다. 수많은 데이터를 모아 아무것도 모르는 기계에 입력시키는 일. 아마 자신과 비슷한 처지의 수많은 노동자들이 수많은 시간 동안 같은 일을 했겠지만, 지금처럼 한 인간에게 무슨 일을 한 지는 기계도 모르고, 기계를 만든 사람도, 기계의 말을 듣는 사람도 모르는 일이었다.

덧붙이는 말

인공지능이 큰 화두가 된 지금, 누구나 마치 영화에서처럼 인공지능이 생활 전반에 사용되는 세상에 대해 상상해 본 적이 있을 것이다. “마치 영화에서처럼.” 하지만 그 상상은 이미 어느 정도 현실이 됐다. 위의 이야기는 인물은 가상이지만 현재 전 세계에서 개발 또는 활용되고 있는 인공지능 사례다. (필요에 따라 ‘인종’과 같은 요소를 ‘성별’로 바꾸기도 했다.) 영화에서처럼 멋들어진 홀로그램과 가상현실을 사용하지는 않을 뿐이다. 특히 인공지능이 많은 정보를 통해 인간의 활동을 검토하고 평점을 매기는 일은 여러 분야에서 활발하게 이뤄지고 있는 일이다.