챗GPT가 말했다. "인간보다 더 많은 색임을 지게 될 줄이야!" | 2023.5.12
당신에게 위험할 인공지능
[이슈] 고용, 복지급여…인공지능이 결정하는 사람의 가치
곧 현실이 될 인공지능 세상은 대화상대나 생활 앱 이상일 것이다. 현재 일부 미국의 기업들은 정리해고 대상자를 정하는 데 인공지능 알고리즘을 사용하고 있다. 인공지능 기술은 이미 우리 삶의 중요한 의사결정에 관여하기 시작했다.
2023년 4월 3일 암스테르담 항소법원은 노동자의 디지털 권리를 인정하는 역사적인 판결을 내렸다. 암스테르담 항소법원은 “우버가 노동자들을 자동 해고(robo-firing) 했으며 이것은 택시 노동자에 대한 권리침해”라고 판결했다.
‘알고리즘 인류’. 우리는 알고리즘의 매력 혹은 알고리즘의 덫에 걸려 일상을 살아간다. 알고리즘과 살아가는 우리의 일상이 공정성과 자율성, 인간의 존엄성으로 자리매김하는 ‘알고리즘의 매력’에 가까우면 좋겠지만 실체는 불공평하고 파편화해 노동자를 옭아매는 ‘알고리즘의 덫’에 더 가까워보인다.
.JPG)
"개인 정보 차원에서 알고리즘 설명을 받아내는 것 자체가 플랫폼 노동자가 처한 현실을 모두 바꿀 순 없어도, 송곳 하나로 구멍을 뚫어주는 효과 정도는 있지 않을까요? 궁극적으로 알고리즘은 사용자의 일방적인 통제 수단으로 기능할 수 없도록 노사 교섭의 의제로 만들어야 합니다."
회사 내 익명게시판과 주변 인맥을 이용해 이것저것 물어본 결과 최근 도입한 AI 인사고과 프로그램이 인사고과와 함께 이직 가능성을 평가했다는 사실을 알게 됐다. 이 프로그램이 채이를 이직 가능성이 있는 사원으로 분류했고 이에 따라 인사고과가 낮게 평가된 것으로 보였다.
〈블룸버그〉는 전직 아마존 엔지니어의 말을 인용해 "인간이 할 일을 기계에 떠넘기면 실수할 수 있는 것도 알고 언론에 좋지 않게 오르내리겠지만, 운전기사를 쉽게 교체할 수 있는 한 부당 해고 조사에 들어가는 인건비보다 알고리즘을 신뢰하는 것이 더 싸다고 결정했다"고 보도했다.
사람에게 영향을 미치는 의사결정을 기계가 하게 되었을 때 우리에겐 어떤 위험이 닥칠까? 월간 《워커스》 5월호는 진보네트워크센터와 함께 고위험 인공지능에 대처하기 위해 우리에겐 무엇이 필요할지 살펴보았다.