OpenAI는 배우 스칼릿 조핸슨이 자신의 목소리와 "섬뜩하게 비슷하다"고 이의를 제기함에 따라 ChatGPT 음성 중 하나에 대한 접근을 제한할 예정이다.
이번 주 초, 회사는 사용자가 앱과 대화할 때 선택할 수 있는 몇 가지 옵션 중 하나인 스카이의 음성을 "일시 중지하기 위해 노력하고 있다"고 밝혔다.
조핸슨은 OpenAI의 CEO인 샘 올트먼이 지난 9월과 5월에 자신의 목소리를 시스템에 사용할 수 있는지 물어보며 접근했다고 말했다.
그녀는 거절했지만, 두 번째 요청이 있은 지 며칠 만에 자신과 닮은 음성 어시스턴트의 목소리를 듣게 되었다. 그녀의 표현을 빌리자면 "충격과 분노, 불신에 휩싸였다"고 한다. OpenAI는 이렇게 대답했다: “스카이의 목소리는 스칼릿 조핸슨의 목소리를 모방한 것이 아니라 다른 전문 배우의 자연스러운 말투를 사용한 것이다.”
조핸슨은 과거 올트먼이 팬이라고 밝힌 2013년 가상의 영화 'Her'에서 인공지능의 목소리를 연기한 적이 있는 것으로 알려져 있다. 올트먼은 최근 별다른 설명 없이 "그녀"라는 단어를 트위터에 올리기도 했다.
조핸슨은 스카이의 목소리를 삭제하고 어떻게 이 음성을 만들었는지에 대한 정보를 요구하기 위해 법률 자문을 고용했다고 말했다.
이 분쟁은 인공지능으로 인한 미래의 정체성 침해, 즉 언제든 우리 모두에게 닥칠 수 있는 피해에 대한 선견지명의 경고를 제공한다.
정체성은 다루기 어려운 주제다
인공지능은 놀라운 속도로 발전하고 있으며, OpenAI의 ChatGPT는 그 판도를 바꾸고 있다. 곧 인공지능 비서가 사용자와 의미 있는 대화를 나눌 수 있게 되고, 심지어 사용자와 모든 종류의 '관계'를 형성할 수 있게 될 가능성이 매우 높다. 이것이 조핸슨이 우려하는 이유일지도 모른다.
한 가지 분명한 사실은 인공지능을 법으로 규제할 수 없다는 것이다. 대신 정체성에 대한 권리가 필요하며, 정체성에 해를 끼치는 콘텐츠의 제거, 삭제 등을 요청할 수 있는 권리가 필요하다.
그렇다면 '정체성'이란 정확히 무엇일까? 복잡한 개념이다. 정체성은 특정한 개인적 특성이나 자질에 대해서는 아무 것도 말해주지 않지만, 평생에 걸친 선택을 통해 형성된, 우리가 누구인지에 대한 근본적인 요소다.
하지만 유명인들의 사례에서 알 수 있듯이, 이는 우리 자신을 어떻게 바라보는지 그 이상의 의미를 갖기도 한다. 그것은 우리의 이미지와 연결되어 있다. 다른 사람들이 우리를 어떻게 보는지에 따라 육성되고 형성되는 공동 작업이다. 그리고 이러한 방식으로 목소리, 얼굴 특징 또는 옷차림과 같은 개인적인 특성과 관련될 수 있다.
정체성에 대한 사소한 공격은 그 영향이 제한적일 수 있지만, 천 번의 상처로 인한 죽음과 같이 누적될 수 있다.
법적 방어
인공지능이 이미지, 오디오, 비디오를 조작할 수 있는 기술에 대한 접근을 대중화함에 따라 우리의 정체성은 법적 보호가 미치지 못하는 피해에 점점 더 취약해지고 있다.
호주에서는 이미 학생들이 성적으로 노골적인 딥페이크를 만들어 다른 학생들을 괴롭히는 데 생성 AI를 사용하고 있다.
그러나 딥페이크와 달리 대부분의 신원 도용은 형법을 위반하거나 전자안전위원회(eSafety Commissioner)의 분노를 사지는 않는다. 대부분의 법적 수단은 피해를 치유할 수 없는 부적절하고 단편적인 구제책을 제공한다. 그리고 많은 서구 민주주의 국가에서 이러한 구제책은 대부분의 사람들이 감당할 수 있는 것보다 더 비싼 법적 조치를 필요로 한다.
인공지능은 콘텐츠를 조작하거나 생성해 내가 하지 않았거나 나라면 절대 안 할 일을 하는 '나'를 보여주는 데 사용될 수 있다. 이는 사용자의 능력을 떨어뜨리거나 평판을 훼손할 수 있다.
예를 들어, 낸시 펠로시 전 미국 하원의장의 경우처럼 전문적인 환경에서 술에 취한 것처럼 보이게 만들 수 있다. 스포츠 팀에서 실격 처리될 수 있는 전자담배를 피우는 모습을 보여주거나 포르노 딥페이크 동영상에 등장하는 모습을 보여줄 수도 있다.
뒤처진 호주 법률
미국 의회는 최근 실행 가능한 프라이버시 권리를 제안했다. 그러나 이것이 없더라도 미국의 보호 수준은 호주에서 제공되는 보호 수준을 능가한다.
미국에서는 사적인 사실의 공개, 피사체를 거짓으로 표현하는 행위, 초상권 도용(타인의 신원 일부를 도용하여 자신의 목적에 사용하는 행위) 등 다양한 법적 소송을 통해 프라이버시를 보호하고 있다.
제한된 사실에 근거해 볼 때, 미국 판례에 따라 조핸슨이 초상권 도용에 대한 소송에서 승소할 수 있을 것으로 보인다.
1988년에 있었던 중요한 사례 중 하나는 미국 가수 베트 미들러와 포드 자동차 회사였다. 포드는 광고 캠페인에 이 가수의 목소리를 사용하고자 했다. 하지만 미들러가 이를 거절하자 포드는 미들러의 가장 유명한 노래 중 하나를 그녀와 '최대한 비슷하게' 부를 수 있는 '비슷한 목소리'를 고용했다.
미들러는 이 사건에서 승소했고, 한 법원은 포드의 행위가 쉽게 살 수 없는 물건을 훔친 '평범한 도둑'이라고 비유했다.
호주의 유명인들에겐 이에 상응하는 조치가 없다. 호주와 영국에서는 한쪽 당사자가 품질이 낮은 유사품이나 유사 음원을 '진품'으로 속여 이익을 얻으려는 경우에 법이 개입한다. 게다가 이는 소비자가 오해를 받거나 원본이 손해를 입은 경우에만 적용된다.
허위 진술도 적용될 수 있지만, 소비자가 연결 또는 보증이 존재한다고 믿는 경우에만 해당된다.
호주에는 매우 구체적인 목표를 가진 유럽연합과 유사한 권리 기반 접근 방식이 필요하다. 그 목표는 존엄성이다.
정체성 또는 "인격" 권리는 영향을 받는 사람들에게 권한을 부여하고 디지털 콘텐츠를 게시하는 사람들에게 의무를 부과한다. 대상자는 자신의 존엄성, 프라이버시 또는 자기 결정권을 훼손하는 자료의 표시 또는 배포를 제한하기 위해 손해배상을 받거나 금지 명령을 요청할 수 있다.
이러한 보호를 근거로 조핸슨도 프랑스에서 어느 작가를 상대로 한 소송에서 승소했다(궁극적으로는 수익성보다 상징적인 의미가 더 컸다).
인공지능을 사용하면 이제 다른 사람의 신원을 사칭하는 것은 어린아이 놀이처럼 쉬워졌다. 인격권은 매우 중요하다. 이러한 권리가 언론의 자유 보호와 공존하는 경우에도 이러한 권리가 존재함으로써 사람들은 자신의 이미지, 이름, 프라이버시를 보호할 수 있다.
[번역] 신현원
- 덧붙이는 말
-
엘리자베스 엥글조스(Elizabeth Englezos)는 골드코스트에 있는 그리피스대학교의 그리피스 로스쿨 강사다. 데이터, 개인정보 보호, 알고리즘, 정체성 간의 상호작용에 초점을 맞춘 연구를 하고 있다. 참세상은 이 글을 공동게재 한다.
