Teen Marvel 스타 Xochitl Gomez가 딥페이크 포르노의 최신 피해자입니다. 그러나 X(이전의 트위터)에서 합의되지 않은 성적으로 노골적인 딥페이크가 유포되는 것을 발견한 후 플랫폼이 조치를 취하고 이를 제거하지 못하자 그녀는 당황했습니다.
인공지능의 등장과 함께 많은 문제가 발생하고 있지만 딥페이크 포르노는 가장 우려되는 문제 중 하나입니다. 딥페이크는 꽤 오랫동안 존재해 왔지만, 기술의 발전으로 인해 딥페이크에 대한 접근성과 설득력이 더욱 높아졌습니다. 결과적으로 많은 개인, 특히 여성이 동의 없이 자신의 초상을 촬영하거나 재창조하여 포르노 콘텐츠에 사용하는 경우가 많습니다. 이는 여성 연예인들뿐만 아니라 자신의 초상이 음란물에 활용되어 리벤지 포르노, 희롱, 왕따 등의 행위를 경험한 일반 여성들에게도 큰 문제가 됐다. 아동 학대를 묘사하는 데 딥페이크가 사용되는 것에 대한 큰 우려도 있습니다.
불행하게도 현재 합의되지 않은 딥페이크 포르노에 대한 연방법은 없으며, 소수의 주에서만 시민을 보호하는 법안을 갖고 있습니다. 딥페이크 포르노의 피해자가 된 많은 여성들은 규제가 부족하고 인터넷의 불법성으로 인해 이에 맞서 싸울 수 있는 선택권이 없다는 사실을 알게 되었습니다. 대부분은 법적 조치를 취할 재정적 자원이 없습니다. 스칼렛 요한슨과 같은 유명인들도 딥페이크에 맞서 싸우는 것은 쓸모없다고 선언했습니다.
여성을 보호하는 작은 수준 중 하나는 딥페이크와 AI 생성 포르노를 금지한 소셜 미디어 플랫폼에서 비롯됩니다. 이러한 사이트에서 그러한 금지 조치를 시행하면 유해한 콘텐츠의 유통이 더욱 어려워질 것입니다. 그러나 Gomez의 경험에 따르면 소셜 미디어는 규칙을 시행하지 않습니다.
Xochitl Gomez는 딥페이크 포르노에 대한 자신의 경험을 공개합니다.
(악셀/바우어-그리핀/게티)
Taylor Lautner와 그의 아내의 팟캐스트에 출연하면서 스퀴즈 , Xochitl Gomez(일명 America Chavez)가 딥페이크 포르노 피해자로서의 경험을 공개했습니다. 17세 소녀는 X(이전 트위터)에 성적으로 노골적인 자료가 유포되는 것을 발견했지만 이를 삭제하는 데 극도로 어려움을 겪고 있다고 밝혔습니다. X는 2018년에 AI로 생성된 포르노를 금지했으며 성적으로 노골적인 딥페이크 이미지와 비디오는 물론 오해의 소지가 있는 미디어와 합의되지 않은 누드에 대한 정책을 가지고 있습니다. 고메즈의 이미지가 X의 규정을 명백히 위반하고 해당 콘텐츠에 미성년자가 등장한다는 점을 고려하면 플랫폼이 즉시 조치를 취할 것이라고 생각했을 것입니다.
그러나 고메즈는 자신의 팀이 이미 해당 콘텐츠에 대해 조치를 취했지만 소용이 없었다는 사실을 알고 충격을 받았습니다. NBC 뉴스 보고됨 최근 2024년 1월 19일까지 X에서 사진을 찾을 수 있었지만 댓글 요청에 응답하지 않았습니다. Gomez는 콘텐츠가 그녀를 이상하게 만들었고 그것이 그녀에게 보기에 좋지 않았기 때문에 필사적으로 게시를 중단하고 싶어했다고 설명했습니다. 그녀는 '왜 무너뜨리는 것이 그렇게 어려운가?'라고 질문했습니다. '이게 왜 허용되는 거지?'라는 생각이 전부였습니다.
하지만 결국 그녀는 콘텐츠를 삭제할 수 없다는 사실을 받아들이고 그 문제에 대해 생각하지 않으려고 노력하며 문제를 해결하기 위해 휴대전화를 멀리 두었다고 밝혔습니다. 하지만 그녀가 묻는 질문은 여전히 매우 관련성이 높습니다. 왜 이 콘텐츠를 삭제하는 것이 그렇게 어렵나요? 동의하지 않은 개인이 딥페이크 포르노를 제작하는 것은 도덕적으로 비난받을 만하고 역겨운 일입니다. 미성년자가 관련되면 정말 끔찍합니다. X에는 실제 아동 포르노가 유포되고 있으며, 이것이 가장 시급하게 해결해야 할 문제임에도 불구하고 플랫폼은 이상하게도 이에 대해 아무 조치도 취하지 않습니다.
개인이 성적으로 노골적인 자료를 신고하고 이에 동의하지 않았다는 사실을 플랫폼에 알리는 것은 복잡한 상황처럼 들리지 않습니다. 해당 자료는 웹사이트의 여러 규칙에 위배됩니다. 검토하거나 결정해야 할 다른 사항은 무엇입니까? 개인이 소셜 미디어에서 이런 종류의 콘텐츠를 찾는 것은 이미 충분히 충격적입니다. 이러한 플랫폼이 할 수 있는 최소한의 일은 제거해 달라는 요청을 준수하는 것입니다. X와 기타 소셜 미디어 플랫폼이 사용자 보호를 끈질기게 당혹스럽게 거부하기 때문에 어떤 개인, 특히 미성년자가 아닌 그 누구도 콘텐츠가 존재한다는 사실을 그냥 받아들여서는 안 됩니다.
(추천 이미지: Axelle/Bauer-Griffin/FilmMagic/Getty)
