세계적 팝스타 불법합성물 삭제, 17시간의 공백 > 여성인권뉴스

딥페이크 성범죄, 테일러 스위프트 사건으로 촉발된 미국 내 규제 움직임

올해 초, 세계적인 팝스타 테일러 스위프트의 얼굴을 합성한 성범죄물이 소셜미디어 ‘엑스’(X·옛 트위터)를 통해 급속히 확산되면서 딥페이크 기술과 플랫폼에 대한 규제 필요성이 미국 사회의 뜨거운 이슈로 떠올랐다. 스위프트뿐 아니라 여성 정치인, 대학생, 청소년 등 다양한 피해자가 속출하며 여론의 경각심을 자극했다.

4700만 조회, 2만4000회 재게시된 불법 이미지

뉴욕타임스 등 주요 언론에 따르면, 스위프트의 불법합성물은 한 이용자가 업로드한 지 17시간 만에 4700만 회 이상의 조회수를 기록하고 2만4000번 재게시됐다. 이후 이미지들은 인스타그램, 페이스북 등 다른 플랫폼으로도 확산되었다. 엑스는 관련 검색어를 차단했지만, 우회 경로를 통해 불법 이미지를 보려는 시도는 끊이지 않았다.

이 사건의 출발점은 익명 커뮤니티 ‘포챈’(4chan)으로, 사용자들이 생성형 인공지능(AI)을 이용해 챌린지 형식으로 이미지를 제작한 것으로 알려졌다. 성적으로 부적절한 이미지를 막는 안전 필터를 우회하여 스위프트와 같은 유명 인물의 이미지를 변조한 이 콘텐츠는 텔레그램 등 비공개 채팅방에서 공유된 후 대중 플랫폼으로 확산되었다.

백악관과 빅테크의 대응, 그리고 한계
미국에서는 일부 주에서 딥페이크 성범죄물 제작 및 유포를 금지하고 있지만, 연방 차원의 규제는 여전히 부재하다. 카린 장피에르 백악관 대변인은 “생성형 AI 이미지로 인한 위험을 줄이기 위한 노력을 지속하겠다”며 의회의 입법 활동을 촉구했다. 그러나 스위프트 사례에서도 드러나듯, 거대 플랫폼들이 문제의 이미지를 삭제하기까지 17시간이 소요되며 규제 체계의 한계가 명확히 드러났다.

법안 발의와 피해자들의 목소리
이에 따라 미국 의회에서는 딥페이크 성범죄물 피해자가 제작자 및 유포자를 상대로 금전적 손해배상을 청구할 수 있는 ‘디파이언스 법안’이 발의되었으며, 지난 7월 상원을 통과했다. 법안 발의자인 알렉산드리아 오카시오코르테스 하원의원은 자신 또한 딥페이크 피해를 겪었다고 밝히며, “누군가가 진짜라고 믿을 수 있는 이미지를 보는 건 충격적이었다”고 말했다.

샌프란시스코시도 AI를 활용한 딥페이크 성범죄물 제작 웹사이트 16곳을 폐쇄하라는 소송을 제기하며 강력한 대응에 나섰다. 샌프란시스코시 검사장은 “이것은 혁신이 아닌 성적 학대”라며, 올해 상반기만 16개 사이트 방문 건수가 2억 회를 넘는 현실을 지적했다.

피해자들의 행동, 변화를 촉구하다
15세 피해자인 프란체스카 마니는 자신의 피해 경험을 바탕으로 법과 제도 개선을 촉구하며 적극적인 활동에 나섰다. 그는 14세에 자신의 사진이 딥페이크 성범죄물로 변조되어 학교 채팅방에 유포된 일을 계기로 어머니와 함께 정치인, 교육 당국, 빅테크 기업을 만나 대책 마련을 요구했다. 타임지가 선정한 ‘AI 분야에서 가장 영향력 있는 100인’에 포함된 그는 “이 문제는 단지 나의 이야기가 아니라, 전 세계 피해자들이 공유하는 문제”라며 AI 규제와 동의의 중요성을 강조했다.

딥페이크 기술의 발전이 가져온 부작용은 단순히 개인의 피해를 넘어 사회적 문제로 확산되고 있다. 이제는 기술적 혁신에 대한 윤리적, 법적 대처가 더욱 절실히 요구되는 시점이다.

출처 : https://www.hani.co.kr/