학교에서의 딥페이크 왕따

딥페이크 왕따는 '누드화' 앱과 이미지 생성기를 사용하여 기술 없이도 옷을 입은 소셜 미디어 사진을 가짜 누드로 바꾸는 것이 가능해지면서 학교에 널리 퍼진 문제가 되었습니다. 보고된 사례로는 2023년 스페인 알멘드랄레호에서 20명 이상의 소녀들의 AI 누드 이미지가 유포됐고, 뉴저지와 캘리포니아주 베벌리힐스의 학교에서는 동급생을 가짜로 만들어 학생들이 징계를 받거나 퇴학당한 사례가 있다. 피해자는 대부분 소녀들이고 피해는 수치심, 불안, 학교 기피, 이미지가 다시 떠오를 것이라는 두려움 등 실제 친밀한 이미지를 공유하는 것과 유사합니다. 어른들이 지켜야 할 첫 번째 원칙은 이미지를 유포하지 않고 피해자를 보호하고 증거를 보존하는 것입니다. 사실적인 AI로 생성된 미성년자의 성적 이미지는 미국 연방법 및 기타 여러 국가에서 아동 성적 학대 자료로 간주될 수 있으므로 성인은 해당 이미지를 스크린샷하거나 다운로드하거나 전달해서는 안 됩니다. 대신, 어디서, 언제, 계정 이름, 누가 공유했는지 기록하고 경찰에 신고하고 미국에서는 NCMEC의 CyberTipline에 신고하세요. Take It Down을 사용하면 가족이 이미지를 해시하여 플랫폼에서 차단할 수 있습니다. StopNCII.org는 성인에게도 유사한 서비스를 제공합니다. 2025년 5월 미국은 AI 생성 이미지를 포함해 합의되지 않은 은밀한 이미지 게시를 불법화하고 유효한 요청 후 해당 플랫폼에서 해당 이미지를 삭제하도록 요구하는 TAKE IT DOWN 법을 제정했습니다. 법률은 주와 국가에 따라 다릅니다. 학교는 이러한 사건을 기술 장난이 아닌 성희롱 및 학대로 처리해야 합니다. 이는 명확한 정책, 훈련된 직원, 빠른 보고 경로, 대상 학생에 대한 지원, 이미지를 만들거나 공유한 사람들에 대한 비례적인 결과를 의미합니다. 일반적인 오해는 이미지에 가짜라는 라벨을 붙이면 피해가 사라진다는 것입니다. 피해자 계정에 따르면 그렇지 않습니다. 또 다른 하나는 복사본이 이미 다른 곳에 존재하는 경우가 많음에도 불구하고 하나의 게시물을 삭제하면 문제가 해결된다는 것입니다.