PANDUAN Masyarakat

Buli Deepfake di Sekolah

Buli Deepfake ialah apabila pelajar menggunakan alatan AI untuk mencipta imej, video atau audio rakan sekelas atau guru palsu tetapi realistik, sering melakukan hubungan seksual dan berkongsi mereka untuk mengaibkan atau mengganggu.

Dengar panduan iniAI-diceritakan · ~3 min

Pada halaman ini4 minit membaca
  1. Gambaran keseluruhan
  2. Menyelam dalam
  3. Pelaksanaan Dunia Sebenar
  4. Masa Depan Buli Deepfake di Sekolah
  5. Mempraktikkannya
  6. Teruskan Meneroka
  7. Soalan lazim

Gambaran keseluruhan

Ini penting kerana imej boleh dibuat dalam beberapa saat daripada foto biasa, tersebar dengan cepat melalui sembang kumpulan dan menyebabkan kemudaratan berpanjangan, dan pemalsuan seksual kanak-kanak bawah umur boleh menjadi jenayah yang serius.

Menyelam dalam

Buli palsu menjadi masalah sekolah yang meluas apabila aplikasi 'membogelkan' dan penjana imej memungkinkan untuk menukar foto media sosial berpakaian menjadi bogel palsu tanpa kemahiran teknikal. Kes yang dilaporkan termasuk Almendralejo, Sepanyol, pada tahun 2023, di mana imej bogel AI lebih daripada dua puluh gadis beredar, dan sekolah di New Jersey dan Beverly Hills, California, di mana pelajar dikenakan tindakan disiplin atau dibuang kerja kerana rakan sekelas yang palsu. Mangsa kebanyakannya adalah kanak-kanak perempuan, dan bahayanya menyerupai imej intim sebenar yang dikongsi: rasa malu, kebimbangan, mengelakkan sekolah dan takut imej itu akan muncul semula. Peraturan pertama untuk orang dewasa adalah untuk melindungi mangsa dan mengekalkan bukti tanpa menyebarkan imej. Imej seksual kanak-kanak bawah umur yang dijana oleh AI yang realistik boleh dikira sebagai bahan penderaan seksual kanak-kanak di bawah undang-undang persekutuan AS dan di banyak negara lain, jadi orang dewasa tidak boleh tangkapan skrin, memuat turun atau memajukannya. Sebaliknya, rekod di mana ia muncul, bila, nama akaun dan siapa yang berkongsinya, dan laporkan kepada polis dan, di AS, kepada CyberTipline NCMEC. Take It Down membolehkan keluarga mencincang imej supaya platform boleh menyekatnya; StopNCII.org menawarkan perkhidmatan yang serupa untuk orang dewasa. Pada Mei 2025, AS telah menggubal Akta TAKE IT DOWN, yang menjenayahkan penerbitan imej intim tanpa persetujuan termasuk imej yang dijana AI dan memerlukan platform tertutup untuk mengalih keluarnya selepas permintaan yang sah. Undang-undang berbeza mengikut negeri dan negara. Sekolah harus menganggap kejadian ini sebagai gangguan dan penderaan seksual, bukan gurauan teknologi. Ini bermakna dasar yang jelas, kakitangan terlatih, laluan pelaporan yang cepat, sokongan untuk pelajar yang disasarkan dan akibat yang berkadar bagi mereka yang membuat atau berkongsi imej. Kesalahpahaman biasa ialah melabelkan imej sebagai palsu menghilangkan bahaya; akaun mangsa menunjukkan ia tidak. Satu lagi ialah pemadaman satu siaran menyelesaikannya, apabila salinan selalunya sudah wujud di tempat lain.

Pelaksanaan Dunia Sebenar

Seorang ibu bapa mengetahui bahawa anak perempuan mereka yang palsu berbogel sedang diedarkan dalam sembang kumpulan kelas; mereka menulis tarikh, nama sembang dan siapa yang berkongsinya tanpa menyimpan atau memajukan imej, kemudian menghubungi pihak sekolah dan polis.

Sebuah keluarga menggunakan perkhidmatan Take It Down NCMEC untuk mencipta cap jari digital imej palsu pada peranti mereka sendiri supaya platform yang mengambil bahagian boleh mengesan dan mengalih keluar salinan tanpa imej itu dimuat naik.

Sebuah sekolah menengah mengemas kini kod kelakuannya untuk menamakan imej seksual yang dijana AI secara eksplisit sebagai gangguan, dan mengadakan perhimpunan yang menjelaskan bahawa 'ia hanya gurauan' bukan pembelaan.

Seorang kaunselor bertemu pelajar yang disasarkan pada hari yang sama, meyakinkan mereka bahawa mereka tidak melakukan kesalahan, dan mengatur hubungan orang dewasa yang selamat dan menjadualkan perubahan untuk mengelakkan pelajar terlibat.

Masa Depan Buli Deepfake di Sekolah

Badan perundangan di banyak negara menambah kesalahan khusus untuk mencipta atau berkongsi pemalsuan seksual, dan kedai aplikasi serta penyedia pembayaran menghadapi tekanan yang semakin meningkat untuk mengalih keluar perkhidmatan bogel. Sekolah mungkin akan memasukkan penyalahgunaan imej AI dalam kewarganegaraan digital dan pendidikan persetujuan. Pembetulan teknikal seperti label asal dan padanan platform yang lebih baik akan membantu tetapi tidak akan menghalang pengguna yang ditentukan dengan alatan tempatan. Perlindungan yang berkekalan ialah laluan pelaporan pantas, kakitangan terlatih, akibat yang jelas dan budaya pelajar melaporkan palsu dan bukannya memajukannya.

Mempraktikkannya

Mengapa ia penting

  • Risiko dan keselamatan. Kemudaratan AI malapetaka dan setiap hari bergantung pada siapa yang memahami risiko dan siapa yang boleh bertindak.
  • Keputusan yang lebih jelas. Celik awam dan profesional membentuk sama ada dasar keselamatan yang kukuh adalah mungkin dari segi politik.
  • Memotong keterujaan. Penjelasan yang jelas mengurangkan tangkapan oleh gembar-gembur, PR makmal dan teater etika yang tidak jelas.

Berhati-hati untuk

  • Merawat risiko kewujudan sebagai sci-fi manakala sebatian keupayaan.
  • Mengelirukan keselamatan produk permukaan dengan penjajaran di bawah autonomi tinggi.
  • Meninggalkan khalayak bukan Inggeris dan bukan pakar dengan hanya sumber berkualiti rendah.

Langkah seterusnya

  1. Asingkan bahaya produk, penyalahgunaan dan kehilangan kawalan / risiko salah jajaran.
  2. Tanya apakah bukti yang akan mengubah pandangan anda tentang garis masa dan keterukan.
  3. Lebih suka sumber utama dan penilaian konkrit berbanding tuntutan pemasaran.
  4. Kenal pasti satu laluan tindakan: kerjaya, dasar, pembiayaan atau kemahiran — bukan sahaja kesedaran.

Teruskan Meneroka

Newsletter percuma

Dapatkan taklimat AI harian

Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.

Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.

Uji diri anda

Take the Deepfake Bullying in Schools quiz

Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.

Mulakan kuiz

Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma

Soalan lazim

Apakah Buli Deepfake di Sekolah?

Buli Deepfake ialah apabila pelajar menggunakan alatan AI untuk mencipta imej, video atau audio rakan sekelas atau guru palsu tetapi realistik, sering melakukan hubungan seksual dan berkongsi mereka untuk mengaibkan atau mengganggu. Ini penting kerana imej boleh dibuat dalam beberapa saat daripada foto biasa, tersebar dengan cepat melalui sembang kumpulan dan menyebabkan kemudaratan berpanjangan, dan pemalsuan seksual kanak-kanak bawah umur boleh menjadi jenayah yang serius.

Ibu bapa mendapati anak mereka palsu seksual dalam sembang kumpulan. Apakah yang perlu mereka lakukan terlebih dahulu dengan imej itu sendiri?

Imej seksual kanak-kanak bawah umur boleh menjadi haram untuk dimiliki atau dikongsi walaupun apabila AI dijana, jadi orang dewasa harus mendokumentasikan butiran tanpa menyebarkan fail dan melaporkan kepada polis dan sekolah.

Bagaimanakah perkhidmatan Take It Down NCMEC mengelakkan memuat naik imej sebenar?

Alat ini mengira cincang secara setempat dan hanya berkongsi cap jari itu dengan platform yang mengambil bahagian, yang memadankan dan mengalih keluar salinan.

Apakah yang dilakukan oleh Akta AS TAKE IT DOWN, yang digubal pada Mei 2025?

Undang-undang itu meliputi imej intim yang dijana AI dan memerlukan platform tertutup untuk mengalih keluarnya selepas permintaan yang sah.

Mengapakah sekolah tidak seharusnya mengasaskan disiplin terutamanya pada skor pengesanan palsu?

Pengesan merendahkan pada pemampatan apl pemesejan dan penjana baharu, jadi konteks seperti log sembang dan siapa yang menyiarkan dahulu adalah bukti yang lebih kukuh.

Bagaimanakah panduan itu mengatakan sekolah harus mengklasifikasikan imej seksual pelajar palsu?

Kemudaratan itu mencerminkan perkongsian imej intim sebenar, jadi sekolah harus menganggapnya sebagai gangguan dengan dasar, sokongan dan akibat yang betul.