PANDUAN AI Visual

Deepfake

Deepfakes ialah media sintetik atau dimanipulasi yang boleh membuatkan orang kelihatan berkata atau melakukan perkara yang tidak mereka lakukan.

Dengar panduan iniAI-diceritakan · ~2 min

Pada halaman ini2 min dibaca
  1. Gambaran keseluruhan
  2. Pengambilan utama
  3. Menyelam dalam
  4. Sahkan kebenaran yang jelas
  5. Pelaksanaan Dunia Sebenar
  6. Mempraktikkannya
  7. Sumber dan bacaan lanjut
  8. Teruskan Meneroka
  9. Soalan lazim

Gambaran keseluruhan

Istilah ini sering membimbangkan wajah atau suara, tetapi media yang mengelirukan boleh menggunakan banyak teknik. Menilai asal dan konteks dan bukannya bergantung hanya pada rupa imej atau rakaman yang meyakinkan.

Pengambilan utama

  1. Semak asal dan konteks.
  2. Rawat keputusan pengesan sebagai bukti dengan had.
  3. Sahkan permintaan berbangkit secara bebas.

Menyelam dalam

Bezakan pengeditan kreatif yang dibenarkan daripada penyamaran yang mengelirukan. Persetujuan, pendedahan, tujuan, dan hak orang yang digambarkan perkara. Transformasi teknikal yang mengagumkan tidak menjadikan setiap penggunaan sesuai. Alat pengesanan boleh memberikan isyarat, tetapi prestasinya bergantung pada media, kaedah penjanaan, pemampatan dan keadaan penilaian. Skor pengesan tidak boleh dianggap sebagai keputusan muktamad tanpa memahami had dan kadar ralatnya. Gunakan pengesahan bebas untuk permintaan berbangkit. Jika rakaman kelihatan membenarkan tindakan sensitif, sahkan permintaan itu melalui saluran yang dipercayai dan telah ditubuhkan sebelum ini. Jangan bergantung pada maklumat hubungan yang dibekalkan hanya oleh mesej yang mencurigakan. Rekod asal dan bukti kelayakan kandungan boleh membantu mengenal pasti sejarah rekod aset, tetapi ia tidak secara automatik membuktikan setiap tuntutan dalam tempat kejadian. Simpan fail asal semasa menyiasat dan elakkan daripada menguatkan tuduhan yang tidak disahkan. Labelkan bahan sintetik dengan jelas apabila menerbitkannya dalam konteks di mana penonton mungkin terkeliru.

04Contoh yang dikerjakan

Sahkan kebenaran yang jelas

  1. Bayangkan anda menerima mesej suara yang berbunyi seperti rakan sekerja meminta pertukaran akaun yang sensitif.

  2. Jeda tindakan dan hubungi rakan sekerja melalui nombor atau saluran yang telah diketahui sah.

  3. Sahkan butiran permintaan secara bebas daripada menganggap persamaan suara sebagai kebenaran yang mencukupi.

Apa yang ditunjukkan

Contoh hipotesis menggunakan langkah pengesahan praktikal tanpa mengandaikan bahawa setiap mesej luar biasa adalah sintetik.

Pelaksanaan Dunia Sebenar

Sahkan permintaan luar biasa melalui saluran hubungan yang telah ditetapkan.

Kekalkan media asal dan maklumat asal untuk semakan yang bertanggungjawab.

Mempraktikkannya

Mengapa ia penting

  • Kelajuan dan skala. Visual AI boleh mengautomasikan tugas pemeriksaan, pengesanan dan penandaan pada skala.
  • Pilihan binaan. Pasukan kreatif boleh membuat prototaip konsep dengan lebih pantas dengan lebih sedikit semakan manual.
  • Pasukan dan aliran kerja. Operasi boleh menggunakan isyarat imej dan video yang sebelum ini sukar diproses.

Berhati-hati untuk

  • Hak imej dan persetujuan boleh menjadi risiko undang-undang jika asalnya tidak jelas.
  • Prestasi model boleh berbeza mengikut pencahayaan, demografi dan persekitaran.
  • Positif palsu mungkin tidak disedari melainkan ambang keyakinan dipantau.

Langkah seterusnya

  1. Tentukan kriteria penerimaan untuk ketepatan, ingatan semula dan kos ralat.
  2. Uji dengan data yang sepadan dengan keadaan pengeluaran sebenar.
  3. Tambahkan semakan manusia untuk ramalan keyakinan rendah atau berimpak tinggi.
  4. Jejaki hanyut model dan sahkan semula selepas perubahan kamera atau set data.

Sumber dan bacaan lanjut

  1. NISTMengurangkan Risiko yang Ditimbulkan oleh Kandungan Sintetik

Teruskan Meneroka

Newsletter percuma

Dapatkan taklimat AI harian

Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.

Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.

Uji diri anda

Take the Deepfakes quiz

Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.

Mulakan kuiz

Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma

Soalan lazim

Bolehkah saya membuktikan video itu palsu hanya kerana pengesan membenderakannya?

Bukan dari isyarat itu sahaja. Periksa had pengesan, media asal, asal dan bukti bebas.