Apa yang berlaku
The Verge melaporkan bahawa Instagram mengubah cara ia melabelkan profil yang menampilkan orang yang dijana AI. Platform ini akan menamakan semula label "pencipta AI" kepada "profil jana AI" dan mengehadkan capaian akaun yang gagal melabelkan diri.
The Verge melaporkan bahawa Instagram bertindak balas terhadap kebangkitan akaun AI-influencer yang semakin sukar untuk dibezakan daripada profil yang mewakili orang sebenar. Platform ini menamakan semula label "pencipta AI" sedia ada kepada "profil jana AI." Instagram berkata, dalam catatan blog yang dipetik oleh The Verge, pengguna ingin tahu apabila profil menampilkan orang yang dijana AI dan bukannya manusia sebenar. Perubahan perkataan bertujuan untuk menjadikan perbezaan itu lebih jelas. Oleh itu, istilah yang dilaporkan menerangkan akaun itu sendiri, bukan sekadar imej individu, video atau kapsyen yang mungkin telah menggunakan alat AI.
Menurut The Verge, Instagram akan mencari akaun yang menampilkan profil yang dijana AI tetapi tidak melabelkan diri mereka sendiri. Penalti yang dilaporkan ialah pengurangan dalam pengedaran dan bukannya penyingkiran daripada perkhidmatan. Siaran daripada akaun yang dibenderakan oleh Instagram tidak akan disyorkan kepada orang yang belum mengikutinya dalam Reels dan Explore. The Verge juga melaporkan bahawa pemilik profil boleh membuat rayuan jika Instagram membenderakan mereka secara tidak betul. Itu menjadikan perubahan yang dilaporkan sebagai akibat pengedaran yang terikat dengan pendedahan, dengan pilihan rayuan berfungsi sebagai remedi yang dinyatakan untuk bendera yang salah.
Polisi yang dilaporkan mempunyai sempadan tertentu. Instagram memberitahu The Verge bahawa orang yang menggunakan alatan AI untuk menjana kandungan tidak semestinya perlu menambah label. Oleh itu, tindakan itu melibatkan profil yang menunjukkan orang yang dijana AI sebagai subjek jelas akaun, dan bukannya setiap siaran yang telah diedit, dipertingkatkan atau sebaliknya dibuat dengan AI. Sumber tidak menyediakan jadual pelancaran, kriteria pengesanan, contoh keputusan penguatkuasaan atau data yang menunjukkan bilangan akaun yang boleh terjejas. Dalam erti kata lain, laporan yang dibekalkan menarik garis antara identiti sintetik dan penggunaan AI semasa pengeluaran, sambil membiarkan butiran pelaksanaan terbuka.
Butiran sumber: theverge.com ↗
Mengapa ia penting
Perubahan ini menyasarkan persona yang dijana AI yang mungkin kelihatan seperti orang sebenar, tetapi ia tidak membuat penapis umum untuk kandungan buatan AI. The Verge melaporkan bahawa siaran yang terjejas akan dikecualikan daripada pengesyoran kepada bukan pengikut dalam Reels dan Explore, manakala pemilik boleh merayu keputusan yang salah.
Perubahan itu menangani bentuk kekeliruan tertentu: akaun boleh kelihatan seperti profil peribadi atau pengaruh biasa walaupun orang yang diwakili tidak wujud. The Verge melaporkan bahawa rasional Instagram adalah berdasarkan pengguna yang mendapati kemudiannya bahawa profil yang kelihatan seperti manusia adalah dijana AI. Label peringkat profil yang boleh dilihat boleh memberi pengguna konteks penting sebelum mereka mengikuti, berkongsi atau mempercayai pembentangan akaun. Faedah yang dimaksudkan ialah konteks pada titik di mana profil ditemui, sebelum pembentangan akaun diambil pada nilai muka.
Penalti jangkauan juga mengubah kepentingan praktikal untuk pengendali akaun. Jika siaran dikecualikan daripada pengesyoran kepada bukan pengikut dalam Reels dan Explore, profil yang dijana AI yang tidak berlabel mungkin kurang keupayaan untuk berkembang melebihi khalayak sedia ada. Itu berbeza secara material daripada label yang hanya menambah maklumat sambil membiarkan pengedaran tidak berubah. Pada masa yang sama, The Verge tidak melaporkan dasar pemadaman, penalti kewangan atau larangan am pada profil yang dijana AI. Perbezaan itu penting kerana pendedahan pengesyoran adalah sebahagian daripada cara akaun menjangkau orang yang tidak memilih untuk mengikutinya.
Dasar ini terhad dalam cara yang penting bagi pengguna yang cuba memahami perkara yang mereka lihat. The Verge melaporkan bahawa kandungan yang dijana AI itu sendiri tidak selalu memerlukan label profil, jadi perubahan itu tidak akan memberi orang cara yang komprehensif untuk mengenal pasti atau menapis semua imej, video atau kapsyen buatan AI. Ia juga tidak dapat diselesaikan bagaimana Instagram akan membezakan persona sintetik sepenuhnya daripada orang sebenar yang menggunakan alatan AI. Laporan itu tidak secara bebas menentukan ketepatan pengesanan Instagram, kekerapan positif palsu mungkin berlaku atau sama ada perkataan baharu itu akan meningkatkan pemahaman pengguna. Had itu bermakna label harus dibaca sebagai isyarat khusus profil, bukan sebagai akaun lengkap alat yang digunakan untuk membuat sebarang siaran individu.
Mekanisme Interaktif: Bagaimana Ia Berfungsi Sebenarnya
Terokai teknologi asas di sebalik pembangunan ini secara interaktif.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Apa yang perlu ditonton seterusnya
Perkara utama yang tidak diketahui ialah cara Instagram mengenal pasti profil yang dijana AI, sejauh mana ia menggunakan label dan had capaian secara konsisten serta cara rayuan berfungsi. Kesan dasar ini juga bergantung pada sama ada pengguna boleh membezakan orang yang dijana AI daripada profil biasa dan kandungan berbantukan AI.
Soalan praktikal pertama ialah bagaimana Instagram akan menentukan bahawa profil menampilkan orang yang dijana AI. The Verge melaporkan bahawa Instagram merancang untuk mencari akaun yang tidak melabelkan diri, tetapi artikel itu tidak menerangkan isyarat, proses semakan atau ambang yang digunakan untuk membuat penentuan itu. Perhatikan panduan penguatkuasaan yang diterbitkan, contoh profil yang dibenderakan dan bukti tentang sama ada sistem bergantung pada pengesanan automatik, laporan pengguna, semakan manusia atau gabungan kaedah. Tanpa butiran tersebut, sumber menetapkan objektif yang dirancang tetapi bukan standard operasi Instagram akan digunakan dalam amalan.
Proses rayuan akan menjadi penting kerana akibat yang dilaporkan menjejaskan pengedaran dan bukannya pendedahan sahaja. Instagram berkata pemilik boleh membuat rayuan apabila mereka tersalah tanda, menurut The Verge, tetapi sumber itu tidak menyatakan berapa cepat rayuan akan disemak, sama ada jangkauan akan dipulihkan semasa semakan atau bukti yang boleh diserahkan oleh pemilik akaun. Butiran tersebut akan menentukan sama ada dasar itu berfungsi sebagai ukuran ketelusan yang disasarkan atau mewujudkan risiko penindasan yang tersilap. Oleh itu penerangan yang tersedia mengenal pasti laluan rayuan tanpa menetapkan perlindungan, masa atau kemungkinan hasil.
Isu yang tidak dapat diselesaikan yang lebih luas ialah sempadan antara profil yang dijana AI dan penerbitan berbantukan AI biasa. Kedudukan Instagram yang dilaporkan ialah menggunakan alatan AI untuk mencipta kandungan tidak dengan sendirinya memerlukan label. Perhatikan sama ada pengguna boleh memahami perbezaan itu dengan pasti, sama ada Instagram mengembangkan pelabelan kepada bentuk media sintetik yang lain dan sama ada had jangkauan boleh mengurangkan penyebaran persona AI yang tidak didedahkan. Laporan The Verge tidak memberikan pengukuran bebas tentang keberkesanan dasar lagi. Soalan tersebut tetap terbuka dalam laporan yang dibekalkan, yang menerangkan dasar tetapi belum memberikan penilaian hasil.