คู่มือสังคม

การป้องกันศิลปินเคลือบและ Nightshade

Glaze และ Nightshade เป็นเครื่องมือฟรีจากมหาวิทยาลัยชิคาโกที่เพิ่มการเปลี่ยนแปลงเล็กๆ น้อยๆ ที่ได้รับการปรับปรุงอย่างระมัดระวังให้กับอาร์ตเวิร์ค ดังนั้นโมเดล AI จึงอ่านผิด: Glaze พยายามหยุดโมเดลไม่ให้คัดลอกสไตล์ของศิลปิน และ Nightshade พยายามวางยาพิษข้อมูลการฝึก ดังนั้นโมเดลจะเรียนรู้การเชื่อมโยงที่ไม่ถูกต้อง

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 4 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของการเคลือบและการคุ้มครองศิลปิน Nightshade
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

พวกเขาให้ประโยชน์แก่ศิลปินในการต่อต้านการฝึกอบรมที่ไม่ได้รับอนุญาต แต่นักวิจัยได้แสดงให้เห็นว่าสิ่งเหล่านี้สามารถถูกทำให้อ่อนลงหรือถูกกำจัดออกไปได้ ดังนั้นจึงเป็นเครื่องป้องปรามมากกว่าการรับประกัน

เจาะลึก

Both tools come from the SAND Lab at the University of Chicago, led by Ben Zhao. Glaze was released in 2023 and Nightshade in January 2024, and both are free. Glaze also has a web version, WebGlaze, for artists without powerful computers. Glaze addresses style mimicry. Someone can fine-tune an image model on a few dozen pieces by one artist, then produce unlimited work in that style. Glaze adds a perturbation, a pattern of small pixel changes, that makes the artwork appear to a model's image encoder as though it were in a different style. A model fine-tuned on glazed images learns the wrong style, while a person sees little change. Nightshade is offensive rather than defensive. It targets training on scraped data. A shaded image of a dog is changed so a model perceives features of something else, such as a cat. Because each concept appears in relatively few training images compared with the whole dataset, the researchers argued that a modest number of poisoned samples could make a model respond to "dog" with distorted results. The aim is to raise the cost of scraping without permission. How well do they work? The perturbations are tuned against specific model components, and that is their weakness. A 2024 study by researchers at ETH Zurich and Google DeepMind found that simple methods, such as noisy upscaling, could remove Glaze-style protections enough for mimicry to succeed. Later work, including LightShed in 2025, trained detectors to spot and strip poisoning perturbations. The Glaze team has disputed some findings and updated its tools. The key misconception is that protection is permanent. An image published today cannot be updated later, while attackers and models keep changing. The tools can also leave visible artifacts, especially at high intensity.

การใช้งานจริงในโลกแห่งความเป็นจริง

นักวาดภาพดิจิทัลใช้งานผลงานใหม่แต่ละชิ้นผ่าน Glaze ก่อนที่จะโพสต์ ดังนั้นผู้ที่ปรับแต่ง LoRA ในแฟ้มผลงานของเธอจะได้รับผลงานที่ไม่ตรงกับงานพู่กันและจานสีของเธอ

นักวาดภาพประกอบใช้ Nightshade กับภาพมังกรที่เธอโพสต์แบบสาธารณะ โดยมีเป้าหมายเพื่อให้สำเนาที่คัดลอกมาสอนลักษณะการมองเห็นแบบจำลองของแนวคิดที่ไม่เกี่ยวข้อง

ศิลปินเปรียบเทียบการตั้งค่าความเข้มของ Glaze และเลือกระดับที่ต่ำกว่าสำหรับชิ้นงานสีน้ำที่นุ่มนวล เนื่องจากการตั้งค่าที่สูงขึ้นจะทิ้งสิ่งแปลกปลอมที่มองเห็นได้ไว้ในพื้นที่สีเรียบๆ

ชุมชนศิลปะขนาดเล็กหารือเกี่ยวกับการวิจัยที่แสดงว่าการลดขนาดสามารถตัดการป้องกันและตัดสินใจรวม Glaze เข้ากับการลงทะเบียนและการตั้งค่าแพลตฟอร์มที่ไม่เข้าร่วมแทนที่จะพึ่งพาเพียงอย่างเดียว

อนาคตของการเคลือบและการคุ้มครองศิลปิน Nightshade

การแข่งขันระหว่างเครื่องมือก่อกวนและวิธีการกำจัดนั้น คล้ายคลึงกับการแข่งขันด้านอาวุธของฝ่ายตรงข้าม และการวิจัยจนถึงขณะนี้ชี้ให้เห็นว่าผู้พิทักษ์มีข้อเสียเปรียบเชิงโครงสร้าง เนื่องจากภาพที่เผยแพร่ได้รับการแก้ไขแล้ว ในขณะที่การโจมตีพัฒนาขึ้นเรื่อยๆ Glaze และ Nightshade ยังคงได้รับการยกย่องจากศิลปินหลายคนว่าเป็นหนทางที่จะเพิ่มต้นทุนของการใช้ในทางที่ผิดและส่งสัญญาณการไม่ยินยอม การป้องกันในระยะยาวมีแนวโน้มที่จะมาจากการผสมผสานระหว่างกฎเกณฑ์ทางกฎหมายเกี่ยวกับข้อมูลการฝึกอบรม การจัดการสิทธิ์การใช้งาน มาตรฐานแหล่งที่มา และนโยบายแพลตฟอร์ม ศิลปินควรใช้เครื่องมือเหล่านี้ด้วยความคาดหวังที่สมจริงและคงมาตรการอื่นๆ ไว้

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเสี่ยงและความปลอดภัย. ความเสียหายที่เกิดจาก AI ที่เป็นหายนะและเกิดขึ้นทุกวันนั้นขึ้นอยู่กับว่าใครเข้าใจความเสี่ยงและใครสามารถดำเนินการได้
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. ความรู้สาธารณะและวิชาชีพเป็นตัวกำหนดว่านโยบายความปลอดภัยที่เข้มงวดจะเป็นไปได้ทางการเมืองหรือไม่
  • ตัดผ่านกระแสโฆษณาชวนเชื่อ. คำอธิบายที่ชัดเจนช่วยลดการจับภาพโดยการโฆษณาเกินจริง การประชาสัมพันธ์ในห้องปฏิบัติการ และการแสดงจริยธรรมที่คลุมเครือ

ระวัง

  • การรักษาความเสี่ยงที่มีอยู่เป็นไซไฟในขณะที่สารประกอบความสามารถ
  • ความปลอดภัยของผลิตภัณฑ์พื้นผิวที่สับสนด้วยการจัดตำแหน่งภายใต้ความเป็นอิสระสูง
  • ปล่อยให้ผู้ชมที่ไม่ใช่ภาษาอังกฤษและไม่ใช่ผู้เชี่ยวชาญเหลือเพียงแหล่งข้อมูลคุณภาพต่ำ

ขั้นตอนต่อไป

  1. แยกอันตรายของผลิตภัณฑ์ การใช้ในทางที่ผิด และความเสี่ยงในการสูญเสียการควบคุม/การวางแนวที่ไม่ถูกต้อง
  2. ถามว่าหลักฐานใดที่จะเปลี่ยนมุมมองของคุณเกี่ยวกับลำดับเวลาและความรุนแรง
  3. ชอบแหล่งที่มาหลักและการประเมินที่เป็นรูปธรรมมากกว่าคำกล่าวอ้างทางการตลาด
  4. ระบุเส้นทางการดำเนินการเส้นทางเดียว: อาชีพ นโยบาย เงินทุน หรือทักษะ ไม่ใช่แค่ความตระหนักรู้เท่านั้น

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

ทำแบบทดสอบ Glaze และ Nightshade Artist Protection

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

การคุ้มครองศิลปิน Glaze และ Nightshade คืออะไร?

Glaze และ Nightshade เป็นเครื่องมือฟรีจากมหาวิทยาลัยชิคาโกที่เพิ่มการเปลี่ยนแปลงเล็กๆ น้อยๆ ที่ได้รับการปรับปรุงอย่างระมัดระวังให้กับอาร์ตเวิร์ค ดังนั้นโมเดล AI จึงอ่านผิด: Glaze พยายามหยุดโมเดลไม่ให้คัดลอกสไตล์ของศิลปิน และ Nightshade พยายามวางยาพิษข้อมูลการฝึก ดังนั้นโมเดลจะเรียนรู้การเชื่อมโยงที่ไม่ถูกต้อง พวกเขาให้ประโยชน์แก่ศิลปินในการต่อต้านการฝึกอบรมที่ไม่ได้รับอนุญาต แต่นักวิจัยได้แสดงให้เห็นว่าสิ่งเหล่านี้สามารถถูกทำให้อ่อนลงหรือถูกกำจัดออกไปได้ ดังนั้นจึงเป็นเครื่องป้องปรามมากกว่าการรับประกัน

Glaze ออกแบบมาเพื่อตอบโต้ภัยคุกคามใดเป็นหลัก

Glaze มุ่งเป้าไปที่ผู้ที่ปรับแต่งโมเดลบนภาพของศิลปินเพื่อสร้างสไตล์นั้นขึ้นมาใหม่

Nightshade แตกต่างจาก Glaze ในเป้าหมายอย่างไร

เคลือบเป็นการป้องกัน ปกป้องสไตล์ของศิลปินคนหนึ่ง Nightshade ถือเป็นสิ่งที่น่ารังเกียจ โดยมุ่งทำลายสิ่งที่โมเดลเรียนรู้จากภาพที่คัดลอกมา

เป้าหมายการปรับให้เหมาะสมของ Glaze คืออะไรเมื่อรบกวนงานศิลปะ

Glaze ย้ายการนำเสนอคุณลักษณะของรูปภาพไปยังสไตล์ลวง ดังนั้นการปรับแต่งแบบละเอียดจะเรียนรู้สไตล์นั้นแทน

อะไรทำให้การก่อกวนไม่ปรากฏชัดต่อผู้ชมที่เป็นมนุษย์

การเพิ่มประสิทธิภาพจะจำกัดความแตกต่างของรูปภาพในสายตาผู้คน ในขณะเดียวกันก็เพิ่มความแตกต่างของรูปภาพในโมเดลด้วย

การศึกษาในปี 2024 โดยนักวิจัย ETH Zurich และ Google DeepMind พบอะไร

การศึกษาแสดงให้เห็นว่าการประมวลผลล่วงหน้าที่ไม่แพงสามารถยกเลิกการป้องกันได้ ทำให้การเลียนแบบสไตล์ประสบความสำเร็จ

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →