คู่มือ AI แบบเห็นภาพ

ลายน้ำที่มองไม่เห็นสำหรับภาพ AI และเสียง

ลายน้ำที่มองไม่เห็นสำหรับภาพ AI และเสียงเป็นสัญญาณที่ซ่อนอยู่โดยตรงในค่าพิกเซลหรือคลื่นเสียง

ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min

บนหน้านี้อ่าน 4 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของลายน้ำที่มองไม่เห็นสำหรับภาพและเสียง AI
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

ผู้คนไม่สามารถมองเห็นหรือได้ยินได้ แต่ตัวตรวจจับที่ตรงกันสามารถค้นหาและทำเครื่องหมายเนื้อหาว่าสร้างขึ้นโดยเครื่อง ระบบต่างๆ เช่น SynthID ของ Google DeepMind และ AudioSeal ของ Meta มีความสำคัญเนื่องจากเครื่องหมายเดินทางไปพร้อมกับเนื้อหานั้น ซึ่งแตกต่างจากป้ายกำกับข้อมูลเมตา และได้รับการออกแบบมาเพื่อให้คงอยู่ต่อการแก้ไขทั่วไป เช่น การบีบอัดและการครอบตัด

เจาะลึก

ลายน้ำข้อความทำงานโดยการดันคำที่โมเดลภาษาเลือก รูปภาพและเสียงมีผืนผ้าใบที่แตกต่างกัน: ค่าพิกเซลหลายล้านหรือตัวอย่างเสียงนับหมื่นต่อวินาที ซึ่งส่วนใหญ่สามารถเปลี่ยนแปลงได้เล็กน้อยโดยไม่มีใครสังเกตเห็น ลายน้ำที่มองไม่เห็นใช้ความหย่อนนั้น โดยจะเพิ่มรูปแบบที่มีโครงสร้างซึ่งอยู่ต่ำกว่าสิ่งที่ผู้คนสามารถรับรู้ได้มาก แต่จะเห็นได้ชัดทางสถิติสำหรับเครื่องตรวจจับที่ได้รับการฝึกฝนให้มองหามัน Google DeepMind เปิดตัว SynthID ในปี 2023 สำหรับรูปภาพจากรุ่น Imagen และต่อมาได้ขยายเป็นเสียง วิดีโอ และข้อความ ใช้เครือข่ายประสาทเทียมสองเครือข่าย: อันหนึ่งฝังเครื่องหมายและอีกอันตรวจจับได้ แทนที่จะประทับตรารูปแบบที่ตายตัว ตัวฝังจะเรียนรู้ว่าการเปลี่ยนแปลงใดจะมองเห็นได้น้อยที่สุดและคงทนที่สุด AudioSeal ของ Meta ซึ่งเผยแพร่ในปี 2024 ฝึกเครื่องกำเนิดไฟฟ้าและเครื่องตรวจจับร่วมกัน และสามารถจำกัดขอบเขตของเสียงให้เหลือเพียงช่วงสั้น ๆ ของเสียง ซึ่งจะช่วยเมื่อคลิปสังเคราะห์ถูกต่อเข้ากับการบันทึกจริง งาน Stable Signature รุ่นก่อนหน้าของ Meta ได้ปรับแต่งตัวถอดรหัสภาพของโมเดลการแพร่กระจายอย่างละเอียด เพื่อให้ทุกเอาต์พุตมีเครื่องหมาย วิธีการทางวิชาการ เช่น Tree-Ring จะซ่อนรูปแบบไว้ในสัญญาณรบกวนเริ่มต้นของแบบจำลอง การตรวจจับมีความน่าจะเป็น อุปกรณ์ตรวจจับรายงานคะแนนความเชื่อมั่น และผู้ออกแบบจะแลกเปลี่ยนสัญญาณเตือนที่ผิดพลาดกับคะแนนที่พลาด ความแกร่งก็มีขีดจำกัดเช่นกัน เครื่องหมายถูกสร้างขึ้นเพื่อให้สามารถทนต่อการบีบอัด การปรับขนาด และการกรองแบบอ่อน แต่การโจมตีที่กำหนดอาจทำให้อ่อนลงหรือลบออกได้ ตัวอย่าง ได้แก่ การสร้างภาพใหม่ผ่านโมเดลการแพร่กระจาย การเพิ่มสัญญาณรบกวนฝ่ายตรงข้าม หรือใช้เอฟเฟกต์เสียงที่หนักหน่วง ความเข้าใจผิดสองประการเป็นเรื่องปกติ ประการแรก การไม่พบลายน้ำไม่ได้พิสูจน์ว่าเนื้อหานั้นมีอยู่จริง หมายความว่าไม่พบเครื่องหมายจากระบบนั้นเท่านั้น ประการที่สอง ลายน้ำที่มองไม่เห็นไม่เหมือนกับข้อมูลรับรองเนื้อหา C2PA ข้อมูลเหล่านี้เป็นเมตาดาต้าที่มีการลงนามที่แนบมากับไฟล์ และอาจสูญหายได้เมื่อไฟล์ถูกบันทึกใหม่หรือจับภาพหน้าจอโดยซอฟต์แวร์ที่ไม่ได้เก็บรักษาไฟล์เหล่านั้น

การใช้งานจริงในโลกแห่งความเป็นจริง

โต๊ะข่าวที่ตรวจสอบภาพถ่ายไวรัลจะดำเนินการผ่านตัวตรวจสอบที่ใช้ SynthID เพื่อดูว่าโมเดลรูปภาพ Google สร้างขึ้นหรือไม่ และถือว่าผลลัพธ์เชิงลบว่า 'ไม่ทราบ' แทนที่จะเป็น 'ของจริง'

แพลตฟอร์มพอดแคสต์จะสแกนคลิปที่อัปโหลดด้วยตัวตรวจจับรูปแบบ AudioSeal เพื่อทำเครื่องหมายคำพูดสังเคราะห์ เนื่องจากตัวตรวจจับสามารถระบุตำแหน่งเครื่องหมายได้ จึงชี้ไปที่วินาทีของไฟล์ที่ถูกสร้างขึ้น

บริการสร้างภาพจะฝังลายน้ำไว้ในทุกเอาต์พุต ณ เวลาที่สร้าง ดังนั้นจึงสามารถตรวจสอบรายงานการละเมิดในภายหลังกับรูปภาพของโมเดลของตัวเองได้

นักวิจัยจะบีบอัด ปรับขนาด ครอบตัด และจับภาพหน้าจอของรูปภาพที่มีลายน้ำในรูปแบบ JPEG จากนั้นวัดความถี่ที่เครื่องตรวจจับยังคงทำการยิง เพื่อทำแผนที่ตำแหน่งที่เครื่องหมายแตกหัก

อนาคตของลายน้ำที่มองไม่เห็นสำหรับภาพและเสียง AI

ลายน้ำมีแนวโน้มที่จะกลายเป็นหนึ่งชั้นในหลาย ๆ แทนที่จะเป็นคำตอบที่สมบูรณ์ ผู้ให้บริการกำลังจับคู่เครื่องหมายที่มองไม่เห็นกับข้อมูลเมตาแหล่งที่มาที่ลงนาม เช่น C2PA และรัฐบาลหลายแห่งกำลังหารือหรือใช้กฎที่ขอให้ผู้ให้บริการ AI ติดป้ายกำกับสื่อสังเคราะห์ แม้ว่าข้อกำหนดจะแตกต่างกันไปตามเขตอำนาจศาลก็ตาม ปัญหาที่เปิดอยู่ยังคงอยู่ ตัวตรวจจับของผู้จำหน่ายรายหนึ่งไม่สามารถอ่านเครื่องหมายของผู้จำหน่ายรายอื่นได้ โมเดลโอเพ่นซอร์สสามารถรันได้โดยไม่มีลายน้ำเลย และการโจมตีแบบรีเจนเนอเรชั่นก็ได้รับการปรับปรุงอย่างต่อเนื่อง คาดหวังการวิจัยเพิ่มเติมเกี่ยวกับเครื่องหมายที่รอดจากการแก้ไขที่แข็งแกร่งยิ่งขึ้น การทำงานตามมาตรฐานการตรวจจับที่ใช้ร่วมกัน และการส่งข้อความสาธารณะที่ชัดเจนยิ่งขึ้นว่าลายน้ำที่หายไปไม่ใช่หลักฐานยืนยันความถูกต้อง

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ความเร็วและขนาด. Visual AI สามารถทำให้การตรวจสอบ การตรวจจับ และการแท็กเป็นอัตโนมัติในขนาดต่างๆ
  • สร้างทางเลือก. ทีมสร้างสรรค์สามารถสร้างต้นแบบแนวคิดได้รวดเร็วขึ้นโดยต้องมีการแก้ไขด้วยตนเองน้อยลง
  • ทีมงานและขั้นตอนการทำงาน. การดำเนินการสามารถใช้สัญญาณภาพและวิดีโอที่ก่อนหน้านี้ประมวลผลได้ยาก

ระวัง

  • สิทธิ์และความยินยอมในรูปภาพอาจกลายเป็นความเสี่ยงทางกฎหมายได้หากแหล่งที่มาไม่ชัดเจน
  • ประสิทธิภาพของโมเดลอาจแตกต่างกันไปตามสภาพแสง ข้อมูลประชากร และสภาพแวดล้อม
  • ผลบวกลวงอาจไม่สังเกตเห็นเว้นแต่จะมีการตรวจสอบเกณฑ์ความเชื่อมั่น

ขั้นตอนต่อไป

  1. กำหนดเกณฑ์การยอมรับสำหรับความแม่นยำ การเรียกคืน และต้นทุนข้อผิดพลาด
  2. ทดสอบด้วยข้อมูลที่ตรงกับเงื่อนไขการผลิตจริง
  3. เพิ่มการตรวจสอบโดยเจ้าหน้าที่สำหรับการคาดการณ์ที่มีความมั่นใจต่ำหรือมีผลกระทบสูง
  4. ติดตามการเคลื่อนตัวของโมเดลและตรวจสอบความถูกต้องอีกครั้งหลังจากการเปลี่ยนแปลงกล้องหรือชุดข้อมูล

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Invisible Watermarks for AI Images and Audio quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

ลายน้ำที่มองไม่เห็นสำหรับรูปภาพ AI และเสียงคืออะไร

ลายน้ำที่มองไม่เห็นสำหรับภาพ AI และเสียงเป็นสัญญาณที่ซ่อนอยู่โดยตรงในค่าพิกเซลหรือคลื่นเสียง ผู้คนไม่สามารถมองเห็นหรือได้ยินได้ แต่ตัวตรวจจับที่ตรงกันสามารถค้นหาและทำเครื่องหมายเนื้อหาว่าสร้างขึ้นโดยเครื่อง ระบบต่างๆ เช่น SynthID ของ Google DeepMind และ AudioSeal ของ Meta มีความสำคัญเนื่องจากเครื่องหมายเดินทางไปพร้อมกับเนื้อหานั้น ซึ่งแตกต่างจากป้ายกำกับข้อมูลเมตา และได้รับการออกแบบมาเพื่อให้คงอยู่ต่อการแก้ไขทั่วไป เช่น การบีบอัดและการครอบตัด

ลายน้ำภาพและเสียงที่มองไม่เห็นแตกต่างจากลายน้ำข้อความที่ตัดกันอย่างไร

ลายน้ำข้อความมีอคติซึ่งโทเค็นที่โมเดลเลือก ลายน้ำภาพและเสียงจะเปลี่ยนพิกเซลหรือค่าตัวอย่างด้วยจำนวนที่น้อยเกินกว่าจะรับรู้ได้

องค์กรใดที่พัฒนา AudioSeal

AudioSeal ได้รับการเผยแพร่โดย Meta ในปี 2024 โดยจะฝึกเครื่องกำเนิดไฟฟ้าและเครื่องตรวจจับร่วมกัน และสามารถระบุตำแหน่งเครื่องหมายภายในช่วงสั้นๆ ของเสียงได้

ตัวตรวจจับไม่พบลายน้ำในภาพ คุณสามารถสรุปอะไรได้อย่างถูกต้อง?

อุปกรณ์ตรวจจับจะจดจำเฉพาะเครื่องหมายของระบบของตนเองเท่านั้น และสามารถลบเครื่องหมายออกได้ ผลลัพธ์เชิงลบหมายถึง 'ไม่ทราบ' ไม่ใช่ 'ของแท้'

คู่มืออธิบายว่าการโจมตีใดที่ทำให้ลายน้ำรูปภาพอ่อนลงหรือลบได้

การสร้างใหม่จะสร้างพิกเซลขึ้นใหม่ผ่านโมเดลการแพร่กระจาย ซึ่งสามารถล้างรูปแบบที่ซ่อนอยู่ออกไปได้ เสียงฝ่ายตรงข้ามเป็นอีกการโจมตีที่ไกด์กล่าวถึง

วิธี Tree-Ring ทางวิชาการซ่อนลายน้ำไว้ที่ไหน

Tree-Ring วางรูปแบบไว้ในเสียงเริ่มต้นที่แบบจำลองการแพร่กระจายเริ่มต้น ดังนั้นเครื่องหมายจึงถูกสร้างไว้ในกระบวนการผลิตนั่นเอง

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →