ต่อไปคำแนะนำต่อไป
เมล็ดพันธุ์และการทำซ้ำในการสร้างภาพ AI
วิชวลเอไอ
คู่มือ AI แบบเห็นภาพ
ลายน้ำที่มองไม่เห็นสำหรับภาพ AI และเสียงเป็นสัญญาณที่ซ่อนอยู่โดยตรงในค่าพิกเซลหรือคลื่นเสียง
ฟังคำแนะนำนี้บรรยายโดย AI · ~3 min
ผู้คนไม่สามารถมองเห็นหรือได้ยินได้ แต่ตัวตรวจจับที่ตรงกันสามารถค้นหาและทำเครื่องหมายเนื้อหาว่าสร้างขึ้นโดยเครื่อง ระบบต่างๆ เช่น SynthID ของ Google DeepMind และ AudioSeal ของ Meta มีความสำคัญเนื่องจากเครื่องหมายเดินทางไปพร้อมกับเนื้อหานั้น ซึ่งแตกต่างจากป้ายกำกับข้อมูลเมตา และได้รับการออกแบบมาเพื่อให้คงอยู่ต่อการแก้ไขทั่วไป เช่น การบีบอัดและการครอบตัด
ลายน้ำข้อความทำงานโดยการดันคำที่โมเดลภาษาเลือก รูปภาพและเสียงมีผืนผ้าใบที่แตกต่างกัน: ค่าพิกเซลหลายล้านหรือตัวอย่างเสียงนับหมื่นต่อวินาที ซึ่งส่วนใหญ่สามารถเปลี่ยนแปลงได้เล็กน้อยโดยไม่มีใครสังเกตเห็น ลายน้ำที่มองไม่เห็นใช้ความหย่อนนั้น โดยจะเพิ่มรูปแบบที่มีโครงสร้างซึ่งอยู่ต่ำกว่าสิ่งที่ผู้คนสามารถรับรู้ได้มาก แต่จะเห็นได้ชัดทางสถิติสำหรับเครื่องตรวจจับที่ได้รับการฝึกฝนให้มองหามัน Google DeepMind เปิดตัว SynthID ในปี 2023 สำหรับรูปภาพจากรุ่น Imagen และต่อมาได้ขยายเป็นเสียง วิดีโอ และข้อความ ใช้เครือข่ายประสาทเทียมสองเครือข่าย: อันหนึ่งฝังเครื่องหมายและอีกอันตรวจจับได้ แทนที่จะประทับตรารูปแบบที่ตายตัว ตัวฝังจะเรียนรู้ว่าการเปลี่ยนแปลงใดจะมองเห็นได้น้อยที่สุดและคงทนที่สุด AudioSeal ของ Meta ซึ่งเผยแพร่ในปี 2024 ฝึกเครื่องกำเนิดไฟฟ้าและเครื่องตรวจจับร่วมกัน และสามารถจำกัดขอบเขตของเสียงให้เหลือเพียงช่วงสั้น ๆ ของเสียง ซึ่งจะช่วยเมื่อคลิปสังเคราะห์ถูกต่อเข้ากับการบันทึกจริง งาน Stable Signature รุ่นก่อนหน้าของ Meta ได้ปรับแต่งตัวถอดรหัสภาพของโมเดลการแพร่กระจายอย่างละเอียด เพื่อให้ทุกเอาต์พุตมีเครื่องหมาย วิธีการทางวิชาการ เช่น Tree-Ring จะซ่อนรูปแบบไว้ในสัญญาณรบกวนเริ่มต้นของแบบจำลอง การตรวจจับมีความน่าจะเป็น อุปกรณ์ตรวจจับรายงานคะแนนความเชื่อมั่น และผู้ออกแบบจะแลกเปลี่ยนสัญญาณเตือนที่ผิดพลาดกับคะแนนที่พลาด ความแกร่งก็มีขีดจำกัดเช่นกัน เครื่องหมายถูกสร้างขึ้นเพื่อให้สามารถทนต่อการบีบอัด การปรับขนาด และการกรองแบบอ่อน แต่การโจมตีที่กำหนดอาจทำให้อ่อนลงหรือลบออกได้ ตัวอย่าง ได้แก่ การสร้างภาพใหม่ผ่านโมเดลการแพร่กระจาย การเพิ่มสัญญาณรบกวนฝ่ายตรงข้าม หรือใช้เอฟเฟกต์เสียงที่หนักหน่วง ความเข้าใจผิดสองประการเป็นเรื่องปกติ ประการแรก การไม่พบลายน้ำไม่ได้พิสูจน์ว่าเนื้อหานั้นมีอยู่จริง หมายความว่าไม่พบเครื่องหมายจากระบบนั้นเท่านั้น ประการที่สอง ลายน้ำที่มองไม่เห็นไม่เหมือนกับข้อมูลรับรองเนื้อหา C2PA ข้อมูลเหล่านี้เป็นเมตาดาต้าที่มีการลงนามที่แนบมากับไฟล์ และอาจสูญหายได้เมื่อไฟล์ถูกบันทึกใหม่หรือจับภาพหน้าจอโดยซอฟต์แวร์ที่ไม่ได้เก็บรักษาไฟล์เหล่านั้น
โต๊ะข่าวที่ตรวจสอบภาพถ่ายไวรัลจะดำเนินการผ่านตัวตรวจสอบที่ใช้ SynthID เพื่อดูว่าโมเดลรูปภาพ Google สร้างขึ้นหรือไม่ และถือว่าผลลัพธ์เชิงลบว่า 'ไม่ทราบ' แทนที่จะเป็น 'ของจริง'
แพลตฟอร์มพอดแคสต์จะสแกนคลิปที่อัปโหลดด้วยตัวตรวจจับรูปแบบ AudioSeal เพื่อทำเครื่องหมายคำพูดสังเคราะห์ เนื่องจากตัวตรวจจับสามารถระบุตำแหน่งเครื่องหมายได้ จึงชี้ไปที่วินาทีของไฟล์ที่ถูกสร้างขึ้น
บริการสร้างภาพจะฝังลายน้ำไว้ในทุกเอาต์พุต ณ เวลาที่สร้าง ดังนั้นจึงสามารถตรวจสอบรายงานการละเมิดในภายหลังกับรูปภาพของโมเดลของตัวเองได้
นักวิจัยจะบีบอัด ปรับขนาด ครอบตัด และจับภาพหน้าจอของรูปภาพที่มีลายน้ำในรูปแบบ JPEG จากนั้นวัดความถี่ที่เครื่องตรวจจับยังคงทำการยิง เพื่อทำแผนที่ตำแหน่งที่เครื่องหมายแตกหัก
ลายน้ำมีแนวโน้มที่จะกลายเป็นหนึ่งชั้นในหลาย ๆ แทนที่จะเป็นคำตอบที่สมบูรณ์ ผู้ให้บริการกำลังจับคู่เครื่องหมายที่มองไม่เห็นกับข้อมูลเมตาแหล่งที่มาที่ลงนาม เช่น C2PA และรัฐบาลหลายแห่งกำลังหารือหรือใช้กฎที่ขอให้ผู้ให้บริการ AI ติดป้ายกำกับสื่อสังเคราะห์ แม้ว่าข้อกำหนดจะแตกต่างกันไปตามเขตอำนาจศาลก็ตาม ปัญหาที่เปิดอยู่ยังคงอยู่ ตัวตรวจจับของผู้จำหน่ายรายหนึ่งไม่สามารถอ่านเครื่องหมายของผู้จำหน่ายรายอื่นได้ โมเดลโอเพ่นซอร์สสามารถรันได้โดยไม่มีลายน้ำเลย และการโจมตีแบบรีเจนเนอเรชั่นก็ได้รับการปรับปรุงอย่างต่อเนื่อง คาดหวังการวิจัยเพิ่มเติมเกี่ยวกับเครื่องหมายที่รอดจากการแก้ไขที่แข็งแกร่งยิ่งขึ้น การทำงานตามมาตรฐานการตรวจจับที่ใช้ร่วมกัน และการส่งข้อความสาธารณะที่ชัดเจนยิ่งขึ้นว่าลายน้ำที่หายไปไม่ใช่หลักฐานยืนยันความถูกต้อง
จดหมายข่าวฟรี
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
ลายน้ำที่มองไม่เห็นสำหรับภาพ AI และเสียงเป็นสัญญาณที่ซ่อนอยู่โดยตรงในค่าพิกเซลหรือคลื่นเสียง ผู้คนไม่สามารถมองเห็นหรือได้ยินได้ แต่ตัวตรวจจับที่ตรงกันสามารถค้นหาและทำเครื่องหมายเนื้อหาว่าสร้างขึ้นโดยเครื่อง ระบบต่างๆ เช่น SynthID ของ Google DeepMind และ AudioSeal ของ Meta มีความสำคัญเนื่องจากเครื่องหมายเดินทางไปพร้อมกับเนื้อหานั้น ซึ่งแตกต่างจากป้ายกำกับข้อมูลเมตา และได้รับการออกแบบมาเพื่อให้คงอยู่ต่อการแก้ไขทั่วไป เช่น การบีบอัดและการครอบตัด
ลายน้ำข้อความมีอคติซึ่งโทเค็นที่โมเดลเลือก ลายน้ำภาพและเสียงจะเปลี่ยนพิกเซลหรือค่าตัวอย่างด้วยจำนวนที่น้อยเกินกว่าจะรับรู้ได้
AudioSeal ได้รับการเผยแพร่โดย Meta ในปี 2024 โดยจะฝึกเครื่องกำเนิดไฟฟ้าและเครื่องตรวจจับร่วมกัน และสามารถระบุตำแหน่งเครื่องหมายภายในช่วงสั้นๆ ของเสียงได้
อุปกรณ์ตรวจจับจะจดจำเฉพาะเครื่องหมายของระบบของตนเองเท่านั้น และสามารถลบเครื่องหมายออกได้ ผลลัพธ์เชิงลบหมายถึง 'ไม่ทราบ' ไม่ใช่ 'ของแท้'
การสร้างใหม่จะสร้างพิกเซลขึ้นใหม่ผ่านโมเดลการแพร่กระจาย ซึ่งสามารถล้างรูปแบบที่ซ่อนอยู่ออกไปได้ เสียงฝ่ายตรงข้ามเป็นอีกการโจมตีที่ไกด์กล่าวถึง
Tree-Ring วางรูปแบบไว้ในเสียงเริ่มต้นที่แบบจำลองการแพร่กระจายเริ่มต้น ดังนั้นเครื่องหมายจึงถูกสร้างไว้ในกระบวนการผลิตนั่นเอง
เรียนรู้ต่อไป
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้
ต่อไปคำแนะนำต่อไป
เมล็ดพันธุ์และการทำซ้ำในการสร้างภาพ AI
วิชวลเอไอ