คู่มือทางเทคนิค

การเรียนรู้ที่ตรงกันข้าม

การเรียนรู้แบบตรงกันข้ามจะสอนแบบจำลองเพื่อดึงสิ่งที่คล้ายกันมารวมกันและผลักสิ่งที่แตกต่างออกจากกันในพื้นที่ฝังตัว

ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min

บนหน้านี้อ่าน 2 นาที
  1. ภาพรวม
  2. เจาะลึก
  3. การใช้งานจริงในโลกแห่งความเป็นจริง
  4. อนาคตของการเรียนรู้ที่ตรงกันข้าม
  5. การนำไปปฏิบัติ
  6. สำรวจต่อไป
  7. คำถามที่พบบ่อย

ภาพรวม

เป็นเรื่องสำคัญเนื่องจากช่วยให้ AI เรียนรู้การนำเสนอที่มีประสิทธิภาพจากข้อมูลที่ไม่มีป้ายกำกับเป็นส่วนใหญ่ ขับเคลื่อนการค้นหารูปภาพ คำแนะนำ และแบบจำลองหลายรูปแบบ

เจาะลึก

แทนที่จะทำนายป้ายกำกับ การเรียนรู้แบบเปรียบเทียบจะเรียนรู้โดยการเปรียบเทียบ: เมื่อพิจารณาจากรายการจุดยึด โมเดลจะได้รับการฝึกเพื่อให้ 'ค่าบวก' ที่ตรงกันเข้าใกล้มันในปริภูมิเวกเตอร์ ในขณะที่ 'ค่าลบ' ที่ไม่ตรงกันจะตกลงไปในระยะไกล สูตรทั่วไปที่มีการดูแลตนเอง (เช่น SimCLR) จะสร้างผลบวกโดยการสุ่มเพิ่มรูปภาพเดียวกันสองครั้ง (ครอบตัด สีที่กระวนกระวายใจ เบลอ) อย่างอื่นในชุดนั้นเป็นค่าลบ แบบจำลองจะจับคู่อินพุตกับเวกเตอร์ และการสูญเสียจะให้รางวัลความคล้ายคลึงกันสูงสำหรับทั้งคู่ และความคล้ายคลึงกันต่ำสำหรับส่วนที่เหลือ สิ่งนี้ทำให้เกิดการฝังที่ระยะทางสะท้อนถึงความหมาย ดังนั้นงานปลายน้ำจึงจำเป็นต้องมีป้ายกำกับน้อยกว่ามาก CLIP ใช้แนวคิดเดียวกันในรูปแบบต่างๆ โดยจับคู่รูปภาพกับคำบรรยาย

การใช้งานจริงในโลกแห่งความเป็นจริง

CLIP เรียนรู้พื้นที่ข้อความรูปภาพที่ใช้ร่วมกัน เพื่อให้คุณสามารถค้นหาไลบรารีรูปภาพด้วยวลีที่พิมพ์เช่น 'สุนัขบนสเก็ตบอร์ด'

ฝึกอบรมแกนหลักการมองเห็นล่วงหน้าด้วย SimCLR บนภาพถ่ายที่ไม่มีป้ายกำกับ จากนั้นปรับแต่งอย่างละเอียดเพื่อการตรวจหาโรคด้วยชุดป้ายกำกับขนาดเล็กเท่านั้น

สร้างคำแนะนำผลิตภัณฑ์หรือเพลงโดยฝังรายการที่ผู้ใช้ชอบไว้ใกล้กันเพื่อดึงข้อมูลเพื่อนบ้านที่ใกล้ที่สุด

ระบบการตรวจสอบใบหน้าที่ฝึกการฝังเพื่อให้รูปถ่ายสองรูปของคนคนเดียวกันอยู่ใกล้กันและคนละคนอยู่ห่างกัน

อนาคตของการเรียนรู้ที่ตรงกันข้าม

การเรียนรู้แบบตรงกันข้ามกำลังมาบรรจบกับการกำกับดูแลตนเองแบบปิดบังและแบบสร้างสรรค์ในวัตถุประสงค์แบบผสมผสานที่จับทั้งความคล้ายคลึงระดับโลกและรายละเอียดที่ละเอียด ผลกระทบที่ใหญ่ที่สุดของมันคือ multimodal: การฝังข้อความรูปภาพและการจัดแนวที่ตรงกันข้าม (และตอนนี้คือเสียงและวิดีโอ) จะสนับสนุนการค้นหา การสร้างเสริมการดึงข้อมูล และการจำแนกประเภทภาพเป็นศูนย์ และรอยเท้าดังกล่าวจะเติบโตขึ้น คาดว่าจะมีการทำงานมากขึ้นในการลดความอยากอาหารจำนวนมาก กลยุทธ์การเพิ่มและการขุดเชิงลบที่ดีขึ้น และในการขยายแนวทางไปยังโดเมน เช่น การสร้างภาพทางการแพทย์และอนุกรมเวลา ซึ่งฉลากหายากและมีราคาแพง

การนำไปปฏิบัติ

ทำไมมันถึงสำคัญ

  • ต้นทุนและงบประมาณ. การตัดสินใจด้านสถาปัตยกรรมขับเคลื่อนประสิทธิภาพและต้นทุนการดำเนินงานเป็นเวลาหลายปี
  • การตัดสินใจที่ชัดเจนยิ่งขึ้น. การศึกษาด้านเทคนิคช่วยให้ทีมเลือกกลุ่มที่เหมาะสม ไม่ใช่แค่กลุ่มใหม่ล่าสุด
  • การควบคุมคุณภาพ. ตัวเลือกทางวิศวกรรมที่ดีกว่าจะช่วยลดเหตุการณ์ด้านความน่าเชื่อถือในการผลิต

ระวัง

  • การเพิ่มประสิทธิภาพเกณฑ์มาตรฐานหนึ่งรายการสามารถซ่อนจุดอ่อนของระบบในวงกว้างได้
  • ต้นทุนโครงสร้างพื้นฐานและการบำรุงรักษามักถูกประเมินต่ำไป
  • ช่องว่างด้านความปลอดภัยและความสามารถในการสังเกตสามารถเพิ่มขึ้นได้เมื่อระบบมีความซับซ้อนมากขึ้น

ขั้นตอนต่อไป

  1. กำหนดเป้าหมายเวลาแฝง คุณภาพ และต้นทุนก่อนนำไปใช้งาน
  2. เกณฑ์มาตรฐานภายใต้สภาวะโหลดและข้อมูลจริง
  3. การตรวจสอบเครื่องมือเพื่อหาข้อผิดพลาด การเบี่ยงเบน และผลกระทบต่อผู้ใช้
  4. เตรียมเส้นทางการย้อนกลับและการตอบสนองต่อเหตุการณ์ก่อนปรับขนาด

สำรวจต่อไป

จดหมายข่าวฟรี

รับสรุป AI รายวัน

เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา

อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ

ทดสอบตัวเอง

Take the Contrastive Learning quiz

ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร

เริ่มแบบทดสอบ

สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค

คำถามที่พบบ่อย

การเรียนรู้แบบตรงกันข้ามคืออะไร?

การเรียนรู้แบบตรงกันข้ามจะสอนแบบจำลองเพื่อดึงสิ่งที่คล้ายกันมารวมกันและผลักสิ่งที่แตกต่างออกจากกันในพื้นที่ฝังตัว เป็นเรื่องสำคัญเนื่องจากช่วยให้ AI เรียนรู้การนำเสนอที่มีประสิทธิภาพจากข้อมูลที่ไม่มีป้ายกำกับเป็นส่วนใหญ่ ขับเคลื่อนการค้นหารูปภาพ คำแนะนำ และแบบจำลองหลายรูปแบบ

วัตถุประสงค์หลักของการเรียนรู้แบบเปรียบเทียบคืออะไร?

การเรียนรู้ที่ขัดแย้งกันทำให้เกิดพื้นที่ฝังตัว ดังนั้นคู่ที่ตรงกันจึงอยู่ใกล้กันและคู่ที่ไม่ตรงกันจะอยู่ห่างกัน

ในวิธีการตรวจสอบภาพด้วยตนเอง เช่น SimCLR โดยทั่วไปแล้วคู่ที่เป็นบวกจะถูกสร้างขึ้นอย่างไร

SimCLR สร้างผลบวกจากมุมมองเสริมสองมุมมองของรูปภาพหนึ่งภาพ โดยที่รูปภาพอื่นๆ ในกลุ่มจะทำหน้าที่เป็นเนกาทีฟ

ฟังก์ชั่นการสูญเสียใดที่เกี่ยวข้องกับการเรียนรู้แบบเปรียบเทียบมากที่สุด?

InfoNCE ซึ่งเป็นค่าซอฟต์แม็กซ์เหนือคะแนนความคล้ายคลึงกับอุณหภูมิ เป็นวัตถุประสงค์มาตรฐานในการเปรียบเทียบ

เหตุใดวิธีการเช่น MoCo จึงใช้ธนาคารหน่วยความจำหรือคิว

การเรียนรู้แบบตรงกันข้ามมีประโยชน์จากเชิงลบหลายประการ คิวจัดเตรียมไว้ในขณะที่ยังคงจัดการขนาดแบตช์ได้

BYOL และ SimSiam ป้องกันปัญหาอะไรโดยเฉพาะโดยไม่ใช้คำเชิงลบที่ชัดเจน?

หากไม่มีค่าเนกาทีฟ แบบจำลองสามารถแมปทุกอย่างกับเวกเตอร์เดียวกันได้เล็กน้อย เป้าหมายการไล่ระดับสีและโมเมนตัมป้องกันการล่มสลายนี้

เรียนรู้ต่อไป

คำแนะนำที่เกี่ยวข้อง

คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้

รับใบรับรอง AI ฟรีหลักสูตรและการสอบสั้น ๆ ฟรี ไม่มีค่าใช้จ่าย ไม่มีบัตรเครดิต ประมาณ 2.5 ชั่วโมงเริ่มต้นฟรี →