ต่อไปคำแนะนำต่อไป
ฟีเจอร์ออนไลน์และออฟไลน์ที่ให้บริการแบบเอียง
เทคนิค
คู่มือทางเทคนิค
การขุดเชิงลบอย่างหนักจะเลือกตัวอย่างที่มีข้อมูลและแยกแยะได้ยากที่สุดเพื่อฝึกฝน แทนที่จะเสียความพยายามไปกับตัวอย่างง่าย ๆ ที่แบบจำลองถูกต้องอยู่แล้ว
ฟังคำแนะนำนี้บรรยายโดย AI · ~2 min
นี่คือเทคนิคที่ทําให้การเรียนรู้เมตริกและการตรวจจับวัตถุสามารถบูรณาการได้อย่างรวดเร็วและแม่นยํา
เมื่อฝึกซ้อมโดยมีการสูญเสียแบบแฝดหรือแบบตรงกันข้าม ฟิล์มเนกาทีฟสุ่มตัวอย่างส่วนใหญ่จะอยู่ห่างจากจุดยึดอยู่แล้ว ดังนั้นพวกมันจึงสร้างการสูญเสียเป็นศูนย์และไม่มีการไล่ระดับสี แผงฝึกซ้อม การขุดเชิงลบจะแก้ไขปัญหานี้โดยการเลือกฮาร์ดเนกาทีฟ: ตัวอย่างที่อยู่ใกล้กับจุดยึดอย่างไม่ถูกต้อง ในการขุดแบบออฟไลน์ คุณจะต้องสแกนชุดข้อมูลเป็นระยะๆ เพื่อค้นหาสิ่งเหล่านี้ ซึ่งช้าและล้าสมัย การขุดแบบออนไลน์จะคำนวณพวกมันทันทีภายในแต่ละมินิแบตช์: หลังจากการส่งต่อ คุณจะดูระยะทางแบบคู่ทั้งหมดในแบตช์และเลือกผู้ฝ่าฝืนที่ยากที่สุด FaceNet นำเสนอการขุดแบบกึ่งแข็ง โดยเลือกค่าลบที่ไกลกว่าค่าบวกแต่ยังอยู่ในระยะขอบ หลีกเลี่ยงความไม่แน่นอนที่ค่าลบที่ยากที่สุดจะเกิดขึ้นในช่วงต้นของการฝึกอบรม
การฝึกอบรมการจดจำใบหน้า: FaceNet ใช้การขุดออนไลน์แบบกึ่งแข็งเพื่อเรียนรู้การฝังที่แยกบุคคลที่มีลักษณะเหมือนกัน
การตรวจจับวัตถุ: SSD และเครื่องตรวจจับที่คล้ายกันใช้การขุดแบบลบอย่างหนักเพื่อปรับสมดุลของกล่องพื้นหลังแบบง่ายกับกล่องวัตถุหายาก
การเรียกค้นข้อความที่หนาแน่น: ระบบการค้นหาและระบบ RAG จะขุดเอกสารเชิงลบที่ดูเกี่ยวข้องแต่ไม่ได้ทำให้รีทรีฟเวอร์คมชัดขึ้น
ระบบการแนะนำ: จำลองไอเท็มที่ผู้ใช้ไม่ได้คลิก แต่มีลักษณะคล้ายกับไอเท็มที่ถูกคลิก โดยสอนให้แยกแยะรสนิยมได้ดีขึ้น
หลักการซึ่งก็คือการฝึกฝนในสิ่งที่ยาก ตอนนี้ขับเคลื่อนการเรียนรู้แบบมีผู้ดูแลด้วยตนเองแบบเปรียบเทียบ โดยที่แหล่งรวมเชิงลบแบบแบตช์ขนาดใหญ่ (และธนาคารหน่วยความจำเช่น MoCo) ให้การเปรียบเทียบที่ยากลำบากโดยไม่มีป้ายกำกับ นักวิจัยกำลังปรับแต่งว่าคำเชิงลบควรยากแค่ไหน เนื่องจากคำเชิงลบที่ยากเกินไปมักจะกลายเป็นคำที่มีความหมายผิดหรือเกือบจะซ้ำกันจนทำให้การฝึกอบรมเสียหาย คาดหวังการขุดที่ชาญฉลาดและตระหนักถึงความไม่แน่นอนและฮาร์ดเนกาทีฟสังเคราะห์ที่สร้างขึ้นโดยตัวโมเดลเอง บวกกับการบูรณาการที่เข้มงวดยิ่งขึ้นกับระบบการดึงข้อมูลที่จะขุดฮาร์ดเนกาทีฟจากการสืบค้นของผู้ใช้จริง
จดหมายข่าวฟรี
เรื่องราว AI ที่ตรวจสอบแล้ว 3 เรื่องทุกวันทำงาน เช้า, เขียนเป็นภาษาอังกฤษธรรมดา ฟรีตลอดไป ไม่มีโฆษณา
อีเมลหนึ่งฉบับทุกวันทำงาน ยกเลิกการสมัครในคลิกเดียว เราไม่เคยขายหรือแชร์ที่อยู่อีเมลของคุณ
ทดสอบตัวเอง
ข้อเสนอแนะทันทีสำหรับทุกคำตอบ และใบรับรองที่สามารถแชร์ได้พร้อม ID ที่ตรวจสอบได้เมื่อคุณผ่านหลักสูตร
สนับสนุนการศึกษา AI ฟรี AI Understanding เป็นองค์กรไม่แสวงหาผลกำไร 501(c)(3) — ไม่มีโฆษณา ไม่มีกำแพงเงิน, ตลอดไป บริจาค
การขุดเชิงลบอย่างหนักจะเลือกตัวอย่างที่มีข้อมูลและแยกแยะได้ยากที่สุดเพื่อฝึกฝน แทนที่จะเสียความพยายามไปกับตัวอย่างง่าย ๆ ที่แบบจำลองถูกต้องอยู่แล้ว เป็นเคล็ดลับที่ทำให้การเรียนรู้ด้านเมตริกและการตรวจจับวัตถุมาบรรจบกันอย่างรวดเร็วและแม่นยำ
ฟิล์มเนกาทีฟแบบง่ายอยู่นอกเหนือขอบเขต ตอบสนองความสูญเสียได้แล้ว และโดยพื้นฐานแล้วไม่มีการไล่ระดับสี ดังนั้นจงฝึกแผงลอย
การขุดแบบออนไลน์จะคำนวณระยะทางเป็นคู่ภายในชุดข้อมูลปัจจุบันในแต่ละขั้นตอน ในขณะที่การขุดแบบออฟไลน์จะสแกนชุดข้อมูลทั้งหมดเป็นระยะๆ และอาจค้างได้
ฟิล์มเนกาทีฟแบบกึ่งแข็งจะอยู่ห่างจากจุดยึดมากกว่าค่าบวก แต่จะอยู่ภายในระยะขอบ ทำให้ได้การไล่ระดับที่มีประโยชน์และเสถียร โดยไม่มีความไม่แน่นอนของกรณีที่ยากที่สุด
การขุดแบบ Batch-hard mining จะเลือกกรณีที่ยากที่สุด: สำหรับแต่ละสมอนั้น จะใช้เวลาค่าบวกที่ไกลที่สุดและค่าลบที่ใกล้ที่สุด (สับสนที่สุด) ในชุด
ชุดที่ใหญ่กว่าจะให้เมทริกซ์ระยะทางแบบคู่ที่ใหญ่กว่า ดังนั้นจึงมีผู้สมัครรับข้อมูลเชิงลบมากกว่าที่จะขุดจุดที่ยากที่สุดจากแต่ละขั้นตอน
เรียนรู้ต่อไป
คำแนะนำเพิ่มเติมที่เลือกสำหรับหัวข้อนี้
ต่อไปคำแนะนำต่อไป
ฟีเจอร์ออนไลน์และออฟไลน์ที่ให้บริการแบบเอียง
เทคนิค