คำศัพท์อภิธานศัพท์ AI

อัตราการเรียนรู้ คืออะไร?

คำนิยาม

ไฮเปอร์พารามิเตอร์การฝึกควบคุมจำนวนพารามิเตอร์ที่เปลี่ยนแปลงแต่ละขั้นตอนการอัปเดต

การไล่ระดับสีเวกเตอร์ที่แสดงจำนวนพารามิเตอร์แต่ละตัวที่ควรเปลี่ยนแปลงเพื่อลดการสูญเสียไฮเปอร์พารามิเตอร์ค่าการกำหนดค่าที่ตั้งไว้ก่อนการฝึก เช่น อัตราการเรียนรู้ ขนาดแบทช์ หรือความลึกลักษณะทั่วไปแบบจำลองทำงานได้ดีเพียงใดกับข้อมูลใหม่ที่มองไม่เห็นนอกชุดการฝึกการปรับแบบละเอียดอย่างมีประสิทธิภาพด้วยพารามิเตอร์ (PEFT)วิธีการปรับโมเดลโดยการฝึกชุดย่อยเล็กๆ ของพารามิเตอร์ที่เพิ่มเข้ามาค้นหาบีมอัลกอริธึมการถอดรหัสที่เก็บลำดับตัวเลือกอันดับต้นๆ ในแต่ละขั้นตอนเพื่อค้นหาเอาต์พุตที่มีความน่าจะเป็นสูงกว่าฟังก์ชั่นการสูญเสียวัตถุประสงค์ทางคณิตศาสตร์ที่วัดปริมาณข้อผิดพลาดในการทำนายระหว่างการฝึก

เรียนรู้เพิ่มเติมในคำแนะนำฟรีของเรา

ดูเพิ่มเติม