การประมาณค่าแผนที่และลำดับความสำคัญ

การอนุมานแบบเบย์ผสมผสานความน่าจะเป็น ซึ่งอธิบายว่าข้อมูลที่สังเกตได้น่าจะเป็นไปได้เพียงใดภายใต้ค่าพารามิเตอร์ กับการแจกแจงก่อนหน้าที่แสดงถึงข้อมูลหรือสมมติฐานก่อนที่จะเห็นข้อมูลเหล่านั้น กฎของเบย์ให้การกระจายตัวหลังตามสัดส่วนกับเวลาที่เป็นไปได้ก่อนหน้า การประมาณความน่าจะเป็นสูงสุด (MLE) เลือกพารามิเตอร์ที่เพิ่มความน่าจะเป็นสูงสุด การประมาณค่าหลังสูงสุด (MAP) จะเลือกค่าที่จะเพิ่มความหนาแน่นด้านหลังให้สูงสุด การใช้ลอการิทึมจะเปลี่ยนผลคูณให้เป็นผลรวม: log หลังเท่ากับความน่าจะเป็นของบันทึกบวกกับบันทึกก่อนหน้าบวกค่าคงที่การทำให้เป็นมาตรฐานซึ่งไม่ได้ขึ้นอยู่กับพารามิเตอร์ ดังนั้นการเพิ่มส่วนหลังให้สูงสุดจึงเทียบเท่ากับการเพิ่มโอกาสบันทึกให้สูงสุดบวกกับบันทึกก่อนหน้า ถ้าค่าก่อนหน้ามีศูนย์กลางอยู่ที่ศูนย์และแบบเกาส์เซียน ความหนาแน่นของล็อกจะมีส่วนเป็นค่าลบซึ่งแปรผันตามขนาดสัมประสิทธิ์กำลังสอง การเพิ่มส่วนหลังให้สูงสุดนั้นสอดคล้องกับการลดการสูญเสียตามโอกาสให้เหลือน้อยที่สุดบวกกับการลงโทษ L2 ลาปลาซก่อนหน้ามีส่วนทำให้เกิดมูลค่าสัมบูรณ์ ทำให้เกิดการลงโทษแบบ L1 ความเท่าเทียมกันที่แม่นยำนั้นขึ้นอยู่กับวิธีการกำหนดพารามิเตอร์ของความน่าจะเป็น ระดับก่อนหน้า และวัตถุประสงค์ ในการถดถอยข้อมูลขนาดเล็กเชิงสมมุติ MLE อาจมีค่าสัมประสิทธิ์เท่ากับ 8 เนื่องจากมีข้อสังเกตเพียงไม่กี่ข้อเท่านั้นที่เป็นตัวขับเคลื่อนการประมาณค่า ศูนย์กลางศูนย์ก่อนหน้าสามารถดึงการประมาณค่า MAP ไปสู่ศูนย์ได้ นี่ไม่ใช่การแก้ไขตามอำเภอใจ แต่เป็นการแสดงออกถึงการตั้งค่าสัมประสิทธิ์ที่น้อยกว่า หากก่อนหน้านี้ไม่เหมาะสม การประมาณค่า MAP อาจมีอคติไปในทิศทางที่เป็นอันตราย รายงานสมมติฐานและทดสอบว่าข้อสรุปเปลี่ยนแปลงไปอย่างไรภายใต้ทางเลือกอื่นที่เป็นไปได้ MAP ส่งคืนค่าประมาณแบบจุด ไม่ใช่การแจกแจงหลังแบบเต็ม อาจมีประโยชน์สำหรับการปรับให้เหมาะสมและการทำนายแบบสม่ำเสมอ แต่ไม่ได้สรุปความไม่แน่นอนเกี่ยวกับวิธีช่วงหลังหรือตัวอย่าง โหมดหลังยังสามารถขึ้นอยู่กับการกำหนดพารามิเตอร์ได้ เนื่องจากความหนาแน่นจะเปลี่ยนไปตามระบบพิกัด แยกโหมดความหนาแน่นของความน่าจะเป็นออกจากค่าพารามิเตอร์ที่มีมวลความน่าจะเป็นรวมมากที่สุด เมื่อการตัดสินใจขึ้นอยู่กับความไม่แน่นอน ให้ตรวจสอบด้านหลังแทนที่จะนำเสนอ MAP เพียงอย่างเดียวเป็นการวิเคราะห์แบบเบย์ที่สมบูรณ์