Tiếp theoHướng dẫn tiếp theo
Tìm kiếm cây Monte Carlo
kỹ thuật
HƯỚNG DẪN KỸ THUẬT
Chuỗi Markov Monte Carlo (MCMC) sử dụng các kết quả rút ra phụ thuộc từ chuỗi Markov được thiết kế cẩn thận để ước tính các kỳ vọng theo phân phối mục tiêu, thường là phân phối Bayesian.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Lấy mẫu Metropolis-Hastings và Gibbs xây dựng các chuỗi như vậy, nhưng các ước tính hữu ích đòi hỏi phải chú ý đến việc trộn, cỡ mẫu hiệu quả và chẩn đoán hội tụ.
Nhiều phân phối sau không thể được lấy mẫu trực tiếp bằng phương pháp vẽ độc lập đơn giản. MCMC xây dựng chuỗi Markov với mục tiêu là phân phối văn phòng phẩm lâu dài. Mỗi trạng thái mới phụ thuộc vào trạng thái hiện tại và trong các điều kiện phù hợp, mức trung bình của các lần rút có thể gần đúng với những kỳ vọng sau này. Vì các lượt rút phụ thuộc nên số lượng hàng được lưu không bằng lượng thông tin độc lập. Ở Metropolis-Hastings, phân phối đề xuất gợi ý một trạng thái ứng cử viên. Thuật toán chấp nhận ứng cử viên đó với xác suất dựa trên tỷ lệ mật độ mục tiêu và khi đề xuất không đối xứng, sẽ điều chỉnh xác suất đề xuất thuận và ngược. Nếu nó từ chối, chuỗi sẽ lặp lại trạng thái trước đó. Đề xuất bước đi ngẫu nhiên đối xứng sẽ đơn giản hóa tỷ lệ, nhưng đề xuất có quy mô kém có thể di chuyển quá hiếm hoặc thực hiện các bước không hiệu quả. Lấy mẫu Gibbs là một phương pháp cập nhật có điều kiện đặc biệt: lấy mẫu từng biến từ điều kiện đầy đủ của nó dựa trên các giá trị hiện tại của các biến khác. Nó hoạt động khi có sẵn các phân phối có điều kiện đó và chuỗi có các thuộc tính phù hợp. Hãy tưởng tượng mục tiêu một chiều trong đó các đề xuất thường bị từ chối vì kích thước bước quá lớn. Chuỗi lặp lại các trạng thái, làm tăng khả năng tự tương quan và giảm cỡ mẫu hiệu quả. Những bước rất nhỏ có thể chấp nhận thường xuyên nhưng hãy khám phá từ từ. Có sự cân bằng giữa sự chấp nhận và chuyển động, đồng thời chẩn đoán sẽ kiểm tra xem liệu các chuỗi khác nhau có khám phá cùng một khu vực hay không. Việc loại bỏ phần khởi động ban đầu có thể làm giảm sự phụ thuộc vào việc khởi tạo, nhưng không có số lần rút cố định để đảm bảo sự hội tụ. Chạy nhiều chuỗi từ các điểm bắt đầu phân tán, kiểm tra các sơ đồ vết và kiểm tra R-hat cũng như cỡ mẫu hiệu quả để biết số lượng quan trọng. Những chẩn đoán này có thể không phát hiện được tất cả các bệnh lý, đặc biệt với các chế độ tách biệt hoặc phần đuôi được khám phá kém. Đồng thời kiểm tra các cảnh báo dành riêng cho bộ lấy mẫu và lỗi Monte Carlo. MCMC ước tính độ không đảm bảo về số từ mô phỏng hữu hạn; chúng không loại bỏ sự không chắc chắn trong mô hình hoặc dữ liệu thống kê. Báo cáo những gì đã được lấy mẫu, cách chẩn đoán và những tóm tắt sau đó đủ tin cậy để đưa ra quyết định.
Một phần sau giả định có hai tham số có hình dạng tương quan. Metropolis-Hastings đề xuất một ứng cử viên gần đó và chấp nhận ứng viên đó theo tỷ lệ mật độ mục tiêu và sự điều chỉnh đề xuất; các đề xuất bị từ chối sẽ rời khỏi chuỗi ở trạng thái hiện tại.
Bộ lấy mẫu Gibbs cập nhật một tham số bằng cách rút ra từ phân bố có điều kiện của nó với các giá trị hiện tại của tất cả các tham số khác. Việc lặp lại các cập nhật có điều kiện này sẽ tạo ra một chuỗi liên kết khi các điều kiện dành cho bộ lấy mẫu được đáp ứng.
Một nhóm chạy một số chuỗi từ các giá trị ban đầu phân tán và so sánh các biểu đồ theo dõi, R-hat được chuẩn hóa theo thứ hạng và cỡ mẫu hiệu quả số lượng lớn/đuôi. Chỉ riêng các phương tiện tương tự không được coi là bằng chứng cho thấy mọi chuỗi đều đã khám phá mục tiêu.
Hai nghìn lần rút thăm có mức độ tự tương quan cao có thể chứa ít thông tin hơn so với cùng một số lần rút thăm độc lập. Cỡ mẫu hiệu quả ước tính sự mất mát thông tin này đối với một lượng quan tâm.
Các phân tích Bayesian có thể truyền đạt độ tin cậy của mô phỏng bằng cách báo cáo số lượng chuỗi, khởi động, R-hat, ESS số lượng lớn và đuôi, lỗi Monte Carlo và cảnh báo của bộ lấy mẫu với các bản tóm tắt sau. Các nhóm nên chọn chẩn đoán gắn liền với ước tính thực tế của họ, bao gồm cả xác suất cuối cùng khi các quyết định phụ thuộc vào các sự kiện hiếm gặp. Nếu các chuỗi không đồng ý hoặc khám phá chậm, chỉ mở rộng việc lấy mẫu sau khi hiểu được hình dạng và hoạt động của bộ lấy mẫu. Chẩn đoán tự động tốt hơn có thể làm nảy sinh các vấn đề nhưng người đánh giá vẫn cần kiểm tra cấu trúc mô hình và theo dõi hành vi. Điều này làm cho các giới hạn tính toán hữu hạn hiển thị thay vì đưa ra ước tính sau như thể đó là một phép tính chính xác.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Chuỗi Markov Monte Carlo (MCMC) sử dụng các kết quả rút ra phụ thuộc từ chuỗi Markov được thiết kế cẩn thận để ước tính các kỳ vọng theo phân phối mục tiêu, thường là phân phối Bayesian. Lấy mẫu Metropolis-Hastings và Gibbs xây dựng các chuỗi như vậy, nhưng các ước tính hữu ích đòi hỏi phải chú ý đến việc trộn, cỡ mẫu hiệu quả và chẩn đoán hội tụ.
Chuỗi Markov liên kết các lần rút liên tiếp, do đó tự tương quan làm giảm thông tin độc lập được biểu thị bằng cỡ mẫu.
Tỷ lệ chấp nhận bao gồm q(hiện tại|ứng viên)/q(ứng viên|hiện tại) để điều chỉnh sự bất đối xứng của đề xuất.
Mỗi bước Gibbs rút ra từ một điều kiện có điều kiện đầy đủ đối với các giá trị hiện tại của các biến còn lại.
Các trạng thái ban đầu khác nhau giúp chẩn đoán xem các chuỗi có hội tụ và trộn lẫn trong một phân phối mục tiêu chung hay không.
ESS tóm tắt lượng thông tin mà các lần rút phụ thuộc cung cấp cho một đại lượng so với các mẫu độc lập.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Tìm kiếm cây Monte Carlo
kỹ thuật