HƯỚNG DẪN cơ bản

Mô hình thế giới và mô phỏng đã học

A world model predicts environment dynamics from observations and actions.

Nghe hướng dẫn nàyAI thuật lại · ~2 min

Trên trang nàyĐọc trong 2 phút
  1. Tổng quan
  2. Lặn sâu
  3. Triển khai trong thế giới thực
  4. Tương lai của các mô hình thế giới và các mô phỏng đã học
  5. Đưa nó vào thực tế
  6. Tiếp tục khám phá
  7. Câu hỏi thường gặp

Tổng quan

The cited World Models, DreamerV3, Genie, and GameNGen papers demonstrate different learned-simulation settings.

Lặn sâu

World models learn representations and dynamics that predict how an environment changes with actions. Ha and Schmidhuber’s 2018 work used a variational autoencoder to encode observations and a recurrent model for latent dynamics. Its CarRacing experiment used those learned features for control. In the separate DoomTakeCover experiment, the controller was trained inside the learned DoomRNN environment and then evaluated in the actual game; the authors did not train that controller directly in VizDoom. DreamerV3 reports collecting Minecraft diamonds from scratch without human demonstrations, using policy learning from imagined trajectories in its evaluated setup. Genie learns interactive environments from unlabeled internet video and can condition a generated environment on an image. GameNGen demonstrates a learned simulator for DOOM. These are different research settings, not evidence that one simulator can reliably reproduce every game or physical environment.

Triển khai trong thế giới thực

2018 World Models: the DoomTakeCover controller was trained in the learned DoomRNN dream environment and transferred to the actual game environment.

DreamerV3: the paper reports collecting Minecraft diamonds from scratch without human demonstrations under its evaluation setup.

Genie: the paper trains on unlabeled internet video and conditions generated interactive worlds on images.

GameNGen: the paper demonstrates a learned simulator for the named DOOM game.

Tương lai của các mô hình thế giới và các mô phỏng đã học

A research direction is to measure long-horizon predictive accuracy and policy transfer for the intended task. Validate imagined experience against the real environment before relying on it for safety-critical decisions.

Đưa nó vào thực tế

Tại sao nó quan trọng

  • Quyết định rõ ràng hơn. Nó giúp bạn tách biệt các tuyên bố kỹ thuật rõ ràng khỏi ngôn ngữ tiếp thị.
  • Chi phí và ngân sách. Bạn có thể đặt các câu hỏi triển khai tốt hơn trước khi chi tiền hoặc thời gian.
  • Nhóm và quy trình làm việc. Các nhóm có sự hiểu biết chung sẽ đưa ra các quyết định về sản phẩm, chính sách và học tập tốt hơn.

coi chừng

  • Các nhóm khác nhau có thể sử dụng cùng một thuật ngữ một cách khác nhau, vì vậy hãy sớm xác định phạm vi.
  • Điểm chuẩn có thể trông mạnh mẽ trong khi hiệu suất trong thế giới thực không đồng đều.
  • Việc bỏ qua các kế hoạch đánh giá và chất lượng dữ liệu thường tạo ra những kết quả mong manh.

Các bước tiếp theo

  1. Bắt đầu với một định nghĩa đơn giản về kết quả bạn cần.
  2. Chọn một số liệu thành công và một điều kiện thất bại trước khi thử nghiệm.
  3. Chạy một thử nghiệm nhỏ với dữ liệu đại diện chứ không phải một bản demo bóng bẩy.
  4. Tài liệu giúp ích cho Mô hình thế giới và Mô phỏng đã học cũng như các phương pháp đơn giản hơn sẽ tốt hơn.

Tiếp tục khám phá

Bản tin miễn phí

Nhận bản tóm tắt AI hàng ngày

Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.

Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.

Tự kiểm tra

Take the World Models and Learned Simulators quiz

Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.

Bắt đầu bài kiểm tra

Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp

Câu hỏi thường gặp

Mô hình thế giới và Mô phỏng đã học là gì?

A world model predicts environment dynamics from observations and actions. The cited World Models, DreamerV3, Genie, and GameNGen papers demonstrate different learned-simulation settings.

Công việc cốt lõi của một người mẫu thế giới là gì?

Một mô hình thế giới tìm hiểu các động lực của môi trường: từ trạng thái hiện tại và hành động, nó dự đoán quan sát tiếp theo (và thường là phần thưởng), cho phép triển khai trong tưởng tượng.

In the 2018 World Models DoomTakeCover experiment, where was the controller trained?

The authors trained the controller inside their learned DoomRNN environment and transferred it to the actual DoomTakeCover environment. This is distinct from their CarRacing feature-extraction experiment.

DreamerV3 của DeepMind đã đạt được thành tích đáng chú ý nào?

DreamerV3 reports reaching the diamond achievement in Minecraft from scratch without human demonstrations in its evaluated setup, using a learned world model for policy learning.

Thần đèn của Google làm gì?

Genie là một môi trường tương tác tổng hợp học hỏi từ video không gắn nhãn để tạo ra thế giới 2D có thể điều khiển bằng hành động.

Làm thế nào nhiều mô hình thế giới có thể xử lý được vấn đề dự đoán đối với các đầu vào có chiều cao như hình ảnh?

Các quan sát được mã hóa thành trạng thái tiềm ẩn có chiều thấp và chức năng chuyển đổi dự đoán trạng thái tiềm ẩn tiếp theo, giúp quá trình triển khai trở nên hiệu quả.