HƯỚNG DẪN KỸ THUẬT

Thư viện kỹ năng và đặc vụ Minecraft Voyager

Voyager là một tác nhân Minecraft được hỗ trợ bởi LLM, học một thư viện kỹ năng có thể tái sử dụng, cho phép nó giải quyết các nhiệm vụ mới thông qua việc học tập suốt đời thay vì mỗi lần phải bắt đầu lại từ đầu.

Đọc trong 2 phútCập nhật lần cuối

Lặn sâu

Được xây dựng bởi NVIDIA, Caltech và các cộng tác viên (Wang và cộng sự), Voyager sử dụng GPT-4 làm bộ não và xử lý các kỹ năng dưới dạng mã JavaScript thực thi điều khiển bot Minecraft. Nó chạy ba thành phần tương tác: một chương trình giảng dạy tự động đề xuất các mục tiêu ngày càng khó khăn để tối đa hóa khả năng khám phá, một cơ chế nhắc nhở lặp đi lặp lại viết mã, chạy mã trong trò chơi, đọc lỗi và phản hồi môi trường cũng như tự sửa lỗi cho đến khi kỹ năng hoạt động và thư viện kỹ năng trong đó mỗi kỹ năng đã được xác minh được lưu trữ và lập chỉ mục bằng cách nhúng mô tả bằng ngôn ngữ tự nhiên. Bởi vì các kỹ năng mới được hình thành từ những kỹ năng đã được lưu trữ trước đó nên khả năng sẽ tăng dần theo thời gian. Du hành thu được nhiều vật phẩm độc đáo hơn, di chuyển quãng đường dài hơn và mở khóa các cột mốc của cây công nghệ nhanh hơn nhiều so với các đặc vụ trước đó và các kỹ năng học được của nó được chuyển sang thế giới mới.

Hiểu biết kỹ thuật

Du hành học trong bối cảnh chứ không phải bằng cách thay đổi trọng số mô hình. Kỹ năng là một đoạn mã đã được xác minh; nó được lưu bằng cách nhúng mô tả của nó để khi một nhiệm vụ mới phát sinh, các kỹ năng liên quan đến ngữ nghĩa sẽ được truy xuất và cung cấp dưới dạng các khối xây dựng. Vòng lặp tự cải tiến là: tạo mã, thực thi, quan sát lỗi và trạng thái trò chơi, yêu cầu mô hình sửa lỗi, lặp lại. Điều này biến việc thử và sai thành các chương trình bền bỉ, có thể kết hợp được thay vì lập luận phù du.

Tác động chiến lược

Chi phí và ngân sách

Các quyết định về kiến ​​trúc sẽ thúc đẩy hiệu suất và chi phí vận hành trong nhiều năm.

Quyết định rõ ràng hơn

Giáo dục kỹ thuật giúp các nhóm chọn nhóm phù hợp chứ không chỉ nhóm mới nhất.

Kiểm soát chất lượng

Lựa chọn kỹ thuật tốt hơn làm giảm sự cố về độ tin cậy trong sản xuất.

Tương lai của Thư viện kỹ năng và đặc vụ Minecraft Voyager

Các tác nhân thư viện kỹ năng hướng tới các hệ thống lưu trữ các khả năng có thể tái sử dụng, đã được xác minh và phát triển nhiều khả năng hơn khi chúng hoạt động lâu hơn, một hiện thân của việc học tập suốt đời. Mong đợi những thư viện này sẽ mở rộng ra ngoài trò chơi sang lĩnh vực robot, tự động hóa phần mềm và trợ lý kỹ thuật số, với khả năng truy xuất, tổng hợp và kiểm tra an toàn đối với các kỹ năng đã học trở thành cơ sở hạ tầng cốt lõi. Các câu hỏi mở lớn là loại bỏ các kỹ năng xấu, chia sẻ thư viện giữa các tổng đài viên và đảm bảo rằng các hành vi sáng suốt luôn đáng tin cậy.

Triển khai trong thế giới thực

Tự động phát triển thông qua cây công nghệ của Minecraft (các công cụ từ gỗ đến đá, sắt đến kim cương) bằng cách tổng hợp các kỹ năng đã học.

Viết và tự sửa lỗi kỹ năng mã 'khai thác và chế tạo', sau đó sử dụng lại nó bất cứ khi nào nhiệm vụ phụ đó tái diễn.

Lấy lại kỹ năng 'chiến đấu với zombie' đã được lưu trữ trước đó thông qua việc nhúng mô tả của nó khi mối đe dọa tương tự xuất hiện.

Chuyển thư viện kỹ năng đã học sang thế giới Minecraft mới được tạo để khởi động các nhiệm vụ mới nhanh hơn.

Rủi ro & lan can

Tối ưu hóa một điểm chuẩn có thể che giấu những điểm yếu của hệ thống rộng hơn.

Chi phí cơ sở hạ tầng và bảo trì thường được đánh giá thấp.

Khoảng cách về bảo mật và khả năng quan sát có thể tăng lên khi hệ thống trở nên phức tạp hơn.

Lộ trình thực hiện

1

Xác định các mục tiêu về độ trễ, chất lượng và chi phí trước khi triển khai.

2

Điểm chuẩn trong điều kiện tải và dữ liệu thực tế.

3

Giám sát thiết bị về lỗi, độ lệch và tác động của người dùng.

4

Chuẩn bị đường dẫn khôi phục và ứng phó sự cố trước khi mở rộng quy mô.

Tiếp tục khám phá

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Voyager Minecraft Agent and Skill Library quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Bắt đầu bài kiểm tra

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Hướng dẫn tiếp theo

Bộ nhớ tác nhân theo giai đoạn và ngữ nghĩa

Câu hỏi thường gặp

What is Voyager Minecraft Agent and Skill Library?

Voyager là một tác nhân Minecraft được hỗ trợ bởi LLM, học một thư viện kỹ năng có thể tái sử dụng, cho phép nó giải quyết các nhiệm vụ mới thông qua việc học tập suốt đời thay vì mỗi lần phải bắt đầu lại từ đầu.

Voyager cải thiện khả năng của nó theo thời gian như thế nào?

Du hành học mà không cần cập nhật độ dốc: nó lưu trữ các kỹ năng đã được xác minh dưới dạng mã và xây dựng các kỹ năng mới từ những kỹ năng cũ, do đó khả năng sẽ được kết hợp trong ngữ cảnh.

Các kỹ năng của Du hành được thể hiện dưới hình thức nào?

Mỗi kỹ năng là một đoạn mã thực thi nhằm đưa ra các hành động cho bot Minecraft, giúp các kỹ năng có thể chạy được và có thể tổng hợp được.

Vai trò của chương trình giảng dạy tự động của Voyager là gì?

Chương trình giảng dạy tự động gợi ý các nhiệm vụ ngày càng có tính thách thức phù hợp với trạng thái hiện tại của tác nhân, thúc đẩy hoạt động khám phá có kết thúc mở.

Làm cách nào để Du hành lấy lại được kỹ năng liên quan khi đối mặt với một nhiệm vụ mới?

Các kỹ năng được lập chỉ mục bằng cách nhúng mô tả ngôn ngữ tự nhiên của chúng, do đó các kỹ năng có liên quan về mặt ngữ nghĩa sẽ được truy xuất dưới dạng các khối xây dựng cho các nhiệm vụ mới.

Vòng lặp nhắc nhở lặp đi lặp lại của Voyager làm gì khi mã được tạo không thành công?

Voyager thực thi mã của nó, quan sát các lỗi thực thi và phản hồi trạng thái trò chơi, đồng thời nhắc mô hình sửa mã, lặp lại cho đến khi kỹ năng hoạt động.