PRZEWODNIK techniczny

Agent i biblioteka umiejętności Voyager Minecraft

Voyager to agent Minecraft oparty na LLM, który uczy się biblioteki umiejętności wielokrotnego użytku, pozwalając mu rozwiązywać nowe zadania w drodze uczenia się przez całe życie, zamiast zaczynać za każdym razem od zera.

2 minuty czytaniaOstatnia aktualizacja

Głębokie nurkowanie

Zbudowany przez firmę NVIDIA, Caltech i współpracowników (Wang i in.), Voyager wykorzystuje GPT-4 jako swój mózg i traktuje umiejętności jako wykonywalny kod JavaScript kontrolujący bota Minecrafta. Obsługuje trzy współdziałające komponenty: automatyczny program nauczania, który proponuje coraz trudniejsze cele maksymalizujące eksplorację, iteracyjny mechanizm podpowiedzi, który pisze kod, uruchamia go w grze, odczytuje błędy i informacje zwrotne ze środowiska oraz przeprowadza autodebugowanie do czasu, aż umiejętność zadziała, oraz bibliotekę umiejętności, w której każda zweryfikowana umiejętność jest przechowywana i indeksowana poprzez osadzenie opisu w języku naturalnym. Ponieważ nowe umiejętności składają się z wcześniej zapisanych, ich możliwości z czasem się zwiększają. Voyager zdobywał znacznie więcej unikalnych przedmiotów, pokonywał większe odległości i odblokowywał kamienie milowe w drzewie technologicznym znacznie szybciej niż poprzedni agenci, a jego wyuczone umiejętności zostały przeniesione do nowych światów.

Wgląd techniczny

Voyager uczy się w kontekście, a nie poprzez zmianę wagi modelu. Umiejętność to zweryfikowany fragment kodu; jest zapisywany z osadzonym opisem, dzięki czemu w przypadku pojawienia się nowego zadania można odzyskać istotne semantycznie umiejętności i dostarczyć je jako elementy składowe. Pętla samodoskonalenia to: wygeneruj kod, wykonaj, obserwuj błędy i stan gry, poproś modela o naprawienie tego, powtórz. Dzięki temu metoda prób i błędów staje się trwałymi, dającymi się komponować programami, a nie efemerycznym rozumowaniem.

Wpływ strategiczny

Koszt i budżet

Decyzje dotyczące architektury wpływają na wydajność i koszty operacyjne przez lata.

Jaśniejsze decyzje

Edukacja techniczna pomaga zespołom wybrać odpowiedni stos, a nie tylko najnowszy.

Kontrola jakości

Lepsze wybory inżynieryjne zmniejszają liczbę incydentów związanych z niezawodnością w produkcji.

Przyszłość agenta i biblioteki umiejętności Voyager Minecraft

Agenci bibliotek umiejętności wskazują na systemy przechowujące zweryfikowane umiejętności wielokrotnego użytku, które w miarę upływu czasu stają się coraz bardziej wydajne, co jest ucieleśnieniem uczenia się przez całe życie. Można się spodziewać, że biblioteki te wykroczą poza gry i obejmą robotykę, automatyzację oprogramowania i asystentów cyfrowych, a wyszukiwanie, skład i kontrole bezpieczeństwa w zakresie wyuczonych umiejętności staną się podstawową infrastrukturą. Najważniejsze otwarte pytania dotyczą usuwania złych umiejętności, udostępniania bibliotek pomiędzy agentami i gwarantowania, że ​​ułożone zachowania pozostaną niezawodne.

Implementacja w świecie rzeczywistym

Autonomiczne przechodzenie przez drzewo technologiczne Minecrafta (drewno, kamień, żelazo, narzędzia diamentowe) poprzez komponowanie wyuczonych umiejętności.

Pisanie i samodzielne debugowanie umiejętności kodowania „wydobywaj i twórz”, a następnie używaj jej ponownie za każdym razem, gdy to podzadanie się powtórzy.

Odzyskiwanie wcześniej zapisanej umiejętności „walki z zombie” poprzez osadzenie jej opisu, gdy pojawi się podobne zagrożenie.

Przenoszenie wyuczonej biblioteki umiejętności do świeżo wygenerowanego świata Minecraft, aby szybciej uruchamiać nowe zadania.

Zagrożenia i poręcze

Optymalizacja jednego testu porównawczego może ukryć szersze słabości systemu.

Koszty infrastruktury i utrzymania są często niedoszacowane.

W miarę jak systemy stają się coraz bardziej złożone, luki w bezpieczeństwie i obserwowalności mogą się zwiększać.

Plan wdrożenia

1

Przed wdrożeniem zdefiniuj docelowe opóźnienia, jakość i koszty.

2

Test porównawczy w realistycznych warunkach obciążenia i danych.

3

Monitorowanie przyrządu pod kątem błędów, dryftu i wpływu użytkownika.

4

Przed skalowaniem przygotuj ścieżki wycofywania zmian i reakcji na incydenty.

Odkrywaj dalej

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Voyager Minecraft Agent and Skill Library quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Rozpocznij quiz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Następny poradnik

Pamięć epizodyczna i semantyczna

Często zadawane pytania

What is Voyager Minecraft Agent and Skill Library?

Voyager to agent Minecraft oparty na LLM, który uczy się biblioteki umiejętności wielokrotnego użytku, pozwalając mu rozwiązywać nowe zadania w drodze uczenia się przez całe życie, zamiast zaczynać za każdym razem od zera.

Jak Voyager z biegiem czasu poprawia swoje możliwości?

Voyager uczy się bez aktualizacji gradientowych: przechowuje zweryfikowane umiejętności w postaci kodu i buduje nowe umiejętności na podstawie starych, dzięki czemu umiejętności są łączone w kontekście.

W jakiej formie reprezentowane są umiejętności Voyagera?

Każda umiejętność to wykonywalny fragment kodu, który wysyła działania do bota Minecrafta, dzięki czemu umiejętności można uruchamiać i tworzyć.

Jaka jest rola automatycznego programu nauczania Voyagera?

Automatyczny program nauczania sugeruje coraz bardziej wymagające zadania, dostosowane do aktualnego stanu agenta, zachęcając do otwartej eksploracji.

W jaki sposób Voyager odzyskuje odpowiednią umiejętność, gdy staje przed nowym zadaniem?

Umiejętności są indeksowane poprzez osadzenie ich opisu w języku naturalnym, dzięki czemu umiejętności istotne semantycznie są odzyskiwane jako elementy składowe nowych zadań.

Co robi iteracyjna pętla podpowiedzi Voyagera, gdy wygenerowany kod nie powiedzie się?

Voyager wykonuje swój kod, obserwuje błędy wykonania i informacje zwrotne o stanie gry, po czym prosi model o naprawienie kodu, powtarzając tę ​​czynność, aż umiejętność zadziała.