Kvíz spojený s průvodcem · Těžko úroveň

Kvíz Dual-LLM Pattern Against Prompt Injection Quiz

Testuje hranice důvěry, omezenou extrakci, ověřování, autorizaci nástrojů a limity duální obrany proti rychlému vstřikování.

Otázka 1 z 8

Který model smí provádět schválenou akci nástroje v popsaném vzoru?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Který model smí provádět schválenou akci nástroje v popsaném vzoru?
    • Čtenář v karanténě
    • Privilegovaný model
    • Buď model, kdykoli je důvěra vysoká
    • ani jedno; obojí pouze shrnuje
  2. Proč mohou nepřátelské instrukce vložené do stránky ovlivnit agenta s jedním modelem?
    • Každá stránka je spustitelný kód
    • Kontextové okno automaticky zvedne text stránky
    • Model nemusí spolehlivě oddělit pokyny na stránce od pokynů k úkolu v jeho jazykovém kontextu
    • Stránka během inference mění váhy modelu
  3. Co by měl model v karanténě vrátit, aby se snížilo riziko při předání?
    • Pro úlohu je potřeba pouze úzké pole ověřené schématem
    • Volání nástroje zakódované jako próza
    • Široký příběh s navrhovanými akcemi
    • Nezpracovaná kopie stránky
  4. Jaká je vhodná další kontrola aplikace po obdržení částky platby extrahované podle modelu?
    • Ověřte jeho typ a povolený rozsah v běžném kódu
    • Nechte to autorizovat vlastní platbu
    • Přidejte jej do systémové výzvy
    • Věřte tomu, protože to vyrobil druhý model
  5. Proč dvoumodelový design nezaručuje, že rychlé vstřikování bude zmařeno?
    • Nemůže používat strukturované hodnoty
    • Extraktor nebo nepřímá cesta může stále přenášet nepřátelský vliv na privilegovaný model
    • Dva modely vždy sdílejí váhu
    • Seznam povolených nástrojů zhoršuje vstřikování
  6. Jaké provozní náklady přináší přidání modelu v karanténě?
    • Odstraňuje potřebu hodnotit agenta
    • Eliminuje veškeré protokolování
    • Přidává modelová volání a integrační práci
    • Zabraňuje ověření výstupu
  7. Jak by měl být popsán CaMeL vzhledem k základnímu vzoru dual-LLM?
    • Klasifikátor vyškolený pouze na e-mailu
    • Záruka vytvořená schématem JSON
    • Synonymum pro každý dvoumodelový design
    • Související výzkum explicitního řízení/toku dat a schopností s odlišnými mechanismy na systémové úrovni
  8. Který diagram nejvíce pomáhá při kontrole, zda tato architektura chrání pracovní postup využívající nástroje?
    • Mapa hranic důvěryhodnosti vstupů, kontextů, oprávnění, stavu a předání
    • Seznam šablon výzev bez datových cest
    • Snímek obrazovky uživatelského rozhraní
    • Počítá se pouze tabulka parametrů modelu