Kvíz spojený s průvodcem · Těžko úroveň
Kvíz Dual-LLM Pattern Against Prompt Injection Quiz
Testuje hranice důvěry, omezenou extrakci, ověřování, autorizaci nástrojů a limity duální obrany proti rychlému vstřikování.
Otázka 1 z 8
Který model smí provádět schválenou akci nástroje v popsaném vzoru?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Který model smí provádět schválenou akci nástroje v popsaném vzoru?
- Čtenář v karanténě
- Privilegovaný model
- Buď model, kdykoli je důvěra vysoká
- ani jedno; obojí pouze shrnuje
- Proč mohou nepřátelské instrukce vložené do stránky ovlivnit agenta s jedním modelem?
- Každá stránka je spustitelný kód
- Kontextové okno automaticky zvedne text stránky
- Model nemusí spolehlivě oddělit pokyny na stránce od pokynů k úkolu v jeho jazykovém kontextu
- Stránka během inference mění váhy modelu
- Co by měl model v karanténě vrátit, aby se snížilo riziko při předání?
- Pro úlohu je potřeba pouze úzké pole ověřené schématem
- Volání nástroje zakódované jako próza
- Široký příběh s navrhovanými akcemi
- Nezpracovaná kopie stránky
- Jaká je vhodná další kontrola aplikace po obdržení částky platby extrahované podle modelu?
- Ověřte jeho typ a povolený rozsah v běžném kódu
- Nechte to autorizovat vlastní platbu
- Přidejte jej do systémové výzvy
- Věřte tomu, protože to vyrobil druhý model
- Proč dvoumodelový design nezaručuje, že rychlé vstřikování bude zmařeno?
- Nemůže používat strukturované hodnoty
- Extraktor nebo nepřímá cesta může stále přenášet nepřátelský vliv na privilegovaný model
- Dva modely vždy sdílejí váhu
- Seznam povolených nástrojů zhoršuje vstřikování
- Jaké provozní náklady přináší přidání modelu v karanténě?
- Odstraňuje potřebu hodnotit agenta
- Eliminuje veškeré protokolování
- Přidává modelová volání a integrační práci
- Zabraňuje ověření výstupu
- Jak by měl být popsán CaMeL vzhledem k základnímu vzoru dual-LLM?
- Klasifikátor vyškolený pouze na e-mailu
- Záruka vytvořená schématem JSON
- Synonymum pro každý dvoumodelový design
- Související výzkum explicitního řízení/toku dat a schopností s odlišnými mechanismy na systémové úrovni
- Který diagram nejvíce pomáhá při kontrole, zda tato architektura chrání pracovní postup využívající nástroje?
- Mapa hranic důvěryhodnosti vstupů, kontextů, oprávnění, stavu a předání
- Seznam šablon výzev bez datových cest
- Snímek obrazovky uživatelského rozhraní
- Počítá se pouze tabulka parametrů modelu