Quiz lié à un guide · Moyen Niveau

Quiz sur les attaques par injection rapide

Passez en revue les limites de confiance des instructions et l’injection indirecte, avec le confinement des outils, la formation hiérarchique, l’interruption des tâches et les risques d’entrée multimodale.

Chemins de guidage associésAttaques par injection rapides
Question 1 de 8

Which trust failure can a prompt-injection attempt exploit?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Which trust failure can a prompt-injection attempt exploit?
    • Adversarial instructions in task material being followed as authoritative commands
    • A requirement that every model encrypt its entire context
    • A guarantee that all models have administrator privileges
    • A requirement that every model always obey every input
  2. En quoi l’injection rapide INDIRECTE diffère-t-elle de l’injection directe ?
    • Cela ne fonctionne que sur les modèles d'image
    • Cela nécessite un accès physique au serveur
    • Les instructions malveillantes résident dans une source externe que le modèle lit ultérieurement, et non dans le propre message de l'utilisateur.
    • Elle est réalisée volontairement par le développeur
  3. Which availability goal does the cited indirect-injection taxonomy include?
    • Only stealing an entire training corpus in every attack
    • Inhibiting useful responses or disrupting a search task
    • Only changing a GPU’s physical memory size
    • Only improving all authorized search results
  4. How can least-privilege tool permissions limit a successful injection’s consequences?
    • They prove every allowed operation is harmless in every context
    • They guarantee the model never proposes an injected action
    • They remove the need for any output or action validation
    • They restrict the operations and resources available to the workflow
  5. What behavior does the Instruction Hierarchy study aim to train?
    • Sorting all retrieved words alphabetically
    • Treating every webpage as more authoritative than the developer
    • Following privileged instructions over conflicting lower-priority content
    • Encrypting the model vocabulary with an image key
  6. Pourquoi l’injection rapide devient-elle plus dangereuse à mesure que les agents d’IA acquièrent des outils ?
    • Un agent trompé peut désormais prendre des mesures concrètes, comme envoyer un e-mail, exécuter du code ou divulguer des données.
    • Les agents fonctionnent plus lentement avec les outils
    • Les outils font oublier au modèle sa formation
    • Les outils doublent la perplexité du modèle
  7. Why should a prompt-injection evaluation cover images when an application accepts multimodal input?
    • Images guarantee that all instructions are trustworthy
    • An image can contain only one numerical scalar
    • Plain-text testing automatically covers every image input
    • Adversarial instructions can be embedded in an image channel
  8. Why is merely quoting an attack instruction not enough to establish that an application was compromised?
    • Every quoted string necessarily changes system permissions
    • The text may be legitimate analysis material and may never be executed as an instruction
    • An attacker must modify all original model weights first
    • No authorized user can ever discuss a security attack