Mit dem Guide verknüpftes Quiz · Mittel Ebene

Schnelles Tuning-Quiz

Überprüfen Sie Soft Prompts auf der Eingabeebene, die Einrichtung des eingefrorenen Modells und die maßstabsabhängigen Ergebnisse, die für die Prompt-Optimierung gemeldet werden.

Verwandte FührungspfadePrompte Abstimmung
Frage 1 von 8

Was ist ein „Soft Prompt“ bei der Prompt-Optimierung?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was ist ein „Soft Prompt“ bei der Prompt-Optimierung?
    • Kontinuierliche Einbettungsvektoren gelernt, die nicht auf echte Wörter abgebildet werden müssen
    • Eine höflich formulierte Textanweisung
    • Eine kleinere destillierte Kopie des Modells
    • Eine Reihe eingefrorener Ausgabeprotokolle
  2. Wo fügt Prompt Tuning seine trainierbaren Vektoren hinzu?
    • Auf jeder Transformatorebene
    • Nur auf der Eingabeeinbettungsebene
    • Nur auf der Ausgabeebene
    • Innerhalb des Optimiererstatus
  3. Welchen überraschenden Effekt hat das Originalpapier in Bezug auf den Modellmaßstab hervorgehoben?
    • Je größer die Modelle werden, desto schlechter wird die schnelle Abstimmung
    • Die Skalierung hat keinen Einfluss auf die sofortige Stimmung
    • Wenn die Modelle größer werden, erreicht die schnelle Abstimmung die volle Feinabstimmungsqualität
    • Größere Modelle können nicht mehr zeitnah abgestimmt werden
  4. Wer hat Prompt Tuning eingeführt?
    • DeepMind im Jahr 2016
    • Anthropic im Jahr 2023
    • Microsoft im Jahr 2019
    • Forscher bei Google (Lester, Al-Rfou, Constant) im Jahr 2021
  5. Wie ermöglicht Prompt Tuning die Erfüllung vieler Aufgaben mit einem Modell?
    • Jede Aufgabe verwendet ihre eigene kleine Soft-Eingabeaufforderung, während das Modell eingefroren bleibt
    • Es trainiert das gesamte Modell für jede Anfrage neu
    • Es löscht ungenutzte Aufgaben aus den Gewichtungen
    • Es erfordert eine separate GPU pro Aufgabe
  6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
    • As a replacement for frozen language models
    • As a simpler related method that the paper compares with prefix tuning
    • As a tokenizer with no trainable parameters
    • As a method that updates every model weight
  7. Which model family did Lester and colleagues use to study prompt tuning across scales?
    • WaveNet
    • AlphaFold2
    • T5
    • Isolationswald
  8. How are soft prompts optimized in prompt tuning?
    • By changing all model weights for each task
    • By replacing embeddings with hard-coded words only
    • By training a new tokenizer for every example
    • By backpropagation through a frozen language model to update the prompt vectors