Gids-gekoppelde quiz · Moeilijk Niveau

Automatische snelle optimalisatie en DSPy-quiz

Test wat u weet over het scoren van prompts aan de hand van een metriek, hoe APE en OPRO naar instructies zoeken en hoe DSPy-handtekeningen en -optimalisaties werken.

Vraag 1 van 8

Wat moet u aanleveren om automatische promptoptimalisatie te laten werken?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat moet u aanleveren om automatische promptoptimalisatie te laten werken?
    • Only a longer prompt
    • A task, a set of example inputs and a metric to score outputs
    • A fine-tuned model and a GPU cluster
    • A list of banned words
  2. Wat speelt bij OPRO de rol van de optimizer?
    • A gradient descent step on the model's weights
    • A human prompt engineer
    • A random search with no feedback
    • An LLM given a meta-prompt listing earlier instructions and their scores
  3. Wat illustreert OPRO's resultaat 'Haal diep adem en werk stap voor stap aan dit probleem'?
    • Optimized wording can be unintuitive and specific to a model
    • Breathing instructions work for every model
    • Math tasks do not need prompts
    • OPRO only works for writing tasks
  4. Wat is een DSPy-handtekening?
    • A cryptographic key for the API
    • A model's version number
    • A declaration of a step's inputs and outputs, such as "question, context -> answer"
    • A watermark on generated text
  5. Hoe krijgt BootstrapFewShot van DSPy zijn demonstraties?
    • It downloads examples from the internet
    • It runs the program on training inputs and keeps the traces where the metric passes
    • It asks the user to label every intermediate step
    • It uses the longest available examples
  6. Why should you keep a separate held-out set when optimizing prompts?
    • To reduce the size of the prompt
    • To make the optimizer run faster
    • It is required by the API
    • To check whether the optimized prompt has overfit the training examples
  7. What were DSPy's optimizers called earlier?
    • Teleprompters
    • Compilers
    • Tokenizers
    • Retrievers
  8. What approach did APE (Automatic Prompt Engineer) take?
    • It fine-tuned model weights on instructions
    • It hand-wrote prompts from expert interviews
    • It had a model propose instructions from input-output examples and kept the highest-scoring ones
    • It removed instructions entirely