Gids-gekoppelde quiz · Middelmatig Niveau

Constitutionele AI-quiz

Bekijk de oorspronkelijke constitutionele AI-trainingsfasen, met schriftelijke principes, kritiek en herziening, AI-voorkeuren en bewaarde gegevens over menselijke behulpzaamheid.

Gerelateerde gidspadenConstitutionele AI
Vraag 1 van 8

Wat is de ‘grondwet’ in Constitutionele AI?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat is de ‘grondwet’ in Constitutionele AI?
    • Een juridisch contract tussen de gebruiker en het bedrijf
    • De neurale netwerkarchitectuur van het model
    • Een expliciet geschreven reeks principes die het model gebruikt om zijn eigen reacties te bekritiseren en te sturen
    • Een lijst met verboden woordenschatwoorden
  2. What annotation burden does the original Constitutional AI study aim to reduce?
    • Every possible source of human judgment or training data
    • All model memory during inference
    • The need to evaluate any model behavior
    • Reliance on human labels identifying harmful outputs
  3. Wat doet het model in de gecontroleerde fase van Constitutionele AI met zijn eigen output?
    • Verwijdert het zonder uitleg
    • Bekritiseert het op basis van een principe en herziet het vervolgens om het beter te maken
    • Vertaalt het in een andere taal
    • Versleutelt het voor de veiligheid
  4. Waar staat RLAIF voor in de fase van versterkend leren?
    • Versterking van het leren van AI-feedback
    • Recursief leren tussen interne functies
    • AI-framework met verminderde latentie
    • Willekeurige labeltoewijzing bij fijnafstemming
  5. What transparency benefit can written constitutional principles provide?
    • A complete display of every learned internal preference
    • Proof that every future response follows all principles
    • Automatic elimination of the preference model
    • An inspectable statement of intended guidance used in the process
  6. Which broader research idea does using AI-generated supervision support?
    • Eliminating every evaluation by definition
    • Exploring how AI can help supervise other AI systems
    • Guaranteeing zero cost for all future training
    • Automatically increasing every model’s vocabulary
  7. Does editing a constitution document alone retroactively change the weights of an already saved trained model?
    • No; a training or runtime process must use the changed guidance
    • Yes; all saved checkpoints instantly rewrite themselves
    • Yes; written words directly become new neural weights without execution
    • No model process can ever consume written principles
  8. Which human comparison data did the original Constitutional AI RL experiments retain alongside AI harmlessness preferences?
    • Only human GPU-temperature measurements
    • No human comparison data of any kind
    • Human helpfulness comparisons
    • A mandatory human label for every harmlessness pair