Gids-gekoppelde quiz · Middelmatig Niveau
Constitutionele AI-quiz
Bekijk de oorspronkelijke constitutionele AI-trainingsfasen, met schriftelijke principes, kritiek en herziening, AI-voorkeuren en bewaarde gegevens over menselijke behulpzaamheid.
Vraag 1 van 8
Wat is de ‘grondwet’ in Constitutionele AI?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat is de ‘grondwet’ in Constitutionele AI?
- Een juridisch contract tussen de gebruiker en het bedrijf
- De neurale netwerkarchitectuur van het model
- Een expliciet geschreven reeks principes die het model gebruikt om zijn eigen reacties te bekritiseren en te sturen
- Een lijst met verboden woordenschatwoorden
- What annotation burden does the original Constitutional AI study aim to reduce?
- Every possible source of human judgment or training data
- All model memory during inference
- The need to evaluate any model behavior
- Reliance on human labels identifying harmful outputs
- Wat doet het model in de gecontroleerde fase van Constitutionele AI met zijn eigen output?
- Verwijdert het zonder uitleg
- Bekritiseert het op basis van een principe en herziet het vervolgens om het beter te maken
- Vertaalt het in een andere taal
- Versleutelt het voor de veiligheid
- Waar staat RLAIF voor in de fase van versterkend leren?
- Versterking van het leren van AI-feedback
- Recursief leren tussen interne functies
- AI-framework met verminderde latentie
- Willekeurige labeltoewijzing bij fijnafstemming
- What transparency benefit can written constitutional principles provide?
- A complete display of every learned internal preference
- Proof that every future response follows all principles
- Automatic elimination of the preference model
- An inspectable statement of intended guidance used in the process
- Which broader research idea does using AI-generated supervision support?
- Eliminating every evaluation by definition
- Exploring how AI can help supervise other AI systems
- Guaranteeing zero cost for all future training
- Automatically increasing every model’s vocabulary
- Does editing a constitution document alone retroactively change the weights of an already saved trained model?
- No; a training or runtime process must use the changed guidance
- Yes; all saved checkpoints instantly rewrite themselves
- Yes; written words directly become new neural weights without execution
- No model process can ever consume written principles
- Which human comparison data did the original Constitutional AI RL experiments retain alongside AI harmlessness preferences?
- Only human GPU-temperature measurements
- No human comparison data of any kind
- Human helpfulness comparisons
- A mandatory human label for every harmlessness pair