Test legat de ghid · Mediu Nivel

Test AI constituțional

Review the original Constitutional AI training stages, with written principles, critique and revision, AI preferences, and retained human helpfulness data.

Căi de ghidare aferenteAI constituțional
Întrebare 1 de 8

Ce este „constituția” în Constituțional AI?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Ce este „constituția” în Constituțional AI?
    • Un contract legal între utilizator și companie
    • Arhitectura rețelei neuronale a modelului
    • Un set scris explicit de principii pe care modelul îl folosește pentru a critica și a-și ghida propriile răspunsuri
    • O listă de cuvinte de vocabular interzise
  2. What annotation burden does the original Constitutional AI study aim to reduce?
    • Every possible source of human judgment or training data
    • All model memory during inference
    • The need to evaluate any model behavior
    • Reliance on human labels identifying harmful outputs
  3. În etapa supravegheată a IA constituțională, ce face modelul propriei sale rezultate?
    • O șterge fără explicații
    • O critică împotriva unui principiu și apoi o revizuiește pentru a fi mai bună
    • Îl traduce într-o altă limbă
    • O criptează pentru siguranță
  4. Ce reprezintă RLAIF în etapa de întărire-învățare?
    • Învățare de consolidare din feedbackul AI
    • Învățare recursive printre funcțiile interne
    • Cadrul AI cu latență redusă
    • Atribuire aleatorie a etichetei în reglaj fin
  5. What transparency benefit can written constitutional principles provide?
    • A complete display of every learned internal preference
    • Proof that every future response follows all principles
    • Automatic elimination of the preference model
    • An inspectable statement of intended guidance used in the process
  6. Which broader research idea does using AI-generated supervision support?
    • Eliminating every evaluation by definition
    • Exploring how AI can help supervise other AI systems
    • Guaranteeing zero cost for all future training
    • Automatically increasing every model’s vocabulary
  7. Does editing a constitution document alone retroactively change the weights of an already saved trained model?
    • No; a training or runtime process must use the changed guidance
    • Yes; all saved checkpoints instantly rewrite themselves
    • Yes; written words directly become new neural weights without execution
    • No model process can ever consume written principles
  8. Which human comparison data did the original Constitutional AI RL experiments retain alongside AI harmlessness preferences?
    • Only human GPU-temperature measurements
    • No human comparison data of any kind
    • Human helpfulness comparisons
    • A mandatory human label for every harmlessness pair