Quiz collegato alla guida · Medio Livello
Quiz sull'intelligenza artificiale costituzionale
Esaminare le fasi originali della formazione sull'intelligenza artificiale costituzionale, con principi scritti, critica e revisione, preferenze sull'intelligenza artificiale e dati conservati sull'utilità umana.
Domanda 1 di 8
Cos'è la "costituzione" nell'intelligenza artificiale costituzionale?
Anteprima di ogni domanda8 domande
Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.
- Cos'è la "costituzione" nell'intelligenza artificiale costituzionale?
- Un contratto legale tra l'utente e l'azienda
- L'architettura della rete neurale del modello
- Un insieme scritto esplicito di principi che il modello utilizza per criticare e guidare le proprie risposte
- Un elenco di parole del vocabolario vietate
- What annotation burden does the original Constitutional AI study aim to reduce?
- Every possible source of human judgment or training data
- All model memory during inference
- The need to evaluate any model behavior
- Reliance on human labels identifying harmful outputs
- Nella fase supervisionata dell’IA costituzionale, cosa fa il modello ai propri risultati?
- Lo cancella senza spiegazione
- Lo critica rispetto a un principio e poi lo rivede per renderlo migliore
- Lo traduce in una lingua diversa
- Lo crittografa per sicurezza
- Cosa rappresenta RLAIF nella fase di apprendimento per rinforzo?
- Apprendimento per rinforzo dal feedback dell'intelligenza artificiale
- Apprendimento ricorsivo tra funzioni interne
- Framework AI a latenza ridotta
- Assegnazione casuale delle etichette nella messa a punto
- What transparency benefit can written constitutional principles provide?
- A complete display of every learned internal preference
- Proof that every future response follows all principles
- Automatic elimination of the preference model
- An inspectable statement of intended guidance used in the process
- Which broader research idea does using AI-generated supervision support?
- Eliminating every evaluation by definition
- Exploring how AI can help supervise other AI systems
- Guaranteeing zero cost for all future training
- Automatically increasing every model’s vocabulary
- Does editing a constitution document alone retroactively change the weights of an already saved trained model?
- No; a training or runtime process must use the changed guidance
- Yes; all saved checkpoints instantly rewrite themselves
- Yes; written words directly become new neural weights without execution
- No model process can ever consume written principles
- Which human comparison data did the original Constitutional AI RL experiments retain alongside AI harmlessness preferences?
- Only human GPU-temperature measurements
- No human comparison data of any kind
- Human helpfulness comparisons
- A mandatory human label for every harmlessness pair