Questionário vinculado ao guia · Médio Nível

Questionário Constitucional de IA

Revise os estágios originais do treinamento constitucional em IA, com princípios escritos, crítica e revisão, preferências de IA e dados retidos de utilidade humana.

Caminhos de guia relacionadosIA Constitucional
Pergunta 1 de 8

Qual é a 'constituição' na IA Constitucional?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. Qual é a 'constituição' na IA Constitucional?
    • Um contrato legal entre o usuário e a empresa
    • A arquitetura da rede neural do modelo
    • Um conjunto explícito de princípios escritos que o modelo usa para criticar e orientar suas próprias respostas
    • Uma lista de palavras do vocabulário banidas
  2. What annotation burden does the original Constitutional AI study aim to reduce?
    • Every possible source of human judgment or training data
    • All model memory during inference
    • The need to evaluate any model behavior
    • Reliance on human labels identifying harmful outputs
  3. Na fase supervisionada da IA Constitucional, o que o modelo faz com o seu próprio resultado?
    • Exclui sem explicação
    • Critica-o contra um princípio e depois o revisa para melhor
    • Traduz para um idioma diferente
    • Criptografa para segurança
  4. O que significa RLAIF na fase de aprendizagem por reforço?
    • Aprendizagem por reforço com feedback de IA
    • Aprendizagem recursiva entre funções internas
    • Estrutura de IA de latência reduzida
    • Atribuição aleatória de rótulos em ajuste fino
  5. What transparency benefit can written constitutional principles provide?
    • A complete display of every learned internal preference
    • Proof that every future response follows all principles
    • Automatic elimination of the preference model
    • An inspectable statement of intended guidance used in the process
  6. Which broader research idea does using AI-generated supervision support?
    • Eliminating every evaluation by definition
    • Exploring how AI can help supervise other AI systems
    • Guaranteeing zero cost for all future training
    • Automatically increasing every model’s vocabulary
  7. Does editing a constitution document alone retroactively change the weights of an already saved trained model?
    • No; a training or runtime process must use the changed guidance
    • Yes; all saved checkpoints instantly rewrite themselves
    • Yes; written words directly become new neural weights without execution
    • No model process can ever consume written principles
  8. Which human comparison data did the original Constitutional AI RL experiments retain alongside AI harmlessness preferences?
    • Only human GPU-temperature measurements
    • No human comparison data of any kind
    • Human helpfulness comparisons
    • A mandatory human label for every harmlessness pair