Тест, свързан с ръководство · Среден Ниво

Конституционален AI тест

Прегледайте първоначалните етапи на обучение за конституционен AI с писмени принципи, критика и ревизия, предпочитания за AI и запазени данни за полезността на хората.

Свързани ръководни пътекиКонституционен AI
Въпрос 1 на 8

Какво е „конституцията“ в Конституционния AI?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Какво е „конституцията“ в Конституционния AI?
    • Правен договор между потребителя и фирмата
    • Архитектурата на невронната мрежа на модела
    • Ясен писмен набор от принципи, които моделът използва, за да критикува и насочва собствените си отговори
    • Списък със забранени речникови думи
  2. What annotation burden does the original Constitutional AI study aim to reduce?
    • Every possible source of human judgment or training data
    • All model memory during inference
    • The need to evaluate any model behavior
    • Reliance on human labels identifying harmful outputs
  3. В контролирания етап на конституционния AI какво прави моделът със собствения си резултат?
    • Изтрива го без обяснение
    • Критикува го срещу принцип и след това го преразглежда, за да бъде по-добър
    • Превежда го на различен език
    • Криптира го за безопасност
  4. Какво представлява RLAIF в етапа на обучение за укрепване?
    • Обучение за подсилване от обратна връзка с AI
    • Рекурсивно обучение сред вътрешните функции
    • AI Framework с намалена латентност
    • Произволно присвояване на етикети при фина настройка
  5. What transparency benefit can written constitutional principles provide?
    • A complete display of every learned internal preference
    • Proof that every future response follows all principles
    • Automatic elimination of the preference model
    • An inspectable statement of intended guidance used in the process
  6. Which broader research idea does using AI-generated supervision support?
    • Eliminating every evaluation by definition
    • Exploring how AI can help supervise other AI systems
    • Guaranteeing zero cost for all future training
    • Automatically increasing every model’s vocabulary
  7. Does editing a constitution document alone retroactively change the weights of an already saved trained model?
    • No; a training or runtime process must use the changed guidance
    • Yes; all saved checkpoints instantly rewrite themselves
    • Yes; written words directly become new neural weights without execution
    • No model process can ever consume written principles
  8. Which human comparison data did the original Constitutional AI RL experiments retain alongside AI harmlessness preferences?
    • Only human GPU-temperature measurements
    • No human comparison data of any kind
    • Human helpfulness comparisons
    • A mandatory human label for every harmlessness pair