Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Câu đố AI về hiến pháp

Xem lại các giai đoạn đào tạo AI theo Hiến pháp ban đầu, với các nguyên tắc bằng văn bản, phê bình và sửa đổi, các ưu tiên về AI cũng như dữ liệu hữu ích của con người được lưu giữ.

Đường dẫn hướng dẫn liên quanAI hiến pháp
Câu hỏi 1 của 8

'Hiến pháp' trong AI Hiến pháp là gì?

Xem trước mọi câu hỏi8 câu hỏi

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

  1. 'Hiến pháp' trong AI Hiến pháp là gì?
    • Hợp đồng pháp lý giữa người dùng và công ty
    • Kiến trúc mạng nơ-ron của mô hình
    • Một bộ nguyên tắc rõ ràng bằng văn bản mà mô hình sử dụng để phê bình và hướng dẫn các phản hồi của chính nó
    • Danh sách các từ vựng bị cấm
  2. What annotation burden does the original Constitutional AI study aim to reduce?
    • Every possible source of human judgment or training data
    • All model memory during inference
    • The need to evaluate any model behavior
    • Reliance on human labels identifying harmful outputs
  3. Trong giai đoạn được giám sát của AI Hiến pháp, mô hình này sẽ làm gì với kết quả đầu ra của chính nó?
    • Xóa nó mà không cần giải thích
    • Phê bình nó trái với một nguyên tắc và sau đó sửa đổi nó để tốt hơn
    • Dịch nó sang một ngôn ngữ khác
    • Mã hóa nó để đảm bảo an toàn
  4. RLAIF có nghĩa là gì trong giai đoạn học tăng cường?
    • Học tập tăng cường từ phản hồi AI
    • Học đệ quy giữa các hàm nội bộ
    • Khung AI có độ trễ giảm
    • Gán nhãn ngẫu nhiên trong tinh chỉnh
  5. What transparency benefit can written constitutional principles provide?
    • A complete display of every learned internal preference
    • Proof that every future response follows all principles
    • Automatic elimination of the preference model
    • An inspectable statement of intended guidance used in the process
  6. Which broader research idea does using AI-generated supervision support?
    • Eliminating every evaluation by definition
    • Exploring how AI can help supervise other AI systems
    • Guaranteeing zero cost for all future training
    • Automatically increasing every model’s vocabulary
  7. Does editing a constitution document alone retroactively change the weights of an already saved trained model?
    • No; a training or runtime process must use the changed guidance
    • Yes; all saved checkpoints instantly rewrite themselves
    • Yes; written words directly become new neural weights without execution
    • No model process can ever consume written principles
  8. Which human comparison data did the original Constitutional AI RL experiments retain alongside AI harmlessness preferences?
    • Only human GPU-temperature measurements
    • No human comparison data of any kind
    • Human helpfulness comparisons
    • A mandatory human label for every harmlessness pair