แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ

แบบทดสอบการตีความกลไก

สำรวจวิธีที่นักวิจัยตรวจสอบภายในเครือข่ายประสาทเทียมด้วยวงจร คุณสมบัติ และการแทรกแซงโดยยังคงรักษาขีดจำกัดปัจจุบันไว้

เส้นทางแนะนำที่เกี่ยวข้องการตีความเชิงกลไก
คำถาม 1 ของ 8

เป้าหมายหลักของการตีความเชิงกลไกคืออะไร?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. เป้าหมายหลักของการตีความเชิงกลไกคืออะไร?
    • เพื่อย้อนกลับวิศวกรรมการคำนวณภายในของเครือข่ายให้เป็นอัลกอริธึมที่มนุษย์เข้าใจได้
    • เพื่อให้โมเดลฝึกได้เร็วขึ้น
    • เพื่อบีบอัดโมเดลให้กับอุปกรณ์มือถือ
    • เพื่อจัดอันดับคุณสมบัติอินพุตตามความสำคัญเท่านั้น
  2. 'การซ้อนทับ' หมายถึงอะไรในโครงข่ายประสาทเทียม
    • ซ้อนหลายรุ่นเข้าด้วยกัน
    • นำเสนอคุณลักษณะมากกว่ามิติข้อมูลโดยใช้ทิศทางที่ทับซ้อนกัน
    • ใช้งานโมเดลบน GPU หลายตัว
    • การคาดการณ์เฉลี่ยจากการวิ่งที่แตกต่างกัน
  3. ตัวเข้ารหัสอัตโนมัติแบบกระจัดกระจายใช้ในการตีความเชิงกลไกเพื่อ...
    • สร้างข้อมูลการฝึกอบรม
    • เร่งการอนุมาน
    • แยกการเปิดใช้งาน polysemantic ให้สะอาดขึ้นและมีคุณสมบัติที่สามารถตีความได้มากขึ้น
    • เข้ารหัสน้ำหนักโมเดล
  4. 'หัวเหนี่ยวนำ' คืออะไร?
    • ตัวเร่งฮาร์ดแวร์สำหรับหม้อแปลงไฟฟ้า
    • เลเยอร์เอาท์พุตที่สร้างข้อความ
    • ฟังก์ชันการสูญเสียชนิดหนึ่ง
    • Attention head ที่คัดลอกและดำเนินการรูปแบบโทเค็นซ้ำๆ ต่อไป ซึ่งสนับสนุนการเรียนรู้ในบริบท
  5. นักวิจัยยืนยันได้อย่างไรว่าวงจรที่ค้นพบทำการคำนวณตามสมมติฐานอย่างแท้จริง
    • ผ่านการแทรกแซงเชิงสาเหตุ เช่น การระเหยหรือการแก้ไขการเปิดใช้งานเฉพาะ
    • โดยการตรวจสอบความแม่นยำในการฝึกโมเดล
    • โดยการนับจำนวนพารามิเตอร์
    • โดยการวัดเวลาแฝงของการอนุมาน
  6. What is a cautious safety-related reason to study mechanistic interpretability?
    • It proves every hidden behavior can already be found
    • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
    • It guarantees a model will follow any requested correction
    • It replaces evaluations of model behavior in deployment
  7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
    • The entire model’s computation is now explained
    • The feature is guaranteed to be a single neuron
    • A candidate feature correlates with those examples and needs further testing to establish its role
    • The feature causes every bridge-related output
  8. Why test a candidate feature across varied prompts and examples?
    • Proof that the model has no other relevant circuits
    • A guarantee that the explanation generalizes to every prompt
    • A replacement for inspecting model behavior
    • To check whether the observed activation pattern generalizes beyond selected examples