แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ยาก ระดับ

JAX และ XLA สำหรับแบบทดสอบการเรียนรู้ของเครื่อง

เชื่อมต่อการแปลง JAX กับการสร้างความแตกต่างอัตโนมัติ การทำให้เป็นเวกเตอร์ การคอมไพล์ และการดำเนินการแบบขนาน ในขณะเดียวกันก็คำนึงถึงพฤติกรรมการติดตามด้วย

เส้นทางแนะนำที่เกี่ยวข้องJax และ Xla สำหรับการเรียนรู้ของเครื่อง
คำถาม 1 ของ 8

การแปลง JAX ใดที่คำนวณการไล่ระดับสีของฟังก์ชันหาอนุพันธ์

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. การแปลง JAX ใดที่คำนวณการไล่ระดับสีของฟังก์ชันหาอนุพันธ์
    • jax.vmap
    • jax.จิต
    • jax.grad
    • jax.device_put
  2. jax.vmap ให้อะไร?
    • การรวบรวมทันเวลาพอดี
    • การทำเวกเตอร์อัตโนมัติบนแกนที่แมป
    • การสร้างความแตกต่างอัตโนมัติ
    • การแยกคีย์แบบสุ่มอย่างชัดเจน
  3. jax.jit มีบทบาทอย่างไร?
    • คำนวณการไล่ระดับสีของวัตถุประสงค์สเกลาร์
    • กำหนดฟังก์ชันให้เป็นเวกเตอร์ทั่วทั้งชุด
    • วางอาร์เรย์บนอุปกรณ์ที่เลือก
    • รวบรวมฟังก์ชันที่เข้ากันได้เพื่อการดำเนินการที่มีประสิทธิภาพผ่าน XLA
  4. เหตุใด Python จึงสามารถดำเนินการได้หากคำสั่งล้มเหลวภายในฟังก์ชัน jitted เมื่อเงื่อนไขใช้ค่าอาร์เรย์
    • การติดตามไม่สามารถใช้ค่าอาร์เรย์รันไทม์เป็นบูลีน Python ธรรมดาได้
    • Python ประเมินทุกอาเรย์ที่ขึ้นอยู่กับอาเรย์ในระหว่างการติดตาม
    • ค่าอาร์เรย์จะแปลงเป็นบูล Python ภายใน jit เสมอ
    • ฟังก์ชันที่คอมไพล์เชี่ยวชาญเกี่ยวกับค่ารันไทม์โดยอัตโนมัติ
  5. การส่งผ่านคีย์แบบสุ่มที่ชัดเจนนั้นเหมาะสมกับสไตล์การเขียนโปรแกรมของ JAX อย่างไร
    • มันเก็บเครื่องกำเนิดไฟฟ้าระดับโลกที่ซ่อนอยู่หนึ่งเครื่อง
    • มันจะลบรูปแบบสุ่มออกจากการฝึก
    • มันทำให้การสุ่มเป็นอินพุตที่ชัดเจนในการคำนวณ
    • มันแก้ไขเวอร์ชันแพ็คเกจ
  6. เหตุใดการเปลี่ยนแปลงรูปร่างอินพุตจึงทำให้เกิดการคอมไพล์ JAX เพิ่มเติม
    • โมเดลต้องฝึกใหม่สำหรับแต่ละอินพุต
    • การรวบรวมสามารถเน้นรูปร่างและอาร์กิวเมนต์แบบคงที่ได้
    • XLA ละทิ้งชุดข้อมูลก่อนหน้า
    • การไล่ระดับสีไม่สามารถใช้อาร์เรย์ได้
  7. ควรทำอย่างไรเมื่อกำหนดเวลาการทำงานของอุปกรณ์อะซิงโครนัส?
    • วัดเฉพาะเวลาจัดส่ง Python
    • ข้ามการอุ่นเครื่องสำหรับฟังก์ชันที่คอมไพล์แล้ว
    • เปลี่ยนเมล็ดสุ่มในช่วงเวลา
    • ประสานผลลัพธ์ก่อนที่จะหยุดตัวจับเวลา
  8. ข้อความใดเกี่ยวกับ JAX กับ PyTorch ฟังดูดี
    • เลือกตามปริมาณงาน ระบบนิเวศ และความต้องการของทีม
    • JAX จะเร็วกว่าเสมอสำหรับทุกรุ่น
    • PyTorch ไม่สามารถรันบนตัวเร่งความเร็วได้
    • เฟรมเวิร์กมี API ที่เหมือนกัน