คืออะไร การเรียกเก็บเงินตามการใช้งาน?

ปริมาณพลังการประมวลผลที่ใช้ขณะสร้างการตอบสนองแต่ละครั้ง

การคำนวณอนุมานเพิ่มเติมที่ใช้ระหว่างการสร้างการตอบสนองเพื่อปรับปรุงคุณภาพหรือการใช้เหตุผล

วิธีการเร่งความเร็วอนุมานที่แบบจำลองร่างขนาดเล็กเสนอโทเค็นที่แบบจำลองขนาดใหญ่ตรวจสอบพร้อมกัน

รูปแบบความสนใจที่แต่ละโทเค็นเข้าร่วมเฉพาะหน้าต่างขนาดคงที่ของโทเค็นใกล้เคียงเพื่อลดการประมวลผล

ระยะรันไทม์ที่โมเดลที่ได้รับการฝึกสร้างการคาดการณ์หรือเอาต์พุต

วิธีการดึงความรู้จากภายนอกและป้อนเข้าสู่รุ่นในเวลาอนุมาน