← Kembali kepada semua kuizKuiz berkaitan panduan • Sederhana Tahap • 6 Soalan

Kuiz Penghalaan Inferens dan Pengimbangan Beban LLM

Semak pemahaman anda tentang cara permintaan dikendalikan dan diseimbangkan merentas bahagian belakang siaran LLM.

Laluan panduan yang berkaitan

soalan 1 daripada 6Betul: 0

Mengapakah round-robin biasa selalunya merupakan strategi pengimbangan beban yang lemah untuk inferens LLM?