Kembali ke semua kuisKuis terkait panduanSedang Tingkat6 Pertanyaan

Perutean Inferensi LLM dan Kuis Penyeimbangan Beban

Periksa pemahaman Anda tentang bagaimana permintaan diarahkan dan diseimbangkan di seluruh backend layanan LLM.

Pertanyaan 1 dari 6Benar: 0

Mengapa sistem round-robin sering kali merupakan strategi penyeimbangan beban yang buruk untuk inferensi LLM?