LLM 推論ルーティングとロード バランシングのクイズ

LLM サービスを提供するバックエンド間でリクエストがどのように誘導され、バランスが保たれているかを把握していることを確認してください。