ML ワークロード用の Kubernetes クイズ

クイズに答えると、答えと解説が表示されます。

1. ML ワークロードに対する Kubernetes スケジューラの主なジョブは何ですか?
   • データサイエンティスト向けのトレーニングコードの作成
   • クラスター内のどのノードがコンテナー化された各ポッドを実行するかを決定する
   • トレーニング データに自動的にラベルを付ける
   • ニューラル ネットワーク アーキテクチャの選択
2. Kubernetes は通常、どのようにしてポッドで GPU を利用できるようにしますか?
   • nvidia.com/gpu などのリソースをアドバタイズするデバイス プラグインを介して
   • GPU ベンダーにライセンスを電子メールで送信する
   • Kubernetes では GPU を使用できません
   • 実行時に CPU コアを GPU に変換することによって
3. With a NoSchedule taint on a GPU node, what does a matching pod toleration do?
   • Forces the pod onto that node regardless of capacity
   • Changes the model’s optimizer
   • Allows the pod to be considered for that node without guaranteeing placement
   • Encrypts every GPU tensor
4. Kubernetes 上に分散トレーニング オペレーターなどの ML 固有の機能を追加するツールはどれですか?
   • Microsoft 単語
   • 静的 Web ページを提供するための Apache
   • スプレッドシートマクロ
   • キューブフロー
5. Kubernetes がバースト性の ML ワークロードに適しているのはなぜですか?
   • 空きリソースにジョブをスケジュールし、ジョブが終了するとそのハードウェアを解放します。
   • すべての GPU を 1 人のユーザーに永続的に予約します
   • あらゆるジョブがスケールダウンすることを防ぎます
   • クラスターごとに 1 つのコンテナーのみを実行します
6. Kubernetes で「推論エンドポイントをゼロにスケーリングする」とは何を意味しますか?
   • モデルを完全に削除する
   • 精度を 0% に設定する
   • トラフィックがないときにコピーをゼロで実行し、次のリクエストでスピンアップする
   • モデルのパラメータをゼロに減らす
7. One ML pod requests four GPUs, while two nodes each have only two available. Can ordinary scheduling combine those nodes for that one pod?
   • Yes; every pod automatically spans all cluster nodes
   • Yes; the scheduler converts CPU cores into the missing GPUs
   • Only if the pod name contains the word distributed
   • No; the pod must fit on one eligible node
8. An inference service scales to zero while idle. Which user-facing delay should its team test when traffic resumes?
   • The training-set labeling speed
   • Cold-start delay while a serving replica becomes ready
   • The file size of an unrelated notebook
   • The number of discarded vocabulary tokens