Maswali yanayounganishwa na mwongozo · Kati Kiwango

Kubernetes kwa Maswali ya Upakiaji wa Kazi wa ML

Tumia uwekaji wa pod za ML za Kubernetes, rasilimali za kifaa cha GPU, na kutumia taint, ikiwa ni pamoja na kwa nini mafunzo ya usambazaji yanahitaji uwezo wa kutosha kwa kila nodi.

Njia za mwongozo zinazohusianaKubernetes Kwa Mzigo wa Kazi wa ML
Swali 1 ya 8

Ni kazi gani ya msingi ya kipanga ratiba cha Kubernetes kwa mzigo wa kazi wa ML?

Hakiki kila swali8 maswali

Majibu na maelezo huonekana unapojibu maswali.

  1. Ni kazi gani ya msingi ya kipanga ratiba cha Kubernetes kwa mzigo wa kazi wa ML?
    • Kuandika msimbo wa mafunzo kwa wanasayansi wa data
    • Kuamua ni nodi gani kwenye nguzo inayoendesha kila ganda la chombo
    • Kuweka lebo data ya mafunzo kiotomatiki
    • Kuchagua usanifu wa mtandao wa neva
  2. Je, Kubernetes hufanyaje GPU zipatikane kwenye ganda?
    • Kupitia programu-jalizi za kifaa zinazotangaza rasilimali kama nvidia.com/gpu
    • Kwa kutuma barua pepe kwa mchuuzi wa GPU ili kupata leseni
    • GPU haziwezi kutumika katika Kubernetes
    • Kwa kubadilisha core za CPU kuwa GPU wakati wa utekelezaji
  3. With a NoSchedule taint on a GPU node, what does a matching pod toleration do?
    • Forces the pod onto that node regardless of capacity
    • Changes the model’s optimizer
    • Allows the pod to be considered for that node without guaranteeing placement
    • Encrypts every GPU tensor
  4. Ni zana gani inayoongeza uwezo mahususi wa ML kama waendeshaji wa mafunzo yaliyosambazwa juu ya Kubernetes?
    • Neno la Microsoft
    • Apache ya kutumikia kurasa za wavuti tuli
    • Jumla ya lahajedwali
    • Kubeflow
  5. Kwa nini Kubernetes inafaa kwa mzigo wa kazi wa ML uliopasuka?
    • Hupanga kazi kwenye rasilimali zisizolipishwa na kuachilia maunzi hayo kazi zinapokamilika
    • Inahifadhi kabisa GPU zote kwa mtumiaji mmoja
    • Inazuia kazi yoyote isipunguzwe
    • Inaendesha chombo kimoja tu kwa kila kundi
  6. Je, 'kuongeza mwisho wa uelekezaji hadi sifuri' kunamaanisha nini kwenye Kubernetes?
    • Inafuta muundo kabisa
    • Inaweka usahihi hadi asilimia sifuri
    • Kuendesha nakala sifuri wakati hakuna trafiki, kisha kuzunguka kwa ombi linalofuata
    • Kupunguza vigezo vya mfano hadi sifuri
  7. One ML pod requests four GPUs, while two nodes each have only two available. Can ordinary scheduling combine those nodes for that one pod?
    • Yes; every pod automatically spans all cluster nodes
    • Yes; the scheduler converts CPU cores into the missing GPUs
    • Only if the pod name contains the word distributed
    • No; the pod must fit on one eligible node
  8. An inference service scales to zero while idle. Which user-facing delay should its team test when traffic resumes?
    • The training-set labeling speed
    • Cold-start delay while a serving replica becomes ready
    • The file size of an unrelated notebook
    • The number of discarded vocabulary tokens