Műszaki ÚTMUTATÓ

CI/CD a gépi tanuláshoz

A gépi tanuláshoz használt CI/CD kiterjeszti a folyamatos integrációt és a folyamatos kézbesítési folyamatokat nem csak a kódra, hanem az adatokra és a modellekre is.

2 perc olvasásUtoljára frissítve

Áttekintés

It automates testing, retraining, validation, and deployment so ML systems ship reliably and repeatedly instead of through fragile manual handoffs.

Mély merülés

A hagyományos CI/CD automatizálja a szoftver felépítését, tesztelését és telepítését, ha kód változik. Az ML további két mozgó részt ad hozzá: az adatokhoz és a betanított modellhez, ami új triggereket és új teszteket jelent. A folyamatos integrációs lépés egységteszteket futtathat az adatfeldolgozó kódon, érvényesítheti az adatkészlet-sémákat, és ellenőrizheti, hogy a modell hibamentesen halad-e. A folyamatos szállítás csomagolja a modellt (gyakran tárolóként vagy regisztrált melléktermékként), és egy API mögé telepíti. Sok csapat folyamatos képzést (CT) ad hozzá: olyan folyamatokat, amelyek automatikusan újraképződnek, amikor friss adatok érkeznek, vagy amikor a megfigyelés eltolódást észlel. Az olyan eszközök, mint a GitHub Actions, a GitLab CI, a Jenkins, a Kubeflow Pipelines és a CML összehangolják ezeket a lépéseket. A cél ugyanaz, mint a szoftvereknél – gyors, biztonságos, megismételhető kiadások –, de a felület nagyobb, mert a modell viselkedése nem csak a kódtól, hanem az adatoktól is függ.

Technikai betekintés

Az ML CI/CD folyamat általában szakaszok irányított grafikonja: adatok érvényesítése, betanítás, kiértékelés egy kitartott halmazhoz és az aktuális termelési modellhez, valamint a kapu telepítése metrikus küszöbértékeken. A kulcsfontosságú különbség a klasszikus CI/CD-hez képest az értékelési kapu – a modell csak akkor lép fel, ha felülmúlja az alapvonalat az egyeztetett mérőszámokon, nem csak akkor, ha a tesztek sikeresek. A folyamatok verzió-vezéreltek, és kód véglegesítések, új adatok vagy ütemezések váltják ki, reprodukálható, auditálható futtatásokat eredményezve.

Stratégiai hatás

Költség és költségvetés

Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.

Tisztább döntések

A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.

Minőségellenőrzés

A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

A CI/CD jövője a gépi tanuláshoz

A CI/CD for ML felügyelt MLOps platformokba tömörül, amelyek egy helyen kezelik a folyamatokat, a nyilvántartásokat, a megfigyelést és a visszaállítást. Több automatizált újraképzési ciklusra számíthat, amelyet az elsodródás észlelése indít el, és a „GitOps” mintákat, ahol a kívánt modellváltozatot egy repóban deklarálják és automatikusan egyeztetik. A nagy nyelvi modelleknél a folyamatok automatizált kiértékelő csomagokat, red-teaminget és védőkorlát-ellenőrzéseket adnak hozzá a kiadás előtt. A határvonal a teljesen automatizált, irányelvek által vezérelt szállítás, ahol a modell csak a mennyiségi minőségi, méltányossági és biztonsági határokon való átlépés után halad előre.

Valós megvalósítás

Egy csalócsapat a GitHub Actions-t használja, így minden kód véglegesítése egy kis modellt képez újra, és blokkolja az egyesítést, ha a pontosság a jelenlegi termelési alapérték alá csökken.

Egy e-kereskedelmi vállalat olyan Kubeflow-folyamatot futtat, amely éjszakánként átképzi az ajánlót a friss vásárlási adatokra, és csak akkor telepíti automatikusan, ha az offline mutatók javulnak.

A bank folyamata sémaellenőrzést futtat a bejövő adatokon, és meghiúsul a felépítés, ha egy szolgáltatás eloszlása ​​túllép egy beállított küszöbértéken.

Egy ML-csapat a CML használatával modellértékelési jelentéseket és összehasonlító diagramokat tesz közzé közvetlenül az egyes lekérési kérésekben a lektori bejelentkezéshez.

Kockázatok és védőkorlátok

Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.

Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.

A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Végrehajtási ütemterv

1

Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.

2

Benchmark reális terhelési és adatviszonyok mellett.

3

Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.

4

A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the CI/CD for Machine Learning quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Kezdő kvíz

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Gyakran ismételt kérdések

What is CI/CD for Machine Learning?

A gépi tanuláshoz használt CI/CD kiterjeszti a folyamatos integrációt és a folyamatos kézbesítési folyamatokat nem csak a kódra, hanem az adatokra és a modellekre is. Automatizálja a tesztelést, az átképzést, az érvényesítést és a telepítést, így az ML-rendszerek megbízhatóan és ismételten szállíthatók a törékeny kézi átadások helyett.

Mit ad a gépi tanuláshoz használt CI/CD a hagyományos szoftveres CI/CD-n túl?

Az ML CI/CD-nek a szokásos kódépítési és -tesztelési lépéseken túlmenően kezelnie kell az adatok érvényesítését, a modell betanítását és a modellértékelést.

Mit jelent általában a „CT” egy ML-folyamatkörnyezetben?

A folyamatos képzés (CT) az új adatok érkezésekor vagy elsodródás észlelésekor automatikusan átképzési modellekre vonatkozik.

Mi az a jellegzetes „kapu” egy ML CI/CD-folyamatban, amely hiányzik a klasszikus szoftverfolyamatokból?

A modellek promóciója az alapján történik, hogy felülmúlják-e az alapértéket az egyeztetett mérőszámok tekintetében, nem csak az egységtesztek teljesítése alapján.

Ezek közül melyik az az eszköz, amelyet gyakran használnak ML-folyamatok hangszerelésére?

A Kubeflow Pipelines, valamint a GitHub Actions, a GitLab CI, a Jenkins és a CML széles körben használatos ML CI/CD-hez.

Miért tartalmazhat egy ML-folyamat adatséma-érvényesítési lépést?

A sémák és disztribúciók ellenőrzése korán észleli a rossz vagy eltolódott adatokat, így megakadályozza a hibás modell betanítását és üzembe helyezését.