LegközelebbKövetkező útmutató
Core ML a Apple eszközön történő telepítéséhez
Műszaki
Műszaki ÚTMUTATÓ
A kék-zöld üzembe helyezés két éles környezetet tart fenn: az egyik az aktuális forgalmat szolgálja ki, míg a másik egy jelölt kiadást kap, majd a forgalom az ellenőrzések sikeressége után vált.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Lehetővé teszi az útválasztás gyors visszaállítását, de kapacitást igényel mind a környezethez, mind az állapot-, adatkompatibilitási és repülés közbeni kérések gondos kezeléséhez.
A kék-zöld üzembe helyezés két éles környezetet használ. Az egyik környezet, amelyet gyakran kéknek hívnak, élő kéréseket szolgál ki. A másik, zöld, új alkalmazás- vagy modellkiadást kap, és tesztelik, mielőtt forgalmat venne fel. Ezután egy útválasztó, terheléselosztó vagy telepítésvezérlő átirányítja a forgalmat az új környezetbe. Ha problémák jelentkeznek, a forgalom visszakapcsolható a régire, feltéve, hogy az egészséges és a jelenlegi állapottal kompatibilis marad. ML szolgáltatás esetén a zöld új modellműterméket, előfeldolgozási kódot és kiszolgálási konfigurációt tölthet be. Tesztelje az állapotellenőrzéseket, a sémakompatibilitást, a késleltetést, az erőforráshasználatot és a reprezentatív előrejelzéseket a levágás előtt. Az árnyékforgalom összehasonlíthatja a kimeneteket anélkül, hogy zöld eredményeket jelenítene meg a felhasználók számára; egy részleges kanári további bizonyítékkal szolgálhat a teljes átállás előtt. Ezek a gyakorlatok kiegészítik a kék-zöld alapmodellt, és kifejezetten meg kell tervezni őket. A fő előny a viszonylag gyors visszaállítási útvonal, mivel a korábbi környezet megmarad. A költség két környezet üzemeltetése és érvényesítése, ami megduplázhatja a számításokat, vagy gondos kapacitástervezést igényel. A modell betöltése időt vehet igénybe, különösen nagy műtermékek vagy GPU-memória korlátok esetén. Előfordulhat, hogy mindkét verziónak hozzáférésre van szüksége a kompatibilis adatsémákhoz és megosztott szolgáltatásokhoz. A repülés közbeni kérések, a munkamenet állapota, a gyorsítótárak és az adatbázisok írása bonyolíthatja a váltást. Az adatbázis- és szolgáltatástár-módosításoknak visszafelé kompatibilis vagy szerződésbővített migrációt kell használniuk, hogy mindkét verzió működhessen az átmenet során. Az útválasztás visszagörgetése nem fordítja vissza a már megírt adatokat vagy a külső mellékhatásokat. Határozza meg előre az egészségügyi kritériumokat, a forgalomváltási eljárást, a visszaállítási jogosultságot és a tisztítási tervet. Sikeres megfigyelés után a régi környezet visszavonható. A kék-zöld telepítés szabályozott átkapcsolást kínál, de nem bizonyítja a modell minőségét, és nem szünteti meg a megosztott állapotból, az expozíciós különbségekből vagy az elégtelen tesztforgalomból eredő kockázatokat.
Egy ajánlási szolgáltatás az A modell verzióját futtatja kék környezetben, és a B verziót zöld színben tölti be. Füstvizsgálatok és árnyék-összehasonlítások után az útválasztó zöldre állítja a forgalmat.
A kanári fázis a forgalom egy kis részét zöldre küldi a teljes váltás előtt, annak ellenére, hogy az alapvető kék-zöld mintát gyakran a környezetek közötti átkapcsolásként írják le.
A késleltetési csúcs után a szolgáltatási útválasztó kékre állítja vissza a forgalmat. A korábbi környezet továbbra is elérhető marad, lehetővé téve a gyors visszaállítást, miközben a mérnökök vizsgálják a jelöltet.
A sémaáttelepítést úgy tervezték, hogy támogassa a régi és az új modellverziókat is az átvágás során, elkerülve az inkompatibilis adatbázis-módosítást, amely megakadályozza a visszaállítást.
A kék-zöld ML kiadások a füsttesztek, a modellterhelés-ellenőrzések, a sémakompatibilitás és a router visszaállítási kritériumainak automatizálásával javíthatók. A csapatoknak meg kell becsülniük a GPU- és a memóriakapacitást két környezetre, és fel kell melegíteniük a jelöltet a forgalom váltása előtt. Tesztelje a visszaállítási útvonalat a rutin kiadások során, beleértve az írási és késleltetett címkék viselkedését. Egy szakaszos kanári csökkentheti az expozíciót a teljes átvágás előtt. Az egyértelmű működési tulajdonjog és a tisztítási időszak megakadályozza, hogy a duplikált infrastruktúra fennmaradjon, miután a kiadás stabil. A csapatoknak a visszaállítás során is gyakorolniuk kell az érdekelt felekkel folytatott kommunikációt.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A kék-zöld üzembe helyezés két éles környezetet tart fenn: az egyik az aktuális forgalmat szolgálja ki, míg a másik egy jelölt kiadást kap, majd a forgalom az ellenőrzések sikeressége után vált. Lehetővé teszi az útválasztás gyors visszaállítását, de kapacitást igényel mind a környezethez, mind az állapot-, adatkompatibilitási és repülés közbeni kérések gondos kezeléséhez.
Az egyik környezet éles marad, míg a másikat előkészítik és tesztelik a forgalom eltolódása előtt.
A forgalmat vissza lehet irányítani a megőrzött kék környezetbe, ha az továbbra is működőképes.
Mindkét környezet fenntartásához duplikált számítási és gyorsítókapacitásra lehet szükség a kiadás során.
Előfordulhat, hogy mindkét verziónak megosztott állapotban kell működnie a közzététel és a visszaállítás során.
Az árnyékolás lehetővé teszi a csapatok számára, hogy összehasonlítsák a kimeneteket, miközben a jelenlegi környezet továbbra is a felhasználó felé néz.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Core ML a Apple eszközön történő telepítéséhez
Műszaki