Nchịkọta
Seldon Core bụ ikpo okwu mepere emepe maka ibunye ụdị mmụta igwe na Kubernetes, nwere njiri mara mma: eserese nrụbama. Kama ijere otu ụdị dịpụrụ adịpụ ozi, ọ na-ahapụ gị ka ị yinye ụdị, ndị na-anya ụgbọ mmiri, ndị na-agwakọta ihe, na ihe ntụgharị ka ọ bụrụ otu eserese eduzi nke na-arụ ọrụ dị ka otu ọrụ nwere ike ibugharị.
Seldon Core na Inference Graphs bụ ngọngọ ụlọ ọrụ teknụzụ na-emetụta ogo nlereanya, ọnụ ahịa akụrụngwa, nkwụsịtụ, na ntụkwasị obi n'ọ̀tụ̀tụ̀.
Ime miri emi
Ọtụtụ ezigbo mmepụta ojiji ikpe gụnyere ihe karịrị otu oku nlereanya. Ị nwere ike hazie ntinye, mee arịrịọ ka otu n'ime ụdị dị iche iche, mee mkpokọta, wee megharịa nsonaazụ ya. Seldon Core na-akọwa nke a dị ka eserese ntinye aka akọwapụtara na SeldonDeployment (ma ọ bụ, na v2 architecture, site na Seldon Core Operator na MLServer). Ewubere eserese ahụ site na ụdị akụrụngwa eji emeghari: Model na-eje ozi amụma, onye ntụgharị na-agbanwe ntinye ma ọ bụ ntinye, onye na-ahụ maka ụzọ na-ekpebi nwa ọ ga-akpọ (na-enyere ule A / B na ndị ohi nwere ọtụtụ ogwe aka), yana Combiner na-achịkọta ihe sitere na ọtụtụ ụdị maka ịgbakọta. Seldon na-akwado ọtụtụ usoro site na ihe nkesa akwadoro na ihe mkpuchi Python omenala, ọ na-ekpughekwa metrics bara ụba, ịchụ nta nkesa, na ịpụ n'ime igbe maka nleba anya na nkọwa.
Nghọta nka nka
Eserese inference bụ eserese acyclic a na-eduzi ebe ọnụ ọ bụla bụ microservice nwere ọkọlọtọ amụma amụma, yana onye na-agụ egwú Seldon (onye na-ahụ maka ọrụ / onye ọrụ) na-aga arịrịọ site na eserese ahụ wee jikọta nzaghachi. N'ihi na ndị na-anya ụgbọ ala nwere ike mejuputa mgbagha mgbagha nwere ọtụtụ ogwe aka, okporo ụzọ nwere ike gbanwee n'ụzọ dabara adaba na ụdị na-eme nke ọma dabere na akara ụgwọ ọrụ ndụ. Seldon Core v2 wepụrụ eserese ahụ site na ihe nkesa ụdị n'otu n'otu na-eji MLServer na Protocol mepere emepe, na-eme ka ọtụtụ ihe nlereanya na-eje ozi na gafere na ngwaike nkekọrịta.
Mastering Seldon Core na eserese eserese
Seldon Core bụ ikpo okwu mepere emepe maka ibunye ụdị mmụta igwe na Kubernetes, nwere njiri mara mma: eserese nrụbama. Kama ijere otu ụdị dịpụrụ adịpụ ozi, ọ na-ahapụ gị ka ị yinye ụdị, ndị na-anya ụgbọ mmiri, ndị na-agwakọta ihe, na ihe ntụgharị ka ọ bụrụ otu eserese eduzi nke na-arụ ọrụ dị ka otu ọrụ nwere ike ibugharị. Seldon Core na Inference Graphs bụ ngọngọ ụlọ ọrụ teknụzụ na-emetụta ogo nlereanya, ọnụ ahịa akụrụngwa, nkwụsịtụ, na ntụkwasị obi n'ọ̀tụ̀tụ̀. Iji wulite nghọta miri emi, na-emeso Seldon Core na Inference Graphs dị ka ihe nlere anya na-arụ ọrụ, ọ bụghị otu njirimara: kọwaa nsonaazụ achọrọ, dokwuo anya echiche, ma kewaa ihe sistemụ ahụ nwere ike ime nke ọma na ihe ka chọrọ mkpebi ndị ọkachamara.
Na omume, otu ndị siri ike na-eji Seldon Core na Inference Graphs na-ebuli ụkpụrụ ụlọ, data, na nhọrọ akụrụngwa megide ntụkwasị obi na ọnụ ahịa. Ha na-edepụta njirisi ịga nke ọma nke ọma, nwalee megide data ziri ezi yana usoro ọrụ, yana na-atụgharị dabere na usoro ọdịda ahụrụ karịa karịa mmeri otu oge. Nke a bụ ebe nghọta usoro ihe atụ na-atụgharị ghọọ ike na-adịgide adịgide n'ofe ngwaahịa, amụma na arụmọrụ.
Mkpebi ihe owuwu ụlọ na-akwalite arụmọrụ yana ọnụ ahịa ọrụ ruo ọtụtụ afọ. N'otu oge ahụ, ịkwalite otu akara ngosi nwere ike zoo adịghị ike sistemụ sara mbara. Ụzọ kachasị na-agbanwe agbanwe bụ ijikọ ọsọ nnwale na ịdọ aka ná ntị ọchịchị: ndị na-anya ụgbọ elu, ijide ihe akaebe, bipụta ndekọ mkpebi, na na-aga n'ihu na-emelite nchekwa dị ka omume nlereanya, atụmanya ndị ọrụ, na ihe iwu chọrọ.
Mmetụta atụmatụ
Mkpebi ihe owuwu ụlọ na-akwalite arụmọrụ yana ọnụ ahịa ọrụ ruo ọtụtụ afọ.
Mkpebi ihe owuwu ụlọ na-akwalite arụmọrụ yana ọnụ ahịa ọrụ ruo ọtụtụ afọ. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Nkà mmụta nka na-enyere ndị otu egwuregwu aka ịhọrọ nchịkọta ziri ezi, ọ bụghị naanị nke kachasị ọhụrụ.
Nkà mmụta nka na-enyere ndị otu egwuregwu aka ịhọrọ nchịkọta ziri ezi, ọ bụghị naanị nke kachasị ọhụrụ. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Nhọrọ injinia ka mma na-ebelata ihe omume ntụkwasị obi na mmepụta.
Nhọrọ injinia ka mma na-ebelata ihe omume ntụkwasị obi na mmepụta. N'ịkwanye ọkwa dị elu, a na-atụgharị nke a ka ọ bụrụ iwu arụ ọrụ enwere ike ịtụnye, oke nwe, na emume ntụlegharị ugboro ugboro ka ndị otu wee nwee ike ịbawanye ntụkwasị obi kama iwelite enweghị mgbagha.
Mmejuputa n'ezie n'ụwa
Onye na-agbazinye ihe na-ekenye ihe ngbanwe nke otu ọkụ na-etinye atụmatụ n'ime ọnụ ihe nlereanya, wee bụrụ Transformer na-ahazi akara ahụ, ha niile dị ka SeldonDeployment.
Otu ụlọ ọrụ mgbasa ozi na-eji ọnụ ụzọ Router na-agba ndị omempụ nwere ọtụtụ ngwa iji ziga ọtụtụ okporo ụzọ na ụdị nkwanye ọ bụla na-enweta ụgwọ ọrụ pịa dị elu.
Otu otu na-ejikọta ụdị aghụghọ atọ na ọnụ ọnụ Combiner nke na-anata akara ha tupu ha alaghachi otu mkpebi na onye na-akpọ ya.
Onye na-ahụ maka inshọransị ahaziri na-etinye ndekọ ụgwọ ọrụ Seldon yana ndị na-akọwa Alibi na eserese ntinye ka enwere ike ịchọta amụma ọ bụla wee kọwaa ya maka nyocha.
Usoro mmejuputa
Ihe eserese Seldon Core na Inference na omume
Onye na-agbazinye ihe na-ekenye ihe ngbanwe nke otu ọkụ na-etinye atụmatụ n'ime ọnụ ihe nlereanya, wee bụrụ Transformer na-ahazi akara ahụ, ha niile dị ka SeldonDeployment.
Onye na-agbazinye ego na-ejikọta Transformer nke na-ekpo ọkụ na-etinye atụmatụ n'ime oghere ihe nlereanya, mgbe ahụ, Transformer nke na-emepụta akara ahụ, dịka otu SeldonDeployment Teams na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ dịkwuo elu maka ikpe ikpe, ma soro ma uru mmepụta na ụgwọ njehie na oge.
Ihe eserese Seldon Core na Inference na omume
Otu ụlọ ọrụ mgbasa ozi na-eji ọnụ ụzọ Router na-agba ndị omempụ nwere ọtụtụ ngwa iji ziga ọtụtụ okporo ụzọ na ụdị nkwanye ọ bụla na-enweta ụgwọ ọrụ pịa dị elu.
Otu ụlọ ọrụ mgbasa ozi na-eji ọnụ ụzọ Router na-agba ọsọ bandit nwere ọtụtụ ogwe aka iji zipu okporo ụzọ ndị ọzọ na ụdị nkwanye ọ bụla na-enweta ụgwọ ọrụ dị elu, otu na-enwetakwa nsonaazụ kacha mma mgbe ha kọwapụtara ọnụ ụzọ dị mma n'ihu, debe ụzọ mmadụ na-abawanye maka ọnụ ọnụ, ma soro ma uru nrụpụta yana ụgwọ njehie n'ime oge.
Ihe eserese Seldon Core na Inference na omume
Otu otu na-ejikọta ụdị aghụghọ atọ na ọnụ ọnụ Combiner nke na-anata akara ha tupu ha alaghachi otu mkpebi na onye na-akpọ ya.
Otu otu na-ejikọta ụdị aghụghọ atọ na ọnụ ọnụ Combiner nke na-eme ka ọnụ ọgụgụ ha dị elu tupu ha alaghachi otu mkpebi na ndị na-akpọ oku na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, na-eme ka ụzọ mmadụ si abawanye maka ikpe ikpe, ma soro ma uru nrụpụta na ụgwọ njehie na oge.
Ihe eserese Seldon Core na Inference na omume
Onye na-ahụ maka inshọransị ahaziri na-etinye ndekọ ụgwọ ọrụ Seldon yana ndị na-akọwa Alibi na eserese ntinye ka enwere ike ịchọta amụma ọ bụla wee kọwaa ya maka nyocha.
Onye na-ahụ maka ịnshọransị a na-ahazi na-ejikọta ụgwọ ịkwụ ụgwọ Seldon na ndị Alibi na-akọwa ya na eserese ntinye ka enwere ike ịchọta amụma ọ bụla ma kọwaa ya maka nyocha otu ìgwè na-enwetakarị nsonaazụ ka mma mgbe ha na-akọwapụta ọnụ ụzọ dị mma n'ihu, debe ụzọ mmụba nke mmadụ maka ikpe ikpe, ma soro ma uru mmepụta na ụgwọ njehie na oge.
Ihe ize ndụ & okporo ụzọ nche
Ịkwalite otu akara ngosi nwere ike zoo adịghị ike sistemụ sara mbara.
A na-eledakarị ihe akụrụngwa na ụgwọ ọrụ anya.
Ọdịiche nchekwa na nleba anya nwere ike itolite ka sistemu na-adịwanye mgbagwoju anya.
Map mmejuputa
Kọwaa latency, ịdịmma na ebumnuche ọnụ ahịa tupu mmejuputa ya.
Kọwaa latency, ịdịmma na ebumnuche ọnụ ahịa tupu mmejuputa ya. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Benchmark n'okpuru ibu dị adị na ọnọdụ data.
Benchmark n'okpuru ibu dị adị na ọnọdụ data. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Nleba anya akụrụngwa maka mperi, ịkpafu na mmetụta onye ọrụ.
Nleba anya akụrụngwa maka mperi, ịkpafu na mmetụta onye ọrụ. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.
Kwadebe ụzọ nzaghachi azụghachi azụ na ihe omume tupu ịchachaa.
Kwadebe ụzọ nzaghachi azụghachi azụ na ihe omume tupu ịchachaa. Mesoo nzọụkwụ ọ bụla dị ka ọnụ ụzọ akaebe: ọ bụrụ na emezughị ụkpụrụ, kwụsịtụ mbugharị, mechie oghere ahụ, naanị wee gbasaa ojiji.