Muda wa Kamusi ya AI

Kuchelewa ni nini?

Ufafanuzi

Muda kati ya kutuma ombi na kupokea matokeo ya modeli.

Vinjari Kamusi kamili ya AIGundua miongozo yote ya bure ya AI

Masharti yanayohusiana

Tahadhari MechanismKipengee cha kielelezo ambacho huangazia kwa ubadilikaji sehemu husika za ingizo wakati wa kutoa pato.Mfumo wa KujitegemeaMfumo unaoweza kufanya maamuzi na kutenda kwa ukomo au bila udhibiti wa moja kwa moja wa binadamu katika muda halisi.CLIPUsanifu wa miundo mingi ambayo hujifunza uwakilishi wa pamoja kati ya maandishi na picha.Mabadiliko ya DataMabadiliko katika data ya ulimwengu halisi baada ya muda ambayo yanaweza kuharibu utendakazi wa muundo.Kokotoo la Muda wa MaoniKiasi cha nishati ya usindikaji inayotumiwa wakati wa kutoa kila jibu.Kukatwa kwa MaarifaHatua ya hivi punde ilionekana katika data ya mafunzo ya modeli.

Pata maelezo zaidi katika miongozo yetu ya bila malipo

Tail Latency in Model ServingReducing LLM App LatencyTime to First Token and Latency Metrics

Tazama pia

Label SmoothingLarge Language Model (LLM)Knowledge GraphLearning RateKnowledge DistillationLoRA (Low-Rank Adaptation)Loss FunctionJailbreak