Termo do glossário de IA

O que é Ponto final de inferência?

Definição

Uma interface de API implantada que recebe solicitações de modelo e retorna previsões em produção.

Navegue pelo glossário completo de IAExplore todos os guias gratuitos de IA

Termos relacionados

API (Interface de Programação de Aplicativo)Uma maneira estruturada de um sistema de software enviar solicitações e receber respostas de outro sistema.InferênciaA fase de tempo de execução em que um modelo treinado gera previsões ou resultados.Faturamento baseado no usoPreços onde os custos aumentam com chamadas de API, tokens, tempo de inferência ou computação consumida.Computação de tempo de inferênciaA quantidade de energia de processamento consumida ao produzir cada resposta.Árvore de DecisãoUm modelo que faz previsões por meio de uma sequência de divisões de recursos se-então.ConjuntoCombinar previsões de vários modelos para melhorar a robustez ou a precisão.

Saiba mais em nossos guias gratuitos

AI InferenceAI Inference OptimizationLLM Inference Routing and Load BalancingSeldon Core and Inference Graphs

Veja também

Human Preference ModelKnowledge BaseGuarded DecodingLatent SpaceGroundednessModel RegistryFeature StoreOn-Device AI