KI-Glossarbegriff

Was ist KI auf dem Gerät?

Definition

KI-Inferenz wird lokal auf der Benutzerhardware und nicht in einem Remote-Cloud-Dienst durchgeführt.

Durchsuchen Sie das vollständige KI-GlossarEntdecken Sie alle kostenlosen KI-Anleitungen

Verwandte Begriffe

KausalschlussMethoden zur Schätzung von Ursache-Wirkungs-Beziehungen anstelle einfacher Korrelationen.Semantische SucheSuche, die eher der Bedeutung entspricht als der exakten Überschneidung von Schlüsselwörtern, häufig unter Verwendung von Einbettungen.SchlussfolgerungDie Laufzeitphase, in der ein trainiertes Modell Vorhersagen oder Ausgaben generiert.InferenzzeitberechnungDie Menge an Rechenleistung, die bei der Erstellung jeder Antwort verbraucht wird.AbsichtsklassifizierungDen Zweck des Benutzers anhand einer Textabfrage vorhersagen, um ihn korrekt weiterzuleiten.ModellquantisierungReduzierung der numerischen Genauigkeit von Modellgewichten, um Speicher- und Inferenzkosten zu senken.

Erfahren Sie mehr in unseren kostenlosen Ratgebern

FDA Regulation of AI Medical DevicesCore ML for On-Device Apple DeploymentExecuTorch for On-Device PyTorchFDA Predetermined Change Control Plans for AI Devices

Siehe auch

Model RegistryOutput ParserLatent SpacePrompt TemplateKnowledge BaseRetrieval PrecisionInference EndpointSafety Case