Vad är AI på enheten?

Metoder för att uppskatta orsak-verkan-samband snarare än enkla samband.

Sökning som matchar betydelse snarare än exakt överlappning av sökord, ofta med inbäddningar.

Körtidsfasen där en tränad modell genererar förutsägelser eller utdata.

Mängden processorkraft som förbrukas när varje svar produceras.

Förutsäga användarens syfte från en textfråga för att dirigera den korrekt.

Minska numerisk precision för modellvikter för att minska minnes- och slutledningskostnaden.