Mi az Készüléken lévő AI?

Az egyszerű összefüggések helyett az ok-okozati összefüggések becslésének módszerei.

A pontos kulcsszavak átfedése helyett a jelentésnek megfelelő keresés, gyakran beágyazás használatával.

Az a futásidejű fázis, amelyben egy betanított modell előrejelzéseket vagy kimeneteket generál.

Az egyes válaszok előállítása során felhasznált feldolgozási teljesítmény mennyisége.

A felhasználó céljának előrejelzése szöveges lekérdezésből a helyes útválasztáshoz.

A modellsúlyok numerikus pontosságának csökkentése a memória és a következtetési költségek csökkentése érdekében.