GUIDA ALL'AI linguistica

Ingegneria del contesto

L'ingegneria del contesto è la pratica di decidere cosa vede un modello linguistico in ogni fase (istruzioni, documenti recuperati, definizioni e risultati degli strumenti, cronologia e memoria della conversazione) e inserirlo in una finestra di contesto limitata.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina4 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro dell'ingegneria del contesto
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Va oltre la tempestiva formulazione. È importante perché la qualità dell'output dipende fortemente da cosa c'è nella finestra e negli agenti e nelle attività lunghe il contesto viene assemblato tramite codice su ogni chiamata, non digitato una volta da una persona.

Immersione profonda

Prompt engineering focuses on wording a single request. Context engineering takes a wider view. The model receives one sequence of tokens, and everything in it competes for space and for the model's attention. That sequence usually includes a system prompt, tool definitions, retrieved passages, prior turns, tool outputs and sometimes long-term memory. The term became common in 2025, when teams building agents found that many failures came from the model having the wrong information, too much of it or conflicting information, rather than from poor phrasing. Several principles follow. First, relevance beats volume. Some models accept hundreds of thousands of tokens, but they do not use every token equally well. The 'lost in the middle' study (Liu et al., 2023) found that models often use information at the start and end of a long input better than information buried in the middle. Second, context is a budget. Every token costs money and adds latency, and irrelevant material can distract the model. Third, structure helps. Clear sections, labeled documents and consistent formats make it easier for the model to find what matters. Common techniques include: - retrieval-augmented generation, which fetches only the relevant passages - just-in-time loading, where an agent holds lightweight references such as file names or IDs and uses tools to pull full content when needed - structured note-taking that keeps state outside the window - compaction of long histories - sub-agents that explore in their own context and return condensed findings One misconception is that context engineering is just a new name for prompting. Wording is one part of it, but most of the work is systems design: deciding what gets retrieved, summarized or dropped, and in what order it appears. Another misconception is that a bigger window removes the need for this. A bigger window lowers the pressure, but cost and attention limits remain.

Implementazione nel mondo reale

Un bot dell'assistenza clienti recupera solo i tre articoli più rilevanti del centro assistenza più il livello del piano del cliente. Non incolla l'intera base di conoscenza in ogni richiesta.

Un agente di codifica inizia con un elenco di percorsi di file e firme di funzioni, quindi utilizza uno strumento di lettura dei file per caricare file completi solo quando ne ha bisogno.

Un assistente alla riunione salva le decisioni e le azioni in un file di note strutturato e ricarica il file nella sessione successiva, invece di riprodurre ogni trascrizione precedente.

Un team modifica uno strumento di database in modo che restituisca un riepilogo filtrato con un conteggio delle righe anziché 5.000 righe di JSON non elaborato. Ciò impedisce alla finestra dell'agente di riempirsi di dati che non utilizzerà mai.

Il futuro dell'ingegneria del contesto

Le finestre di contesto sono cresciute rapidamente e i modelli stanno migliorando nell’utilizzo di input lunghi. I limiti di costo, latenza e attenzione rendono ancora importante scegliere cosa inserire. Gran parte di questo lavoro si sta spostando in framework e piattaforme e diversi fornitori offrono già strumenti di memoria integrati, compattazione automatica e recupero gestito. È probabile che l'abilità si sposti dall'assemblare manualmente il contesto alla progettazione di politiche per ciò che un agente dovrebbe ricordare, recuperare o dimenticare, e quindi testare tali politiche. È una questione aperta se la progettazione dei modelli futuri richiederà una cura meno attenta. Per ora, il contesto deliberatamente progettato è uno dei modi più affidabili per migliorare l’output del modello.

Metterlo in pratica

Perché è importante

  • Velocità e scala. I flussi di lavoro linguistici possono muoversi più velocemente senza sacrificare la coerenza.
  • Accedere e raggiungere. Espande l'accesso attraverso lingue e stili di comunicazione.
  • Decisioni più chiare. I team possono dedicare più tempo al giudizio mentre l'automazione gestisce la ripetizione.

Attenzione

  • Fatti allucinati possono tranquillamente entrare nei rapporti, nei flussi di supporto o nei risultati della ricerca.
  • La sensibilità tempestiva può creare risultati incoerenti tra richieste simili.
  • I dati di testo sensibili potrebbero essere esposti se i controlli di accesso sono deboli.

Prossimi passi

  1. Definisci il formato di output, il tono e gli standard di qualità prima dell'implementazione.
  2. Risposte concrete con fonti attendibili ogni volta che la precisione è importante.
  3. Mantenere un checkpoint di revisione umana per i risultati ad alto rischio.
  4. Tieni traccia dei modelli di errore e riqualifica regolarmente le richieste o i flussi di lavoro.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Rispondi al quiz sull'ingegneria del contesto

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Cos'è l'ingegneria del contesto?

L'ingegneria del contesto è la pratica di decidere cosa vede un modello linguistico in ogni fase (istruzioni, documenti recuperati, definizioni e risultati degli strumenti, cronologia e memoria della conversazione) e inserirlo in una finestra di contesto limitata. Va oltre la tempestiva formulazione. È importante perché la qualità dell'output dipende fortemente da cosa c'è nella finestra e negli agenti e nelle attività lunghe il contesto viene assemblato tramite codice su ogni chiamata, non digitato una volta da una persona.

Cosa distingue meglio l’ingegneria del contesto dall’ingegneria immediata?

L'ingegneria del contesto tratta l'intera sequenza di token che il modello riceve come qualcosa da progettare: istruzioni, passaggi recuperati, definizioni e output degli strumenti, cronologia e memoria. La formulazione tempestiva è solo una parte di esso.

Cosa ha suggerito la ricerca "perso nel mezzo" sugli input lunghi?

Liu et al. (2023) hanno scoperto che le prestazioni spesso diminuiscono quando le informazioni rilevanti si trovano nel mezzo di un lungo contesto. Questo è uno dei motivi per cui la pertinenza e il posizionamento contano più del semplice volume.

Perché la guida descrive il contesto come un budget?

I token nella finestra hanno costi reali in termini di prezzo e tempi di risposta. I token irrilevanti competono anche con quelli rilevanti per attirare l'attenzione del modello, quindi dovrebbero essere spesi deliberatamente.

Cos'è il caricamento just-in-time?

Invece di caricare tutto in anticipo, l'agente conserva i puntatori e inserisce il contenuto completo solo quando un passaggio lo richiede. Ciò mantiene la finestra magra.

Perché è utile mettere i contenuti stabili, come le istruzioni di sistema e le definizioni degli strumenti, all'inizio in un ordine fisso?

I provider che supportano la memorizzazione nella cache dei prompt possono riutilizzare un prefisso che rimane identico in byte tra le chiamate. Mettere al primo posto il contenuto stabile e per ultimo il cambiamento della conversazione lo rende possibile.