Il prossimoProssima guida
Sintonizzazione delle istruzioni
Intelligenza artificiale linguistica
GUIDA ALL'AI linguistica
Il drift di istruzione è un fallimento nel continuare a seguire una regola, un formato o un obiettivo precedente man mano che la conversazione si sviluppa.
Ascolta questa guidaNarrato dall'IA · ~3 min
La ricerca ha osservato questo comportamento in specifici contesti di test, ma la sua frequenza dipende dal modello, dal compito, dalla conversazione e dal metodo di valutazione; gli utenti dovrebbero verificare le restrizioni critiche durante tutta l’interazione.
A conversation may begin with a persistent request—such as “use plain language,” “keep each answer under 100 words,” or “do not reveal a customer’s address”—then accumulate new messages, examples, corrections, and tool results. Instruction drift occurs when later responses stop honoring a relevant earlier constraint or reinterpret it inconsistently. This is a measurable behavior, not a universal fixed rate. Li et al.’s 2024 study introduced a benchmark based on self-chats between instructed chatbots and reported drift in tested systems within eight conversation rounds. The tested models and experimental setup define the claim; it should not be assumed to predict all current models or every kind of conversation. Other multi-turn research also finds that task performance and reliability can differ between fully specified one-shot instructions and instructions revealed gradually. Long interactions can combine several challenges: older constraints may compete with newer requests, context may be lengthy, and the user’s goal may evolve. Not every apparent drift is a model failure: the user may have changed the instruction, or a newer instruction may legitimately supersede an older one. Evaluation should specify which rules persist, which can change, and how conflicts are resolved. For important tasks, restate the active requirements in a concise checkpoint, ask the assistant to summarize them, and verify outputs against a checklist. In software or agent workflows, enforce critical format, access, and safety rules in code or tools rather than relying only on conversational instructions. Treat summaries and reminders as helpful controls, not guarantees.
Un assistente di scrittura smette di rispettare un limite di parole dopo diverse fasi di revisione.
Un utente sostituisce esplicitamente una richiesta di tono formale precedente con un tono informale, quindi il cambiamento non è drift.
Un valutatore verifica una regola di privacy permanente ad ogni turno, non solo alla risposta finale.
Un'applicazione memorizza uno schema di output richiesto nel codice e valida ogni risposta del modello.
La ricerca probabilmente esaminerà la stabilità delle istruzioni su più modelli, modalità, lingue e interazioni realistiche con gli utenti. Una migliore gestione del contesto e il tracciamento dello stato potrebbero aiutare, mentre le conversazioni lunghe continueranno a coinvolgere obiettivi mutevoli e istruzioni contrastanti. I team di prodotto dovrebbero misurare la deriva rispetto ai loro requisiti persistenti effettivi e utilizzare controlli in tempo reale per le regole critiche. I benchmark futuri dovrebbero riportare le versioni del modello, il numero di turni, la configurazione del compito e i metodi di valutazione. I risultati dovrebbero essere rivisti man mano che il comportamento del modello e i flussi di lavoro del prodotto cambiano nel tempo per le politiche critiche.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
La deriva delle istruzioni è il fallimento nel continuare a seguire una regola, un formato o un obiettivo precedentemente stabilito man mano che la conversazione si sviluppa. La ricerca ha osservato questo comportamento in particolari contesti di test, ma il suo tasso dipende dal modello, dal compito, dalla conversazione e dal metodo di valutazione; gli utenti dovrebbero verificare i vincoli critici durante un'interazione prolungata.
La deriva riguarda un'istruzione persistente che non viene più seguita.
Una nuova istruzione può legittimamente sostituire una preferenza più vecchia.
La valutazione ha bisogno di una regola chiara su quali vincoli rimangono attivi.
I controlli di runtime sono più affidabili dei soli promemoria conversazionali.
Questi fattori possono influenzare se le istruzioni persistenti vengono mantenute.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Sintonizzazione delle istruzioni
Intelligenza artificiale linguistica