Il prossimoProssima guida
Spiegazione dei prompt del sistema
Intelligenza artificiale linguistica
GUIDA ALL'AI linguistica
Il concatenamento dei prompt suddivide un'attività in una sequenza fissa di prompt più piccoli, in cui l'output di ogni passaggio diventa l'input del passaggio successivo: ad esempio estrai, quindi analizza, quindi crea una bozza.
Ascolta questa guidaNarrato dall'IA · ~3 min
Ciò rende il funzionamento di LLM più affidabile e più semplice da eseguire il debug rispetto a un prompt gigante. Inoltre rimane più prevedibile di un agente autonomo, perché lo sviluppatore decide i passaggi anziché il modello.
Un singolo mega-prompt chiede al modello di fare tutto in una volta: leggere la fonte, estrarre i fatti, ragionare su di essi, seguire le regole di stile e formattare la risposta. Ogni richiesta extra compete per l’attenzione. Quando l'output è sbagliato, non è possibile stabilire quale parte non sia riuscita. Il concatenamento rapido suddivide il lavoro in fasi e ciascuna fase ha un compito chiaro. Una catena tipica prevede tre passaggi: 1. Estrarre le virgolette rilevanti da un documento. 2. Rispondi a una domanda utilizzando solo quelle virgolette. 3. Confronta la risposta con le virgolette e riscrivila per il pubblico. Il codice ordinario può controllare gli output tra i passaggi. Può analizzare JSON, confermare l'esistenza di un campo obbligatorio o interrompere la catena se un classificatore restituisce un livello di confidenza basso. Il saggio di Anthropic del dicembre 2024 "Building Effective Agents" chiama questi controlli "cancelli". Descrive il concatenamento dei prompt come un flusso di lavoro che scambia la latenza aggiuntiva con una maggiore precisione, perché ogni chiamata diventa un compito più semplice. Catene e agenti differiscono in chi controlla il percorso. In una catena, lo sviluppatore codifica la sequenza. In un agente, il modello decide in fase di esecuzione quale strumento chiamare successivamente e quando viene terminato. Le catene sono più economiche da testare, più facili da spiegare e falliscono in punti prevedibili. Gli agenti sono adatti a problemi aperti in cui i passaggi non possono essere conosciuti in anticipo. Molti sistemi di produzione sono catene piuttosto che agenti, a volte con rami (routing) o fasi che corrono in parallelo. Sono comuni tre malintesi: - Il concatenamento costa sempre di più. In effetti, i piccoli suggerimenti mirati possono utilizzare modelli più economici per i passaggi semplici. - Più passaggi sono sempre meglio. Ogni trasferimento può perdere informazioni o aggravare errori. - Il concatenamento necessita di una struttura. Librerie come LangChain offrono aiutanti, ma una catena è composta solo da alcune chiamate di funzione che passano stringhe o JSON.
Un team legale gestisce i contratti in tre chiamate. Il primo estrae le clausole in JSON, il secondo segnala le clausole che differiscono da un modello standard e il terzo scrive un riepilogo in inglese semplice dei soli elementi contrassegnati.
Un flusso di lavoro di marketing genera innanzitutto una struttura del blog. Un controllo del codice conferma che la struttura copre le parole chiave richieste, quindi ogni sezione viene scritta in una chiamata separata affinché gli articoli rimangano coerenti.
Uno strumento di supporto classifica innanzitutto un'e-mail in arrivo come fatturazione, bug o cancellazione. Quindi invia l'e-mail a un prompt specifico della categoria con allegato il testo della policy corretta, che è una catena con un ramo.
Un ricercatore riassume 20 articoli uno alla volta, quindi passa i 20 riassunti a un prompt finale che confronta i loro metodi. Ciò impedisce che ogni singola chiamata venga sovraccaricata di contesto.
I framework rappresentano sempre più catene come grafici espliciti di passaggi. Ciò semplifica l'aggiunta di rami, tentativi e punti in cui una persona rivede l'output. Poiché i modelli gestiscono contesti più lunghi e seguono meglio istruzioni complesse, alcune catene che esistono solo per aggirare i limiti del modello potrebbero riunirsi in singole chiamate. Altri rimarranno, perché offrono punti di ispezione, controlli di conformità e controllo dei costi che una chiamata non è possibile. Il campo si sta stabilizzando su una pratica via di mezzo: utilizzare catene fisse in cui i passaggi sono noti e preservare l’autonomia degli agenti per le attività che ne hanno veramente bisogno.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Il concatenamento dei prompt suddivide un'attività in una sequenza fissa di prompt più piccoli, in cui l'output di ogni passaggio diventa l'input del passaggio successivo: ad esempio estrai, quindi analizza, quindi crea una bozza. Ciò rende il funzionamento di LLM più affidabile e più semplice da eseguire il debug rispetto a un prompt gigante. Inoltre rimane più prevedibile di un agente autonomo, perché lo sviluppatore decide i passaggi anziché il modello.
Il concatenamento suddivide un'attività in fasi ordinate e ciascuna fase trasmette il proprio output come input della fase successiva.
Chi controlla il percorso è la differenza fondamentale. Una catena segue una sequenza scritta dallo sviluppatore. Un agente sceglie le sue azioni mentre è in esecuzione.
Le porte sono controlli nel codice ordinario, come la convalida di JSON o un punteggio di confidenza, che decidono se la catena continua.
Ogni chiamata diventa un compito più semplice, il che migliora la precisione, ma l'esecuzione di più chiamate in sequenza richiede più tempo.
0,95 moltiplicato per se stesso quattro volte fa circa 0,81. Ecco perché gli errori si accumulano e i cancelli contano.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Spiegazione dei prompt del sistema
Intelligenza artificiale linguistica