Il prossimoProssima guida
Guardrail e moderazione dell'output
Intelligenza artificiale linguistica
GUIDA ALL'AI linguistica
L'auto-perfezionamento è una tecnica di suggerimento in cui un modello linguistico critica il proprio output e lo riscrive, ripetendo il ciclo finché la risposta non migliora.
Ascolta questa guidaNarrato dall'IA · ~2 min
It matters because models can often spot and fix their own mistakes without any extra training or human feedback.
Self-Refine, introdotto da Madaan e colleghi nel 2023, esegue lo stesso modello in tre ruoli: generatore, critico e revisore. Innanzitutto il modello produce una risposta iniziale. Quindi viene richiesto di fornire un feedback specifico e utilizzabile su tale risposta (ad esempio, "questo codice non dispone della gestione degli errori" o "questo riepilogo non ha indicato l'importo del costo"). Infine, riscrive la risposta utilizzando quel feedback. Il ciclo si ripete finché il modello non decide che l'output è sufficientemente buono o non viene raggiunto un limite di passo. Fondamentalmente, non sono richiesti formazione aggiuntiva, modello di ricompensa o strumento esterno, ma solo suggerimenti intelligenti. In attività come l'ottimizzazione del codice, il dialogo e la riscrittura del sentiment, questo ciclo ha migliorato in modo misurabile la qualità rispetto alla generazione a scatto singolo.
Miglioramento del codice generato facendo in modo che il modello segnali casi limite mancanti, quindi riscrive la funzione per gestirli
Rifinire una bozza di email o un saggio con tono e chiarezza autocritici, quindi rivederlo per un pubblico target
Ottimizzare una risposta a un problema di matematica o di ragionamento controllando ogni passaggio e correggendo gli errori aritmetici
Perfezionare una risposta dell'assistenza clienti in modo che risponda direttamente alla domanda dell'utente invece di fornire una risposta generica
L'auto-perfezionamento sta diventando un elemento fondamentale per i sistemi ad agenti, in cui i modelli elaborano, testano e riparano in modo iterativo codici o piani prima di agire. Aspettatevi un'integrazione più stretta con verificatori esterni (test unitari, calcolatori, ricerca) in modo che la critica sia fondata su segnali reali piuttosto che sull'opinione del modello. La ricerca sta indagando su quando l’autocritica aiuta rispetto a quando i modelli ripetono ostinatamente gli errori e i controllori adattivi che decidono quanti cicli di perfezionamento effettivamente sono necessari per una determinata attività per bilanciare la qualità con i costi.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
L'auto-perfezionamento è una tecnica di suggerimento in cui un modello linguistico critica il proprio output e lo riscrive, ripetendo il ciclo finché la risposta non migliora. È importante perché i modelli spesso riescono a individuare e correggere i propri errori senza alcuna formazione aggiuntiva o feedback umano.
Self-Refine utilizza un modello in tre ruoli suggeriti: genera una bozza, la critica e quindi la rivede.
Una caratteristica distintiva di Self-Refine è che non necessita di formazione extra, modello di ricompensa o feedback umano, ma solo di suggerimenti.
Criticare in un nuovo suggerimento incoraggia la valutazione obiettiva piuttosto che razionalizzare la risposta originale.
Una critica specifica e attuabile (ad esempio "aggiungere la gestione degli errori") guida modifiche mirate; un feedback vago produce revisioni vaghe.
Se il modello non è in grado di riconoscere un problema, la sua autocritica non lo farà emergere, quindi la revisione non potrà risolverlo.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Guardrail e moderazione dell'output
Intelligenza artificiale linguistica