Il prossimoProssima guida
Aumento del tempo di prova
Tecnico
GUIDA ALL'AI linguistica
Il ridimensionamento del calcolo in fase di test significa dare a un modello più tempo di riflessione e calcolo quando risponde a una domanda, anziché ingrandirlo solo durante l'addestramento.
Ascolta questa guidaNarrato dall'IA · ~2 min
It is the breakthrough behind 'reasoning models' that can solve hard math and coding problems by deliberating before responding.
Per anni, il progresso dell’intelligenza artificiale ha significato ampliare la formazione: più dati, più parametri, più calcoli di pre-addestramento. Il ridimensionamento del calcolo in fase di test aggiunge un secondo asse, impiegando più calcoli durante l'inferenza. Invece di emettere una risposta istantanea, un modello di ragionamento genera una lunga catena interna di pensiero, esplorando i passaggi, controllando il lavoro e tornando indietro. Le tecniche includono una catena di pensiero estesa, il campionamento di molte soluzioni candidate e la scelta della migliore (autocoerenza o migliore di N) e una ricerca ad albero guidata da un verificatore o un modello di ricompensa. O1 e o3 di OpenAI, DeepSeek-R1 e il pensiero esteso di Claude hanno reso popolare questo concetto: l'accuratezza dei calcoli matematici e della programmazione della competizione aumenta drasticamente quando si lascia che il modello "pensi più a lungo", scambiando latenza e costi con la correttezza nei problemi in cui una risposta rapida fallisce.
I modelli o1 e o3 di OpenAI elaborano i problemi di matematica a livello di Olimpiadi passo dopo passo, superando notevolmente i modelli a risposta istantanea sui benchmark AIME e della concorrenza.
DeepSeek-R1 ha utilizzato l'apprendimento per rinforzo per insegnare il ragionamento basato su una lunga catena di pensiero, dimostrando apertamente grandi guadagni di precisione derivanti dal calcolo di inferenza aggiuntivo.
La modalità di pensiero esteso di Claude consente agli sviluppatori di impostare un budget token in modo che il modello ragioni più a lungo su attività complesse di codifica o analisi prima di rispondere.
AlphaCode e sistemi simili campionano migliaia di programmi candidati al momento del test, quindi li filtrano e li classificano per risolvere le sfide di programmazione competitive.
Il calcolo del tempo di test è ora una leva di scalabilità primaria insieme alla formazione. Aspettatevi budget adattivi in cui il modello decide quanto è difficile pensare in base alla difficoltà, ragionamenti più economici attraverso la distillazione di catene lunghe in catene più brevi e cicli "agentici" che intercalano il pensiero con chiamate a strumenti e ricerche sul web. Con il miglioramento dell’hardware di inferenza, il ragionamento deliberato diventerà l’impostazione predefinita per attività ad alto rischio come la ricerca scientifica, l’ingegneria del software e la pianificazione complessa, mentre le ricerche rapide rimarranno veloci ed economiche.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Il ridimensionamento del calcolo in fase di test significa dare a un modello più tempo di riflessione e calcolo quando risponde a una domanda, anziché ingrandirlo solo durante l'addestramento. È la svolta dietro i "modelli di ragionamento" in grado di risolvere difficili problemi di matematica e di programmazione deliberando prima di rispondere.
Il calcolo del tempo di test (tempo di inferenza) è il lavoro svolto durante la generazione di una risposta, distinto dal calcolo utilizzato durante il pre-addestramento.
The study examines inference-time strategies including sampling candidates, revising answers and using process-based reward models to allocate computation.
Lasciare che un modello rifletta più a lungo migliora la correttezza sui problemi difficili ma aumenta i tempi di risposta e i costi computazionali.
Best-of-N genera più tentativi di soluzione in parallelo e utilizza uno scorer o un verificatore per mantenere quello più forte, una forma di scalabilità del tempo di test.
Per anni il ridimensionamento ha significato allenamenti più grandi; Il calcolo in fase di test aggiunge un secondo modo per aumentare la capacità, computando di più durante l'inferenza.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Aumento del tempo di prova
Tecnico