Penskalaan Pengiraan Masa Ujian
Penskalaan pengiraan masa ujian bermakna memberikan model lebih masa berfikir dan pengiraan apabila ia menjawab soalan, dan bukannya menjadikannya lebih besar semasa latihan.
Gambaran keseluruhan
Ia adalah kejayaan di sebalik 'model penaakulan' yang boleh menyelesaikan masalah matematik dan pengekodan yang sukar dengan berbincang sebelum menjawab.
Menyelam dalam
Selama bertahun-tahun, kemajuan AI bermakna latihan penskalaan: lebih banyak data, lebih banyak parameter, lebih banyak pengiraan pralatihan. Penskalaan pengiraan masa ujian menambah paksi kedua, menghabiskan lebih banyak pengiraan pada inferens. Daripada memancarkan jawapan serta-merta, model penaakulan menjana rantaian pemikiran dalaman yang panjang, meneroka langkah, menyemak kerja dan menjejak ke belakang. Teknik termasuk rantaian pemikiran yang dilanjutkan, persampelan banyak penyelesaian calon dan memilih yang terbaik (konsistensi kendiri atau terbaik-of-N), dan carian gaya pokok dipandu oleh model pengesah atau ganjaran. Pemikiran lanjutan o1 dan o3 OpenAI, DeepSeek-R1 dan Claude mempopularkan perkara ini: ketepatan pada matematik persaingan dan pengaturcaraan melonjak secara mendadak apabila anda membiarkan model 'berfikir lebih lama,' berdagang kependaman dan kos untuk ketepatan pada masalah apabila jawapan segera gagal.
Wawasan Teknikal
Model ini dilatih dengan pembelajaran pengukuhan untuk menghasilkan token penaakulan yang berguna, kemudian secara inferens anda memperuntukkan 'belanjawan berfikir.' Lebih banyak token membiarkannya menguraikan masalah, menangkap ralatnya sendiri dan mengesahkan sendiri. Pensampelan Best-of-N dan carian berpandukan pengesah menambah pengiraan selari: menjana banyak percubaan, menjaringkannya, mengekalkan pemenang. Yang penting, model yang lebih kecil dengan pengiraan masa ujian yang murah boleh memadankan model yang lebih besar yang menjawab serta-merta, membentuk semula keluk kos.
Kesan Strategik
Kelajuan dan skala
Aliran kerja bahasa boleh bergerak lebih pantas tanpa mengorbankan konsistensi.
Akses dan capai
Ia meluaskan akses merentas bahasa dan gaya komunikasi.
Keputusan yang lebih jelas
Pasukan boleh menghabiskan lebih banyak masa untuk membuat pertimbangan manakala automasi mengendalikan pengulangan.
Masa Depan Penskalaan Pengiraan Masa Ujian
Pengiraan masa ujian kini merupakan tuas penskalaan utama di samping latihan. Jangkakan belanjawan penyesuaian di mana model memutuskan betapa sukar untuk berfikir berdasarkan kesukaran, penaakulan yang lebih murah melalui penyulingan rantai panjang kepada yang lebih pendek, dan gelung 'agentik' yang menyelangi pemikiran dengan panggilan alat dan carian web. Apabila perkakasan inferens bertambah baik, penaakulan yang disengajakan akan menjadi lalai untuk tugasan berkepentingan tinggi seperti penyelidikan saintifik, kejuruteraan perisian dan perancangan yang kompleks, manakala carian pantas kekal pantas dan murah.
Pelaksanaan Dunia Sebenar
Model o1 dan o3 OpenAI memikirkan masalah matematik peringkat Olympiad langkah demi langkah, mengatasi model jawapan segera secara mendadak pada AIME dan penanda aras pertandingan.
DeepSeek-R1 menggunakan pembelajaran pengukuhan untuk mengajar penaakulan rantaian pemikiran yang panjang, secara terbuka menunjukkan keuntungan ketepatan yang besar daripada pengiraan inferens tambahan.
Mod pemikiran lanjutan Claude membolehkan pembangun menetapkan belanjawan token supaya model membuat pertimbangan lebih lama pada tugas pengekodan atau analisis yang kompleks sebelum membalas.
AlphaCode dan sistem yang serupa mencontohi ribuan program calon pada masa ujian, kemudian menapis dan menyusunnya untuk menyelesaikan cabaran pengaturcaraan yang kompetitif.
Risiko & Pengawal
Fakta halusinasi boleh memasukkan laporan, aliran sokongan atau hasil penyelidikan secara senyap-senyap.
Sensitiviti segera boleh mencipta hasil yang tidak konsisten merentas permintaan yang serupa.
Data teks sensitif mungkin terdedah jika kawalan akses lemah.
Hala Tuju Pelaksanaan
Tentukan format output, nada dan standard kualiti sebelum pelancaran.
Respons asas dengan sumber yang dipercayai apabila ketepatan penting.
Simpan pusat pemeriksaan semakan manusia untuk output berkepentingan tinggi.
Jejaki corak kegagalan dan latih semula gesaan atau aliran kerja dengan kerap.
Teruskan Meneroka
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Test-Time Compute Scaling quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Panduan seterusnya
Peningkatan Masa Ujian
Soalan lazim
Apakah Penskalaan Pengiraan Masa Ujian?
Penskalaan pengiraan masa ujian bermakna memberikan model lebih masa berfikir dan pengiraan apabila ia menjawab soalan, dan bukannya menjadikannya lebih besar semasa latihan. Ia adalah kejayaan di sebalik 'model penaakulan' yang boleh menyelesaikan masalah matematik dan pengekodan yang sukar dengan berbincang sebelum menjawab.
Apakah yang dimaksudkan dengan 'pengiraan masa ujian'?
Pengiraan masa ujian (masa inferens) ialah kerja yang dilakukan semasa menjana jawapan, berbeza daripada pengiraan yang digunakan semasa pralatihan.
Bagaimanakah model penaakulan seperti o1 menggunakan pengiraan masa ujian tambahan?
Mereka menghasilkan penaakulan langkah demi langkah yang diperluaskan, meneroka dan menyemak penyelesaian sebelum melakukan tindak balas akhir.
Apakah pertukaran teras bagi penskalaan pengiraan masa ujian?
Membiarkan model berfikir lebih lama meningkatkan ketepatan pada masalah sukar tetapi meningkatkan masa tindak balas dan kos pengiraan.
Apakah persampelan 'best-of-N'?
Best-of-N menjana berbilang percubaan penyelesaian secara selari dan menggunakan penjaring atau pengesah untuk mengekalkan yang paling kuat, satu bentuk penskalaan masa ujian.
Mengapakah pengiraan masa ujian dianggap sebagai 'paksi penskalaan' baharu?
Selama bertahun-tahun penskalaan bermakna latihan yang lebih besar dijalankan; pengiraan masa ujian menambah cara kedua untuk meningkatkan keupayaan, dengan mengira lebih pada inferens.