SeterusnyaPanduan seterusnya
Peningkatan Masa Ujian
Teknikal
PANDUAN AI Bahasa
Penskalaan Pengiraan Masa Ujian
Penskalaan pengiraan masa ujian bermakna memberikan model lebih masa berfikir dan pengiraan apabila ia menjawab soalan, dan bukannya menjadikannya lebih besar semasa latihan.
Dengar panduan iniAI-diceritakan · ~2 min
Pada halaman ini2 min dibaca
Gambaran keseluruhan
Ia adalah kejayaan di sebalik 'model penaakulan' yang boleh menyelesaikan masalah matematik dan pengekodan yang sukar dengan berbincang sebelum menjawab.
Menyelam dalam
Selama bertahun-tahun, kemajuan AI bermakna latihan penskalaan: lebih banyak data, lebih banyak parameter, lebih banyak pengiraan pralatihan. Penskalaan pengiraan masa ujian menambah paksi kedua, menghabiskan lebih banyak pengiraan pada inferens. Daripada memancarkan jawapan serta-merta, model penaakulan menjana rantaian pemikiran dalaman yang panjang, meneroka langkah, menyemak kerja dan menjejak ke belakang. Teknik termasuk rantaian pemikiran yang dilanjutkan, persampelan banyak penyelesaian calon dan memilih yang terbaik (konsistensi kendiri atau terbaik-of-N), dan carian gaya pokok dipandu oleh model pengesah atau ganjaran. Pemikiran lanjutan o1 dan o3 OpenAI, DeepSeek-R1 dan Claude mempopularkan perkara ini: ketepatan pada matematik persaingan dan pengaturcaraan melonjak secara mendadak apabila anda membiarkan model 'berfikir lebih lama,' berdagang kependaman dan kos untuk ketepatan pada masalah apabila jawapan segera gagal.
Pelaksanaan Dunia Sebenar
Model o1 dan o3 OpenAI memikirkan masalah matematik peringkat Olympiad langkah demi langkah, mengatasi model jawapan segera secara mendadak pada AIME dan penanda aras pertandingan.
DeepSeek-R1 menggunakan pembelajaran pengukuhan untuk mengajar penaakulan rantaian pemikiran yang panjang, secara terbuka menunjukkan keuntungan ketepatan yang besar daripada pengiraan inferens tambahan.
Mod pemikiran lanjutan Claude membolehkan pembangun menetapkan belanjawan token supaya model membuat pertimbangan lebih lama pada tugas pengekodan atau analisis yang kompleks sebelum membalas.
AlphaCode dan sistem yang serupa mencontohi ribuan program calon pada masa ujian, kemudian menapis dan menyusunnya untuk menyelesaikan cabaran pengaturcaraan yang kompetitif.
Masa Depan Penskalaan Pengiraan Masa Ujian
Pengiraan masa ujian kini merupakan tuas penskalaan utama di samping latihan. Jangkakan belanjawan penyesuaian di mana model memutuskan betapa sukar untuk berfikir berdasarkan kesukaran, penaakulan yang lebih murah melalui penyulingan rantai panjang kepada yang lebih pendek, dan gelung 'agentik' yang menyelangi pemikiran dengan panggilan alat dan carian web. Apabila perkakasan inferens bertambah baik, penaakulan yang disengajakan akan menjadi lalai untuk tugasan berkepentingan tinggi seperti penyelidikan saintifik, kejuruteraan perisian dan perancangan yang kompleks, manakala carian pantas kekal pantas dan murah.
Mempraktikkannya
Mengapa ia penting
- Kelajuan dan skala. Aliran kerja bahasa boleh bergerak lebih pantas tanpa mengorbankan konsistensi.
- Akses dan capai. Ia meluaskan akses merentas bahasa dan gaya komunikasi.
- Keputusan yang lebih jelas. Pasukan boleh menghabiskan lebih banyak masa untuk membuat pertimbangan manakala automasi mengendalikan pengulangan.
Berhati-hati untuk
- Fakta halusinasi boleh memasukkan laporan, aliran sokongan atau hasil penyelidikan secara senyap-senyap.
- Sensitiviti segera boleh mencipta hasil yang tidak konsisten merentas permintaan yang serupa.
- Data teks sensitif mungkin terdedah jika kawalan akses lemah.
Langkah seterusnya
- Tentukan format output, nada dan standard kualiti sebelum pelancaran.
- Respons asas dengan sumber yang dipercayai apabila ketepatan penting.
- Simpan pusat pemeriksaan semakan manusia untuk output berkepentingan tinggi.
- Jejaki corak kegagalan dan latih semula gesaan atau aliran kerja dengan kerap.
Teruskan Meneroka
Newsletter percuma
Dapatkan taklimat AI harian
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Take the Test-Time Compute Scaling quiz
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Soalan lazim
Apakah Penskalaan Pengiraan Masa Ujian?
Penskalaan pengiraan masa ujian bermakna memberikan model lebih masa berfikir dan pengiraan apabila ia menjawab soalan, dan bukannya menjadikannya lebih besar semasa latihan. Ia adalah kejayaan di sebalik 'model penaakulan' yang boleh menyelesaikan masalah matematik dan pengekodan yang sukar dengan berbincang sebelum menjawab.
Apakah yang dimaksudkan dengan 'pengiraan masa ujian'?
Pengiraan masa ujian (masa inferens) ialah kerja yang dilakukan semasa menjana jawapan, berbeza daripada pengiraan yang digunakan semasa pralatihan.
In test-time scaling studies, what can extra inference compute be used for?
The study examines inference-time strategies including sampling candidates, revising answers and using process-based reward models to allocate computation.
Apakah pertukaran teras bagi penskalaan pengiraan masa ujian?
Membiarkan model berfikir lebih lama meningkatkan ketepatan pada masalah sukar tetapi meningkatkan masa tindak balas dan kos pengiraan.
Apakah persampelan 'best-of-N'?
Best-of-N menjana berbilang percubaan penyelesaian secara selari dan menggunakan penjaring atau pengesah untuk mengekalkan yang paling kuat, satu bentuk penskalaan masa ujian.
Mengapakah pengiraan masa ujian dianggap sebagai 'paksi penskalaan' baharu?
Selama bertahun-tahun penskalaan bermakna latihan yang lebih besar dijalankan; pengiraan masa ujian menambah cara kedua untuk meningkatkan keupayaan, dengan mengira lebih pada inferens.
Teruskan belajar
Panduan berkaitan
Lebih banyak panduan dipilih untuk topik ini