Pracetak menemukan bahwa perubahan subjek secara berkala menimbulkan kejutan dalam model bahasa dasar
Pracetak arXiv baru melaporkan bahwa memasukkan subjek baru setiap beberapa ratus token dapat meningkatkan kejutan dan koneksi yang dinilai dari keluaran model bahasa. Efeknya tidak menghasilkan dokumen yang terintegrasi atau meningkatkan hasil terbaik dalam pengujian pengepakan sampah online, sehingga memperlihatkan batasan berapa lama generasi dievaluasi.
Baca cerita Sumber terverifikasi: arxiv.org
