Pracetak mencadangkan anggaran kesukaran berterusan untuk mengurangkan kos ketekalan diri LLM
Pracetak arXiv baharu mencadangkan Ketekalan Diri Fleksibel, kaedah yang menganggarkan betapa tidak pasti model bahasa tentang soalan dan melaraskan bilangan laluan penaakulan sampel. Penulis melaporkan penjimatan token sehingga 76% sambil mengekalkan ketepatan setanding dengan ketekalan diri standard merentas pelbagai…