प्रीप्रिंट एलएलएम स्व-स्थिरता लागत को कम करने के लिए निरंतर कठिनाई अनुमान का प्रस्ताव करता है
एक नया arXiv प्रीप्रिंट लचीली स्व-संगति का प्रस्ताव करता है, एक ऐसी विधि जो अनुमान लगाती है कि किसी प्रश्न के बारे में भाषा मॉडल कितना अनिश्चित है और नमूना तर्क पथों की संख्या को समायोजित करता है। लेखक विभिन्न स्तरों पर मानक आत्म-स्थिरता की तुलना में सटीकता बनाए रखते हुए 76% तक की टोकन बचत की रिपोर्ट करते हैं…