已驗證來源
每個故事都連結到最有力的可用證據:可用的原始來源,否則明確歸因的報告。
簡單的英語
發生了什麼、為什麼重要以及值得關注的內容——無需行話。
無填料
當訊號很弱時,我們不會發布任何內容,而是填充提要。
更多故事
9 故事創新
Physical-invariant inputs nearly triple a language model’s PDE-discovery accuracy, preprint says
An arXiv preprint by Fan Yang and Matt Thomson proposes translating spatiotemporal field data into physical quantities before giving it to a large language model. On simulated-field benchmarks, the authors say this interpretation stage nearly tripled recovered-equation accuracy versus showing the model raw data…arxiv.org創新
預印本論述 LLM 量化需要針對數值格式設計的變換
一篇 arXiv 預印本調查了量化大型語言模型前使用的變換方法,並指出經典變換編碼與分組、共享比例量化之間的衝突。它論證最佳的變換取決於部署格式以及比例資訊的分配方式。arxiv.org創新
研究發現注意力架構會降低 LLM 推理的能源成本
一項新的實證研究報告稱,注意力架構強烈影響語言模型推理能量隨上下文長度增長的大小。它發現多頭注意力的增長更加陡峭,分組查詢注意力的增長更加平坦,分組查詢注意力的能量幾乎恆定,並結合......arxiv.org創新
研究人員為基於人工智慧的無線電幹擾抑制添加量化層
一篇新的 arXiv 論文描述了一種人工智慧系統,該系統將自回歸變壓器與有限標量量化標記器相結合,以抑制結構化射頻幹擾。作者報告說,與傳統和早期基於人工智慧的方法相比,延遲更低,幹擾抑制更強,但沒有提供…arxiv.org創新
Paper proposes lower-cost pruning for Transformer models during fine-tuning
REP-LIE estimates which Transformer weights to remove using gradients from LoRA low-rank matrices, aiming to reduce the resources required for model pruning and subsequent fine-tuning.arxiv.org創新
Study identifies when neural-network surrogates improve optimization
A new arXiv preprint argues that neural-network surrogates help optimization only when they assist candidate selection within a bounded neighborhood and leave the underlying acceptance mechanism intact.arxiv.org創新
AFDBench tests whether AI can write National Weather Service forecast discussions from weather data
A new preprint introduces AFDBench, a benchmark for testing whether language models can turn structured AI weather forecasts into accurate, professionally written National Weather Service discussions.arxiv.org創新
Preprint explains what reinforcement learning changes inside language models
A new preprint breaks down reinforcement-learning post-training for language models, examining how rewards, prompts, model scale and prior behavior shape the results.arxiv.org創新
MacroAgent 使用 LLM 設計的啟發式方法來改善晶片巨集合法化
一篇 arXiv 預印本介紹了 MacroAgent,這是一個四階段的框架,利用大型語言模型來發掘用於安排大型電路組件的輪廓演算法。作者指出,在 TILOS、Chipyard 和 Cadence Innovus 的評估中,它提升了佈局規則性、縮短了繞線長度,並帶來更好的端對端結果。arxiv.org