發生了什麼事
引入了一個名為 LogicTrack 的新研究框架，以解決大型語言模型 (LLM) 透過有邏輯缺陷的推理鏈產生正確的最終答案的問題。 LogicTrack 充當神經符號系統，自動將思想鏈 (CoT) 過程中的各個步驟形式化為符號表示。然後使用自動定理證明器驗證這些表示，以確保邏輯一致性。該框架引入了基於求解器的回溯獎勵（SBR）機制，該機制提供逐步評分來指導推理過程中的回溯樹搜尋。此外，研究人員使用 LogicTrack 產生監督微調 (SFT) 數據，使模型能夠將逐步審核作為內部功能。
LogicTrack 透過引入神經符號層來解決思想鏈推理的「黑盒子」本質。這個框架不是僅僅依靠模型的內部機率分佈來決定下一步，而是將每個推理步驟轉換為形式符號語言。
該系統利用自動定理證明器來檢查這些符號步驟的有效性。如果發現某個步驟在邏輯上不合理，則基於求解器的回溯獎勵（SBR）機制會觸發回溯樹搜索，迫使模型探索邏輯上一致的替代推理路徑。
除了推理時間審核之外，研究人員還使用該框架創建了「回溯痕跡」資料集。透過根據這些資料微調模型，他們使模型能夠執行某種形式的自我審核，模型學會優先考慮邏輯上合理的推理路徑，而無需在未來推理的每一步都需要外部定理證明者。
為什麼這很重要
在目前法學碩士培訓中對基於結果的回饋的依賴往往掩蓋了「幻覺」或邏輯上無效的推理步驟，這在醫學、法律或工程等高風險領域帶來了重大風險，因為這些領域的過程與結果同樣重要。透過將形式符號驗證整合到推理軌跡中，LogicTrack 提供了一種強制邏輯嚴謹性的機制。這種從純粹的機率輸出到可驗證的符號邏輯的轉變增強了人工智慧系統的可信度。透過微調內部化審計過程的能力表明了一條通往本質上更可靠且不易出現邏輯錯誤的模型的道路，即使在正式驗證環境之外操作時也是如此。該框架的有效性在八個推理基準和七個不同的法學碩士中得到了證明，表明其在提高模型可靠性方面具有廣泛的適用性。
目前的法學碩士培訓範式優先考慮最終答案，這可能會導致從不正確的邏輯中得出「正確」答案。這在高風險環境中是有問題的，因為推理過程必須是可審計和可驗證的。
LogicTrack 彌合了機率神經網路和確定性符號邏輯之間的差距。透過強制邏輯一致性，它降低了模型透過有缺陷或無意義的中間步驟得出正確結論的可能性。
該框架在七個不同的法學碩士中的成功表明該方法與模型無關，提供了一種標準化的方法來提高跨各種架構的推理鏈的品質。
互動機制：它實際上是如何運作的
以互動方式探索這項發展背後的基礎技術。
Which component of an AI application is the machine-learning model itself?
接下來看什麼
主要的未知因素是在推理過程中與運行自動定理證明器相關的計算開銷，這可能會限制延遲敏感應用程式中的即時部署。未來的發展可能會集中在優化自動形式化過程，以處理目前符號表示困難的更複雜的非數學推理任務。該框架如何擴展到更大、更不透明的模型，以及推理準確性的效能提升是否轉化為非基準環境中的現實可靠性，還有待觀察。使用者應該監控這種方法是否已整合到商業模型訓練流程中，或者它是否仍然主要是用於專門驗證任務的研究階段工具。
研究沒有具體說明在推理過程中運行定理證明器的延遲影響。實際採用將取決於生產環境中是否可以最大限度地減少這種開銷。
「自動形式化」的範圍是一個關鍵的限制。雖然對於數學和邏輯基準有效，但尚不清楚該框架如何有效地形式化主觀或模糊領域的推理。
公告中沒有詳細說明程式碼的可用性和所使用的特定定理證明器，因此該框架是否可用於獨立驗證或實作目前未知。