什麼是遞迴推理模型？

遞迴推理模型（Recursive Reasoning Model）是一種讓神經網路透過反覆思考來解決複雜問題的架構。其中最具代表性的包括層級推理模型（Hierarchical Reasoning Model, HRM）和微型遞迴模型（Tiny Recursive Model, TRM）。

這些模型的核心概念是「權重共享」——使用小型網路結構，透過多次迭代來逐步優化內部潛在狀態（latent states），最終得到答案。這種方法特別適合解決 NP 類型的組合優化問題，例如數獨、數學推理等。

運作範例：假設要解決一道數學證明題，傳統做法是一次性輸出完整解答；但遞迴模型會先產生初步猜測，然後反覆檢查、修正，最終收斂到正確答案。

傳統遞迴模型的訓練瓶頸

雖然 HRM 和 TRM 展現了優異的效能，但它們在訓練過程中存在兩個主要問題：

  • 深度監督需求（Deep Supervision）：需要在網路的每一層都提供監督信號，導致訓練複雜度大幅提升。
  • 長展開問題（Long Unrolls）：網路需要展開很深的迭代步驟才能收斂，這會增加實際運算時間（wall-clock cost），甚至使模型偏向「貪心」的中間行為。

簡單來說，這就像要求一個學生在考試時同時写出解題的每一個思考步驟——不僅費時，還可能讓學生過度依賴捷徑。

RSM 的核心創新：莖模型架構

RSM（Recursive Stem Model，中文可譯為「遞迴莖模型」）提出了一個革命性的解決方案：將遞迴推理過程中的「思考」和「驗證」分開處理。

RSM 的運作步驟：

  1. 莖（Stem）階段：網路先進行多次「思考迭代」，產生候選解決方案。
  2. 驗證（Verify）階段：使用獨立的驗證模組檢查候選方案是否正確。
  3. 回饋迴路：若驗證失敗，將錯誤信號傳回，指導下一次思考迭代。

這種設計避免了長展開帶來的訓練困難，同時保持模型的小型化優勢。

RSM 的實際應用與優勢

根據研究，RSM 在多個場景展現顯著優勢：

  • 計算效率提升：相比傳統 HRM/TRM，RSM 的訓練時間減少 30-50%。
  • 避免貪心偏差：模型不再盲目追求快速的中間解答，而是專注於最終正確性。
  • 小型化部署：由於權重共享特性，RSM 可以在資源受限的設備上運行。

應用場景範例：

  • 自動化數學定理證明
  • 邏輯推理問答系統
  • 路徑規劃與組合優化

未來展望

RSM 的出現標誌著遞迴推理研究邁入新階段。未來的發展方向可能包括：

  • 將 RSM 架構與大型語言模型結合
  • 探索更高效的驗證機制
  • 應用於更多 NP 完整問題

總結來說，RSM 提供了一種平衡「模型規模」與「推理深度」的新思路，讓小型網路也能勝任過去只屬於大型模型的複雜推理任務。