什麼是 LLM 的「能力表達分離」現象？
最新研究發現，大型語言模型（LLMs）存在一種名為「能力表達分離」（Capability-Expression Dissociation）的現象：模型在訓練過程中已經學習並記憶了某些知識或能力，但在標準生成情境下卻無法有效表達出來。這意味著模型「學會了」卻「說不出來」，形成一種隱性知識與顯性輸出之間的斷裂。
研究團隊在 300 個不同類型的提示詞-回應生成實驗中發現，無論是敘事創作還是問題解決任務，都存在這種現象。模型能夠在特定誘導條件下重構並追溯訓練資料中的內容，但這些能力在日常對話或一般生成時不會自然顯現。
為什麼模型會出現「學會但說不出來」的情況？
這個現象的根本原因涉及模型訓練與推理之間的複雜互動。當模型在預訓練階段接觸大量資料時，會建立廣泛的知識表徵，但這些表徵在推理時不一定能夠被完整激活。研究指出，這與以下因素有關：
- 生成溫度與隨機性：過低的溫度設置可能導致模型過度依賴最常見的輸出模式，忽略罕見但正確的知識
- 提示詞框架：不同的提示結構會觸發不同的內部表徵路徑
- 上下文制約：模型會優先產生「安全」或「常見」的回應，而非精確但少見的答案
如何透過提示詞喚醒模型的隱藏能力？
根據研究結果，以下提示詞策略可以有效誘導模型展現原本隱藏的能力：
1. 角色扮演法
請以專業[領域]專家的角度回答這個問題，並詳細解釋你的推理過程
2. 思考鏈提示（Chain of Thought）
讓我們一步一步思考這個問題。首先...其次...最後...
3. 假設性詢問
如果你是這個領域的頂尖研究者，你會如何分析這個問題？
4. 蘇格拉底式提問
在回答之前，請先列出這個問題的所有前提假設
實務應用：提升提示詞效果的具體步驟
要在實際應用中喚醒 LLM 的隱藏能力，建議遵循以下步驟：
- 診斷問題：先以基礎提示測試模型當前能力
- 選擇策略：根據任務性質選擇適當的誘導方法
- 逐步優化：從角色提示開始，逐步加入思考鏈元素
- 迭代測試：記錄不同提示模板的效果差異
例如，面對數學應用題時，單純詢問答案可能得到錯誤結果，但加上「請列出計算步驟」的請求，模型往往能展現出更強的推理能力。
結論與未來展望
「能力表達分離」現象揭示了 LLM 複雜的內部運作機制。對於提示詞工程師而言，這意味著模型的真實能力往往超越其預設輸出。透過精心設計的提示策略，我們可以更有效地挖掘模型的潛在知識。
未來研究方向包括：開發自動化的隱藏能力偵測工具、建立更具體的誘導提示模板庫，以及研究不同模型架構之間的能力表達差異。對於 AI 開發者和使用者而言，理解這一現象將有助於更精確地發揮 LLM 的價值。