Jürgen Schmidhuber 如何把記憶、壓縮與好奇心接到 LLM？從 LSTM、生成式 AI 到可控代理

Jürgen Schmidhuber 如何把記憶、壓縮與好奇心接到 LLM？從 LSTM、生成式 AI 到可控代理

Jürgen Schmidhuber 的研究常被放進「現代 AI 的早期奠基」敘事，但若只用一個稱號概括，反而會看不見他的工作如何連到今日的 LLM。從長短期記憶、遞迴神經網路、壓縮進步、好奇心與元學習，到生成模型與注意力，他反覆追問同一件事：一個學習系統如何從有限的觀測中找出可重用的結構，並把新的經驗轉成下一次更有效的預測與行動。

KAUST 的官方人物頁將 Schmidhuber 列為電腦科學教授、生成式 AI 卓越中心共同主席與研究團隊主持人，並把他的早期生成式 AI、線性 Transformer、自監督預訓練與知識蒸餾工作放在同一條研究脈絡中：KAUST Jürgen Schmidhuber 官方人物頁。本文會把這些主張拆成可檢查的技術概念，再說明它們為何仍影響 LLM 的記憶、推理與部署。

長短期記憶：讓序列模型不只看眼前

長短期記憶（LSTM）最重要的貢獻，不只是多了一種循環單元，而是把「什麼資訊應該保留、什麼資訊可以忘掉、什麼資訊應該輸出」變成可學習的控制問題。一般遞迴網路在序列很長時容易遇到梯度消失或爆炸，模型即使看過早期線索，也很難在數十步、數百步之後把它取回。LSTM 透過記憶狀態與閘門，讓資訊可以在較長時間尺度上流動。

這個想法與今天的上下文視窗有明顯相似處，但不能把兩者混為一談。Transformer 以注意力直接比較 token 關係，LSTM 則以狀態更新逐步處理序列；前者擅長平行化與全局關聯，後者提供一種可持續更新的工作記憶。理解這個差異，有助於設計混合系統：讓 LLM 讀取長文件時使用檢索與注意力，讓代理在多步工具任務中使用明確、可重置的狀態，而不是把所有內容都塞進一個無限延長的提示。

Schmidhuber 團隊對 LSTM 的系統化整理，分析不同閘門、輸入與輸出連接如何影響學習能力與計算成本；這份研究常被用來回顧 LSTM 的設計空間：LSTM: A Search Space Odyssey。對 LLM 工程而言，真正可取的不是照抄某個單元，而是把記憶的讀、寫、遺忘規則明確化，讓它們可以測試、觀察與回滾。

壓縮進步：從預測走向可解釋的學習訊號

Schmidhuber 提出的壓縮進步觀點，將「有趣」理解成學習者在一段時間內找到更短描述的速度。若觀測到的新資料讓模型能用更簡潔的規則解釋，學習就有進展；若資料完全隨機或已經被預測得毫無新意，額外探索的價值就低。這不是把所有資料都壓成更短文字，而是把可重用的規律與暫時噪音區分開來。

這個觀點對 LLM 的資料選擇與上下文摘要很有啟發。訓練資料不能只按長度或熱門程度排序，也要觀察它是否帶來新概念、反例、跨領域連結或對既有錯誤的修正。上下文摘要也不應只追求 token 數下降；若摘要刪掉了限制條件、來源或不確定性，表面上更短，實際上卻降低了可驗證性。比較好的做法是同時保存摘要、原文位置與壓縮前後的任務測試結果。

他的壓縮進步論文把這套想法延伸到新奇、驚訝、注意力、創造力與科學發現：Driven by Compression Progress。在產品系統中，這不應被當作追求刺激的推薦演算法，而應轉成受約束的探索訊號：模型可以優先檢查高資訊量的未知處，但仍須遵守權限、成本、隱私與人工確認邊界。

好奇心與強化學習：探索不是任意試錯

如果模型永遠只追逐已知回饋，它很難處理新環境；但如果把任何未知都當成獎勵，代理又可能沉迷於無意義的變化。Schmidhuber 的好奇心研究嘗試用可學習的預測誤差與壓縮進步，讓代理把注意力放在能改善內部模型的觀測上：Simple Algorithmic Principles of Discovery, Curiosity & Creativity。

LLM agent 可以把這個概念翻譯成「資訊增益優先，但副作用受限」。例如，當代理遇到兩個候選 API，它可以先查詢能消除關鍵不確定性的那一個；但查詢本身不應自動改動資料、寄送訊息或執行交易。探索步驟要有明確的讀取權限、預算與停止條件，並把預測、觀測、錯誤與回饋保存下來，才能判斷代理究竟學到新規律，還是只在製造噪音。

元學習與自我改善：先定義「改善」

Schmidhuber 長期關注「學習如何學習」與可自我改善的系統。這個方向在 LLM 時代很容易被誇大，因為模型能寫出新的提示或程式，並不等於它改進了自己的能力。可驗證的改善至少要有固定基準、版本差異、回歸測試與失敗案例。若系統只在新任務上變好，卻破壞舊任務、來源引用或安全拒答，就不能稱為單純的進步。

因此，代理的自我改善迴圈應拆成幾個隔離層。第一層讓模型提出假設或候選策略；第二層在沙盒中執行，限制工具與資料權限；第三層由獨立評估器檢查正確性、成本與安全；第四層才決定是否把新策略註冊為可用版本。每一層都要能回到上一版，並保留測試輸入與輸出。這種設計把「創意」與「部署」分開，避免一次錯誤的自我修改直接影響生產環境。

生成式 AI 與注意力：不要把歷史敘事當成產品承諾

歐盟委員會的官方人物介紹指出，Schmidhuber 目前在 KAUST 與 Swiss AI Lab IDSIA 擔任研究與領導職務，並整理了他對生成式 AI、線性 Transformer 與自監督預訓練的研究主張：歐盟委員會 Jürgen Schmidhuber 官方頁。這類官方簡介適合用來確認人物身份與研究範圍，但產品文章仍應回到原始論文，分辨早期原理、後續實作與現代模型之間的差異。

線性注意力的核心問題是降低序列長度增加時的計算與記憶成本；它可能改變模型如何累積上下文，但不會自動解決事實錯誤、規劃失敗或權限治理。LLM 的工程選擇要看任務：長文件摘要、串流語音、即時代理與離線批次推論的瓶頸不同。若只因某種注意力形式在理論上更省計算，就宣稱一定更適合所有模型，反而忽略了品質、訓練穩定性與部署硬體的實際約束。

從 LSTM 到 LLM 記憶架構

把 LSTM、壓縮進步與注意力放在一起，可以得到一個適合 LLM 系統的三層記憶模型。第一層是短期工作記憶，保存本輪任務的目標、限制與工具狀態，任務結束後可以清除。第二層是可檢索事實，保存文件片段、來源、時間與可信度，回答前必須重新檢索。第三層是經過同意的長期偏好，例如格式或語言設定，使用者應能查看、修改與撤回。

每一層都需要不同的更新規則。短期狀態可以快速覆寫，但不可越權執行外部副作用；可檢索事實要有新鮮度與衝突處理；長期偏好則要有明確的使用者同意。模型若把暫時推測寫進長期記憶，往後每一次回答都可能放大同一個錯誤。這正是閘門式記憶與現代上下文管理仍然重要的原因：保存什麼，和如何生成一樣關鍵。

把研究洞見落到代理基礎設施

對要部署 LLM agent 的團隊，可以用四個問題檢查設計。第一，系統能否指出每個關鍵主張的來源與擷取時間。第二，模型在長任務中是否保留了目標與限制，而不是只保留最近幾句對話。第三，工具失敗、資料過期或權限不足時，系統是否會停止並交給人工。第四，同一份輸入在相同版本下能否重現決策路徑。這些問題比單看平均回答分數，更接近真實使用風險。

在訓練層，資料集要包含反例、拒答、錯誤工具回覆與長上下文截斷案例；在推論層，要把 token 預算、記憶寫入、工具權限與外部副作用分開；在治理層，要把模型版本、提示版本、索引版本與政策版本一起記錄。當品質下降時，先分辨是資料漂移、檢索失效、表示遺失、規劃錯誤還是權限改變，再決定回滾哪一層。這種可觀測性讓研究假設能被產品測試，而不是停在口號。

從語音與手寫辨識看長序列的實際限制

LSTM 的重要性也來自它曾經面對非常具體的長序列任務：語音、手寫、音樂與時間序列。這些資料不是整齊的句子，每一個輸入片段的邊界可能不明，標註也未必能逐步對齊。模型若只依賴最近幾步，就會漏掉前後文；若把整段訊號一次攤平，又會付出龐大計算與記憶成本。可學習的狀態更新，讓系統能在串流輸入中保留必要線索，並在新的觀測出現時修正判斷。

今天的語音 LLM、即時翻譯與多模態代理仍有類似限制。低延遲服務不能無限等待完整上下文，裝置端也不能假設雲端記憶永遠可用。因此，部署設計常需要把全局模型與局部狀態拆開：雲端模型處理複雜推理，邊緣端保存短期緩衝與斷線策略，兩者同步時附上時間戳與版本。這種分層讓系統在網路不穩、輸入不完整或使用者中斷時仍能安全收尾，而不是把半段狀態當成確定答案。

避免把「先驅」敘事變成錯誤歸因

Schmidhuber 的名字經常出現在 LSTM、生成式 AI 或 Transformer 的歷史爭論中。寫作時更可靠的做法，是把「本人提出的研究原理」「共同作者完成的實驗」「後來社群重新實作的工程」分開描述。官方人物頁可以確認職務與研究範圍，原始論文可以確認作者、方法與實驗，實際產品案例則需要另外的部署或技術文件。三種證據不能互相替代，也不應用媒體稱號取代技術細節。

這個證據習慣對 LLM 尤其重要。當一篇文章說某個方法「奠定了今天的模型」，讀者應該能追問：是數學形式被沿用，還是資料流程相似？是研究原型直接進入產品，還是後來經過完全不同的工程化？是改善了困惑度，還是改善了真實任務的可靠性？把這些問題寫進內容與評估，可以避免把複雜的研究接力簡化成單一人物的功勞，也能讓名人堂文章真正提供可查證的技術地圖。

給 LLM 時代的結語

Schmidhuber 的研究價值，不在於替今天的 LLM 提供一個簡單祖先名單，而在於提供一組持續有效的問題：模型如何保留長期資訊、如何辨識有價值的新奇、如何從經驗改善策略，以及如何用更短的表示保留真正重要的結構。LSTM 讓記憶更新成為可學習的機制，壓縮進步讓探索有了資訊論視角，好奇心讓代理不必盲目試錯，元學習則要求我們先定義什麼叫作改善。

當這些概念進入 LLM 產品，最重要的不是宣稱某位先驅「發明了今天的模型」，而是把技術連續性轉成可驗證的工程接口。哪些內容能寫入記憶、哪些工具可以被呼叫、哪些變更需要人工核准、哪些結果必須附上來源，都應有測試、日誌與回滾路徑。如此一來，從早期遞迴網路到今日生成式代理的歷史，才真正成為下一代 AI 基礎設施可以使用的設計資產。