Raia Hadsell 如何讓 AI 學新任務而不忘記舊能力？從導航到 LLM agent 治理

Raia Hadsell 如何讓 AI 學新任務而不忘記舊能力？從導航到 LLM agent 治理

Raia Hadsell 的研究路線，適合用來回答一個 LLM agent 很難迴避的問題：模型如何在新任務中持續學習，又不把已經會的能力一起忘掉？從導航、機器人、遷移學習、continual learning 到今天的多步代理，真正的挑戰不是讓模型在單一 benchmark 變得更大，而是讓它能在變動環境裡保持可用、可解釋、可回復。

本文先以 Raia Hadsell 官方個人頁核對她目前公開的 Google DeepMind 研究與領導描述，再對照 Google DeepMind ICLR 2024 官方文章、研究論文與導航工作。人物頁能確認公開自述，研究文章能確認技術脈絡；本文對 LLM agent 的狀態、版本與工具治理則是工程推論，不冒充 Raia 本人的產品宣告。

如果把「進攻 AI LLM」只理解成堆算力，會忽略長期系統最常見的失敗：新資料覆蓋舊能力、工具結果沒有回到狀態、模型在陌生環境中過度自信、人工無法從錯誤中接手。Raia 的公開研究提供一套不同的讀法：先建立可遷移的表示與任務結構，再設計讓學習能持續的約束，最後用真實環境測試。

官方頁面如何描述 Raia Hadsell 的工作

Raia 的官方個人頁將她描述為 Google DeepMind 的研究副總裁，並寫到她共同領導 Frontier AI 單位，研究重點包括 AGI 的基礎挑戰、continual learning、transfer learning、深度強化學習、機器人控制與導航。這是她在個人頁上的公開自述，會隨時間更新；它不是完整履歷，也不應用來推測公司內部組織細節。

同一頁面保留了她從宗教與哲學背景轉向電腦科學、在 Yann LeCun 指導下完成博士研究，以及投入視覺、機器人與深度學習的路徑。人物故事有助於理解她為何重視跨任務學習，但不能把教育經歷直接當成研究成果的因果證明。可靠的文章仍要回到可查證的論文、作者列與官方研究頁。

Google DeepMind 的 官方團隊頁提醒讀者，前沿 AI 是科學家、工程師、倫理與產品角色共同完成的工作。Raia 的研究與領導影響應放在這個合作脈絡裡看，而不是把整個團隊的每項成果歸給單一人物。

Continual learning 的核心：學新事物而不摧毀舊能力

神經網路的「災難性遺忘」是 continual learning 的經典問題。模型在新分布上更新參數時，可能讓先前任務的表現大幅下降。對 LLM agent，這個問題不只發生在重新訓練，也會出現在提示、工具 schema、記憶摘要與資料索引的更新：新規則加入後，舊的安全邊界或讀者意圖可能被覆蓋。

Raia 官方頁列出 progressive nets 與 elastic weight consolidation 等研究方向，指出可以透過結構或正則化約束保存既有能力。把這些研究翻成產品工程，不是直接複製演算法，而是把舊版本的行為與新版本的行為放在同一個回放集比較。若新模型完成更多案例，卻在權限、引用或停止條件上退化，就不能只看總分宣布進步。

持續學習還需要版本邊界。每次更新都要知道哪一批資料、prompt、工具與模型改變了；要保留可回放的輸入、輸出、工具事件與人工修正；要在不可接受的退化出現時回復到上一個已確認版本。沒有版本與 rollback，continual learning 就可能變成不可追蹤的線上漂移。

從導航研究看 LLM agent 的狀態與目標

Raia 的官方頁面提到城市導航研究，核心是讓代理從視覺觀察建立內部空間表示，同時知道「我在哪裡」以及「我要去哪裡」。這個分離對 LLM agent 很有啟發：系統要把當前狀態與目標狀態分開保存，不能只把所有對話堆進一個長上下文。

在內容工作流裡，當前狀態可以包含人名正規化、已查官方頁、同名文章、slug 碰撞、圖片 URL、檔案 hash、草稿 ID 與最後 read-back；目標狀態則是完成一篇有來源、可讀、未發布的草稿。每一步工具呼叫都要說明它怎樣讓狀態更接近目標，而不是只產生看似合理的文字。

導航也提醒我們，目標可能會改變。使用者先要求找人物資料，後來可能要求新增圖片、修正分類或暫停發布。agent 應更新目標與約束，不能沿用舊計畫偷偷執行下一步。任何外部寫入都需要重新確認目前狀態，特別是在等待 writer lock 或遇到 rate limit 之後。

Transfer learning 不等於把同一套策略硬搬過去

Transfer learning 的價值，在於把舊任務學到的結構帶到新任務，同時保留新環境需要的調整空間。對 LLM，這可能是把通用推理、工具使用或文件結構帶進另一個領域；但不同任務的權限、風險、詞彙與成功標準都可能不同，因此不能只複製 prompt 或記憶。

安全的遷移需要先做相容性檢查。舊工具的欄位是否仍存在？舊來源的授權是否適用？舊評測是否仍能代表新讀者？舊的停止門檻是否對高風險動作太寬？如果相容性未知，agent 應先在只讀或沙盒模式運行，再逐步增加權限。

這個原則也能避免「人物文章模板化」。同一套文章骨架可以提供導覽，但每一位人物的研究問題、官方資料、圖片來源與 reader task 都不同。複製模板時保留結構，不能複製沒有證據的句子、角色職稱或研究貢獻。

從深度強化學習到機器人：環境會回應你的每一步

Raia 的公開研究重點包含深度強化學習、機器人控制與導航。與靜態分類不同，代理採取行動後，環境會改變；下一步的可選擇集合可能因此縮小。這讓「先做再說」的策略風險很高，也讓 read-back 成為閉環的一部分。

把這個概念放進 LLM 工具鏈，搜尋、修改、發布與通知都會改變外部狀態。成功訊息只代表工具回傳成功，不代表目標狀態真的達成。執行器要重新讀取身份、內容 hash、媒體、分類、公開狀態與讀者頁面，才能知道是否需要停止、回復或交人工。

機器人研究還讓人看到延遲與噪音的影響。視覺輸入可能不清楚，感測器可能延遲，動作可能不可逆；代理需要在不確定時放慢、重新觀察或選擇更安全路徑。LLM 的等價情境是來源衝突、工具 timeout、上下文不足與權限不明。把這些狀態當作正常分支，而不是例外，系統才不會在壓力下盲目繼續。

ICLR 2024 的訊息：基礎研究要連到 agents、工具與新模態

Google DeepMind ICLR 2024 文章把 Raia 的 keynote 放在下一代 AI agents、不同模態與 foundational learning 的脈絡裡。文章同時介紹 WebAgent、工具使用、視覺動態與其他研究，顯示 agent 的能力不會只由單一語言模型決定，而是由資料、工具、環境與評估共同形成。

對 LLM 產品而言，這意味著評測要從單題答案擴展到工作流。正常案例要檢查任務完成；缺失案例要檢查模型是否澄清；衝突案例要檢查它是否保留候選；工具失敗案例要檢查它是否停止或重試；高風險案例要檢查它是否要求批准。每個案例都要有預期行動，不只留一個最終字串。

新模態也帶來狀態同步問題。文字、圖片、影片與感測資料有不同的時間、格式與可信範圍；agent 要記錄來源、MIME、雜湊與轉換步驟。不能因為多模態模型能讀取某個檔案，就假設它已經看見所有細節，更不能把推測當成來源直述。

LLM agent 的「抗遺忘」工作流

第一層是核心能力回放：固定一批代表性任務，測量新版是否破壞舊版表現。第二層是來源與權限回放：檢查新資料是否讓模型引用過時頁面、呼叫不該使用的工具或越過人工門。第三層是讀者結果回放：檢查內容是否仍清楚、來源是否可見、圖片圖說是否正確，且草稿不會意外公開。

回放不是一次性測試。每輪失敗都應歸類為模型、資料、工具、介面或治理問題，並把修正後的案例保留。這讓團隊可以分辨「新版本變好」和「測試集被改得更容易」之間的差異。

當更新確實需要改變舊行為時，要留下明確的變更說明。例如新規則要求 agent 更常詢問人工，這可能降低自動完成率，卻提高高風險任務的安全。指標衝突要公開，不要用一個平均分把它抹平。真正的產品決策需要看見取捨。

工具、記憶與人工控制要形成三角

工具提供行動能力，記憶提供上下文，人工控制提供邊界；三者任何一角缺失，agent 都可能失衡。只有工具沒有記憶，模型會重複查詢或忘記限制；只有記憶沒有新鮮讀取，模型會依賴過時狀態；只有自動化沒有人工門，高副作用動作就缺少最後一道確認。

工具契約應宣告輸入、輸出、權限、可重試性、冪等鍵、副作用與回復方式。記憶應區分事實、推論、暫存與過期內容。人工門應顯示目標、差異、來源與預期副作用。這些欄位不是額外文件，而是讓模型在不確定時可以選擇安全動作的操作介面。

在 WordPress 草稿流程中，serial writer lock 避免兩個 writer 同時突變；backup 讓回復有依據；authenticated read-back 確認資料真的寫入；匿名 REST 與文章頁的非公開讀回則確認草稿沒有越界。這些控制與模型推理同等重要，不應被速度指標省略。

從研究人物到 AI/LLM hub 的內鏈策略

Raia Hadsell 文章可以成為四條閱讀路徑的交會點。continual learning 路徑回答模型如何保持舊能力；導航路徑回答 agent 如何建立狀態與目標；機器人與強化學習路徑回答行動如何改變環境；工具與治理路徑回答 LLM 如何在真實工作流中安全交接。

搜尋人物名字的讀者通常想知道「她做過什麼」；搜尋 catastrophic forgetting 的讀者想解決模型更新問題；搜尋 LLM agent memory 的讀者想設計長程工作流。不同意圖需要不同延伸文章，不應把所有關鍵字塞在同一篇人物介紹裡。人物頁負責搭橋，專題頁負責完成一個讀者任務。

官方個人頁支撐人物自述，DeepMind ICLR 文章支撐公開職責與研究方向，論文與官方研究頁支撐技術細節。本文提出的版本回放、工具契約與 writer lock 是工程推論；把證據層級寫清楚，讀者才能分辨來源、解釋與建議。

可交付的研究到產品化檢查表

在開始一個新 agent 任務前，先確認人名與 reader task，做 all-status 意圖碰撞；再確認官方頁、研究來源與圖片是否可重查，記錄 URL、MIME、檔案大小與 SHA-256。內容完成後，計算字數、來源連結、圖片 alt、圖說與可見 attribution。最後才進入鎖、備份、最小寫入與回讀。

每次版本更新都要重新跑代表性案例，並將新舊差異保存。若模型在新任務更強但舊任務退化，先分類退化原因，再決定是否引入蒸餾、正則化、路由或人工門。不要用一次成功 demo 蓋掉長期學習造成的遺忘。

完成一篇草稿不代表公開、排名、流量或收入已改善。這些結果需要另外的公開觀測窗口與完整分析。就本輪而言，完成條件只到官方來源、內容增量、官方圖片增量、草稿狀態與 authenticated/public read-back；邊界要保持清楚。

常見問題

Raia Hadsell 目前的公開角色是什麼？

她的官方個人頁目前自述為 Google DeepMind 研究副總裁，並提到共同領導 Frontier AI 單位。職稱會隨時間更新，應以官方頁最新內容為準。

她的研究為什麼和 LLM agent 有關？

她長期處理 continual learning、transfer learning、深度強化學習、機器人與導航。這些主題對今天的 agent 仍有直接工程問題：如何保存能力、理解狀態、在環境改變後調整並安全行動。

progressive nets 或 elastic weight consolidation 可以直接套到大型語言模型嗎？

不能直接把早期研究當成現成產品方案。它們提供保存舊能力的設計啟發，實際 LLM 還要考慮資料、架構、成本、工具與評測，必須用新舊版本回放驗證。

agent 什麼時候應該停下來？

來源衝突、身份不明、權限不足、工具回傳異常、不可逆副作用或 read-back 不一致時，應澄清、降級或交人工。可預測的停止是可靠性的一部分。

延伸閱讀可先看 Raia Hadsell 官方出版品頁理解研究作品，再看 Google DeepMind ICLR 2024 文章觀察研究如何連到 agents、工具與新模態，最後回到 官方個人頁核對職責與最新公開資訊。

官方人物圖片與來源

本文精選圖片採用 Raia Hadsell 官方個人頁公開人物照片；該頁以作者自述與照片來源說明人物辨識用途，圖片不代表任何特定演講、模型效能或公司決策。

資料來源與核對日期

• Raia Hadsell 官方個人頁：核對公開角色、研究方向與人物照片。
• Raia Hadsell 官方出版品頁：延伸核對 continual learning、導航與強化學習研究。
• Google DeepMind ICLR 2024：核對研究副總裁角色與 agents、工具、新模態脈絡。
• Google DeepMind 官方團隊頁：核對合作型研究組織背景。
• Progressive Neural Networks：延伸核對持續學習與轉移學習研究。
• Overcoming Catastrophic Forgetting in Neural Networks：延伸核對災難性遺忘問題。