Peter Norvig 如何把搜尋、知識表示與教育工程接到可靠 LLM？從 AI 教材到可驗證代理

Peter Norvig 如何把搜尋、知識表示與教育工程接到可靠 LLM？從 AI 教材到可驗證代理

大型語言模型的產品化，不只是把模型放進聊天視窗，而是要讓搜尋、知識表示、程式工具與教育流程共同運作。Peter Norvig 長期在人工智慧、網路搜尋、程式設計教育與 AI 教科書之間搭橋，提供一套理解可靠 LLM 基礎設施的方式：把問題拆成可驗證的表示、可重播的搜尋、可執行的程式與能被學習者理解的回饋。這種工程觀能幫助團隊避免把流暢答案誤認為完成任務。

從官方資料確認 Peter Norvig 的 AI 脈絡

Peter Norvig 的官方首頁提供研究、教材、開源軟體與課程入口；官方 biography則整理他在 Stanford HAI、Google、搜尋演算法與 AI 教育的經歷。這些資料適合作為人物身份和研究影響的第一手來源，具體技術主張仍要回到程式、論文或可重現的評估。

他的官方履歷列出搜尋、研究管理、教育與開源工作的脈絡；Stanford HAI 的人物頁則說明他對 AI agent 邊界與安全運作的公開觀點。將職涯資料和產品文件分開閱讀，能讓文章清楚區分歷史貢獻、現任角色與對新系統的設計推論。

搜尋工程與 RAG 的共同問題

搜尋系統的核心是從大量候選中找出與任務相關、可以驗證的資料。LLM 的檢索增強生成也面對同一問題：相關不等於正確，排名高不等於適用。每個候選文件需要保存來源、日期、版本、權限和上下文；模型回答時要能指出採用哪些段落，以及哪些問題仍沒有證據。

對話代理可以把搜尋拆成幾個步驟。先分析問題中的實體、時間與意圖，再產生多個查詢；接著以不同策略找候選，最後用規則或模型重新排序。若候選互相矛盾，代理應保留衝突並要求澄清，而不是只挑語氣最像的一份。當資料過期或權限不足，系統要回報缺口，不能用生成文字補上不存在的事實。

搜尋品質也要按任務評估。導航、事實查找、比較、摘要與工具操作需要不同的相關性定義；同一個答案在一種任務中有用，在另一種任務中可能缺少關鍵欄位。評估資料應包含空結果、時間敏感、同名實體、不同語言與惡意文件，並記錄模型是否正確拒絕。

知識表示讓答案可以追溯

自然語言適合表達複雜概念，但長期服務需要可查詢的實體、關係和時間。代理可以將文件中的人、組織、產品、地點與事件轉成帶來源的節點，再由模型負責說明。當一份文件更新或撤回，平台便能找出哪些回答和索引受到影響，而不用重新猜測整個語料庫。

知識表示也能協助工具使用。模型要呼叫 API 前，先檢查目標資源的身份、目前狀態和使用者權限；若關係或時間條件不成立，停止或要求補充。把這些條件寫在狀態層，能避免模型只依靠 prompt 記得規則。工具回應則要回到事件紀錄，讓下一個決策有明確觀察。

推理溯源不等於公開模型所有內部思考。產品真正需要保留的是外部證據：引用文件、查詢、工具、參數、版本、人工確認和結果。每次回答都能由這些欄位重播，工程師才能判斷問題來自資料、搜尋、模型、政策還是執行器。

教育工程與可理解的 AI 介面

AI 系統如果只對專家可用，就很難在組織中長期維護。教育工程的價值在於把複雜概念拆成可練習的步驟，讓使用者看見輸入、假設、錯誤與修正。LLM agent 可以採用類似設計：先展示目前狀態和來源，再提出候選計畫，讓使用者在執行前理解副作用，最後提供可回復的結果。

這種介面不只適合教學。客服、資料分析、程式協作和管理工作都需要人類知道模型為何提出某個選項。若答案沒有來源，使用者就無法有效修正；若工具動作沒有預覽，錯誤可能直接進入正式系統。把「解釋」「示範」「練習」「確認」放進流程，能讓人類回饋成為可用的資料，而不是一次性的抱怨。

教育型評估也要看使用者是否真的理解限制。除了答案正確率，還可以測試使用者能否找到來源、辨認不確定、撤回操作與提出補充問題。若模型回答很快但讓使用者誤以為已經完成，產品就需要調整介面與狀態標示，而不是只微調模型語氣。

開源程式與可重現的 AI 基礎設施

Norvig 的Pytudes 開源專案與 AI 教材程式碼展示了把概念寫成小型、可讀、可執行實驗的價值。對 LLM 團隊而言，關鍵元件應提供最小可重現案例、輸入輸出契約和失敗測試。當模型、提示或工具升級時，這些案例可以快速發現行為退化。

可重現也要求版本透明。資料集、檢索索引、模型、提示、工具 schema、權限政策與執行環境都要有版本；回放時保存隨機種子、時間和外部回應。若結果不同，團隊才有機會定位差異。開源不代表不需要治理，反而要清楚標示授權、敏感資料、依賴與已知限制。

代理安全需要邊界。Stanford HAI 的人物資料談到限制 agent 的預算、交易時間和能力有助於安全運作；工程上可以把它轉成工具速率、成本、權限、逾時、重試和人工確認門檻。當任一門檻超過，系統安全停止並留下事件，而不是讓模型無限重試。

給 LLM 團隊的落地檢查表

先定義任務、來源、時間與成功條件，再把搜尋、表示、推理、工具和介面拆成可測試的層。每個答案都要能回到外部引用，每個動作都要能回到權限與狀態。測試包含空結果、矛盾文件、同名人物、過期資料、工具失聯與使用者修正；評估同時報告正確、拒答、澄清、人工介入與不可恢復失敗。

讓使用者看見模型知道什麼、不知道什麼、準備做什麼以及如何撤回。當資料不足時，最可靠的回答是要求補充或承認無法判斷；當環境改變時，重新搜尋與確認，不沿用舊狀態。這些習慣把 AI 教材、搜尋工程與開源實驗轉成可審計的生產系統。

Peter Norvig 對 LLM 基礎設施的啟發，並非只在於某個模型或某項產品，而在於把智能拆成可理解、可測試、可教學的組件。搜尋要有證據，知識要有表示，程式要能重播，教育要讓人看見限制；當這些層彼此連接，代理才有機會在真實工作中保持可靠、可回復與可持續改進。

搜尋品質、成本與安全要一起評估

實際系統不可能無限制搜尋所有文件。代理要在準確性、延遲、計算量、資料新鮮度與權限之間取捨。評估時可以把查詢數、候選數、工具時間、引用覆蓋和人工接管一起記錄，觀察模型是否用更多資源換來很小的改善。對高風險任務，成本門檻也可以作為安全護欄：當查詢超過預算，代理停下來請人決定，而不是自動擴大範圍。

資料檢索還要防止提示注入與惡意文件。文件中的指令不一定是使用者授權的指令，模型要把內容當成待分析資料，而不是自動遵守。來源層可以標記可信度、權限與可執行性，工具層再阻擋未經批准的操作。回放測試要包含會要求模型洩漏秘密、改變政策或呼叫不相關工具的文件，並驗證代理能夠拒絕。

同名實體是搜尋和知識表示的常見風險。人名、公司名、產品名或地點可能相同，代理若沒有足夠的身份欄位，就會把不同對象的資料混在一起。可以利用組織、時間、地點、官方識別碼和文件來源建立身份鎖；若仍有多個候選，就先問使用者，而不是猜測。這個原則同樣適用於 AI 名人堂內容，能避免把同名人物誤寫成另一個人的研究。

讓程式與資料成為可教學的樣本

小型可讀的程式是理解 AI 的重要媒介。對產品團隊而言，每個關鍵 agent 能力都應有一個簡化案例：如何搜尋、如何合併證據、如何在衝突時停止、如何把結果交給工具。範例不必複製正式系統的全部複雜度，但要展示輸入、狀態、輸出、失敗與回復。新成員可以先在範例中重現，再進入正式管線，降低維護知識只存在於少數人的風險。

資料樣本也要包含錯誤。除了成功回答，保存無法回答、資料過期、引用不完整、權限不足、工具失聯和使用者改變目標的案例。每個案例可以附上預期的安全行為和可接受替代方案，讓測試不只問「答案對不對」，還問「系統有沒有在適當時機停下」。這些樣本能跨模型與工具重用，形成長期回歸測試。

教育與治理可以互相支援。若介面讓使用者看見查詢、來源、假設和副作用，使用者就能提供更精準的修正；若平台把修正保留成版本化事件，團隊就能把它加入下一次教材與測試。這種循環會讓系統越來越容易被理解，而不是隨著模型變大變成黑箱。

代理的邊界與人類責任

自主代理必須有明確的任務邊界。它可以在限定資料、預算、時間、速率與工具集合中完成工作，但不能自行擴大權限或改寫安全規則。對外發送、付款、刪除資料或修改正式紀錄等動作，要有可見預覽與確認；若狀態在確認後改變，必須重新檢查。完成後保存結果、工具回應和使用者批准，讓責任不會被一句生成文字掩蓋。

安全停止不是失敗，而是 agent 的一項能力。當搜尋沒有可靠來源、知識圖譜出現衝突、模型無法辨認同名實體，或工具多次逾時，系統應清楚說明原因、列出需要補充的資訊與下一步選項。人工接管後的決定也應被記錄，供日後重播和改善。這樣才能把人類判斷放在正確的位置，而不是在事故發生後才追問誰批准了動作。

在正式環境中，團隊還要定期檢查這些邊界是否仍然有效。資料來源會改版，工具權限會變動，使用者也會提出新的任務；每一次變更都要重新跑關鍵回放，確認代理仍然知道何時搜尋、何時提問、何時停止。只有把能力和限制一起版本化，系統才不會在無聲中變得更冒險。