Gemini 1.5 Pro留下什麼？1M Context、MoE、Flash與Project Astra

Gemini 1.5 Pro在2024年的重要性，不只是一款Google模型，而是把100萬Token長脈絡、原生多模態與實際產品入口推進主流市場。Google於2024年2月15日發布1.5 Pro，使用Mixture-of-Experts架構，標準Context為128K，並向有限開發者和企業客戶提供100萬Token私人預覽。

2024年5月14日，Google在I/O期間將Gemini 1.5 Pro和新推出的1.5 Flash擴大為100萬Token公開預覽，並開放200萬Token候補，同時展示Project Astra。回看這段歷史，可以理解AI產品如何從短對話轉向文件、影音、程式碼與持續情境；現行Gemini模型、價格與API限制則應查最新官方文件。

• 2024年2月15日：Gemini 1.5 Pro正式公布。
• 架構採用Mixture-of-Experts，提高訓練和Serving效率。
• 標準Context Window為128K。
• 100萬Token先提供有限私人預覽。
• Google在研究中測試最高1000萬Token，不等於產品可用上限。
• 2024年5月14日：1.5 Pro和1.5 Flash以100萬Token進入公開預覽。
• 同日開放1.5 Pro 200萬Token候補／私人預覽。
• Project Astra展示即時多模態助理方向。

文章實體化：Gemini 1.5 Pro留下什麼？1M Context、MoE、Flash與Project Astra

本文以「Gemini 1.5 Pro留下什麼？1M Context、MoE、Flash與Project Astra」為主線，補回模型／工具、輸入輸出、版本、成本、測試與使用邊界，讓技術名詞回到可執行的工作流程。

• 核心元件：把標題中的模型、工具、格式、企業或協定對應到實際輸入、輸出與依賴。
• 驗證方法：記錄版本、資料、環境、基準、錯誤案例與人工檢查，避免只引用功能宣稱。
• 治理邊界：說明權限、資料保存、成本、失敗回復與何時需要人工介入。

涉及版本、價格、企業資料或 API 行為時，以文章原始資料與供應商／公司最新文件核對。

Gemini 1.5時間線

文章中的模型名稱與限制屬2024年時間線。兩年後的模型供應、上下文與功能可能已經不同，不應把歷史規格當成現行API承諾。

Mixture-of-Experts為何重要？

Google將Gemini 1.5描述為採用新的Mixture-of-Experts（MoE）架構。MoE不必讓每個Token都經過所有參數，而是由Router選擇部分Expert處理，使模型能擴大總容量，同時控制每Token啟用計算。

token representation
      ↓ router
selected experts
      ↓ compute
combined output

• 總參數和啟用參數分開。
• Router與Expert Load Balance影響品質和效率。
• Serving需要Expert Parallel和All-to-all通訊。
• MoE不代表所有Prompt成本完全相同。
• Google未在發布文中公開所有架構細節。

因此，Gemini 1.5的MoE應理解為官方架構方向，不應自行推導未公開的Expert數、總參數或啟用比例。

128K、1M與10M分別代表什麼？

Context Window描述一次Prompt能容納的Token數，不等於模型能在每個位置保持相同準確度。2024年的發布展示Needle Retrieval和長影音理解，後續產業也逐漸轉向RULER、LongBench與真實工作負載評測。

完整方法可閱讀長上下文模型怎麼測？。

1M Context能放進多少資料？

Google在2024年發布時提供數個直觀例子：大約一小時影片、十一小時音訊、超過三萬行程式碼或約七十萬字。這些是容量示例，實際Token數受語言、影音取樣、Tokenizer與檔案處理方式影響。

• 多份研究報告或合約。
• 長影片與逐字稿。
• 大型Codebase片段。
• 會議、Email和專案文件。
• 圖片、音訊與文字交錯輸入。

能放進去不代表應把所有資料無差別送入。來源、版本、權限與檢索仍需設計。

Gemini 1.5 Flash為何出現？

Google在I/O 2024推出Gemini 1.5 Flash，定位為比1.5 Pro更輕量、低延遲和低Serving成本的模型，也提供100萬Token Context。這形成Pro／Flash的產品分工：

Flash的推出代表長Context不再只屬高價旗艦模型，模型Router也開始依任務難度、延遲和成本分流。

200萬Token的意義

2024年5月，Google讓開發者和Cloud客戶申請1.5 Pro的200萬Token私人預覽。它展示Context Scaling的速度，也暴露兩個問題：

• Prefill和輸入成本會大幅增加。
• 文件中段、衝突和引用仍需評測。
• KV Cache或內部Memory成本上升。
• 應用需要更好的File、Cache和RAG。
• 最大Window不等於每個Request都應使用。

Project Astra展示了什麼？

Project Astra是Google對未來AI助理的研究原型：系統能透過鏡頭和語音持續觀察環境、理解使用者剛剛看過或問過的內容，並以低延遲回應。

• 即時視覺理解。
• 自然語音互動。
• 跨輪情境保留。
• 物件、空間與畫面關係。
• 助理從Chat Window走向環境入口。

Astra當時是研究展示，不應把Demo中的所有行為視為可立即使用的Gemini 1.5 Pro API。它的長期影響是把即時多模態和持續情境變成產品方向。

長脈絡如何改變工作流？

• 從單篇摘要轉向跨文件比較。
• 從短程式碼轉向Repository理解。
• 從圖片問答轉向影音時間線分析。
• 從單次Prompt轉向Project Context。
• 從手動搬運背景轉向File API與Context Cache。

同時，長Context讓錯誤範圍變大。舊文件、草稿、私密資料和Prompt Injection可能一起進入模型；資料治理的重要性也同步提高。

Google I/O 2024留下的三個轉折

1. Context成為模型產品規格

過去Context主要是技術限制；Gemini 1.5把100萬Token變成開發者和使用者能直接理解的產品差異。

2. Pro／Flash分流成為主流

同一模型家族開始同時服務高能力與低延遲需求，後續API設計也更重視模型路由。

3. 多模態助理走向持續情境

Astra讓AI助理不再只等待使用者貼文字，而是朝鏡頭、聲音與環境狀態發展。

如何閱讀歷史模型文章？

• 保留精確發布日期和當時狀態。
• 區分Private Preview、Public Preview與GA。
• 區分研究測試和產品上限。
• 不使用舊價格和限制回答現行問題。
• 不把產品Demo當成API承諾。
• 將後續影響和當時事實分開。

目前處理大型檔案可閱讀Gemini API怎麼處理大型檔案？；檔案檢索可閱讀Gemini File Search怎麼用？。

常見問題

Gemini 1.5 Pro是第一個長Context模型嗎？

不是。它的重要性在於把100萬Token、原生多模態與Google產品入口推進主流，而非歷史上第一個研究長序列的模型。

10M Token曾經公開提供嗎？

Google表示研究中成功測試到1000萬Token；2024年2月的產品私人預覽上限是100萬Token，兩者不能混為一談。

這篇可以用來判斷現在Gemini規格嗎？

不能直接使用。本文是2024年歷史與影響分析，現行模型名稱、價格、Context和功能要查最新官方文件。

官方歷史資料

• 2024年2月15日：Gemini 1.5發布
• 2024年5月14日：1.5 Flash、2M與Project Astra
• Gemini Advanced加入1M Context

Gemini 1.5 Pro留下的核心影響，是讓「一次可見多少工作脈絡」成為AI產品競爭主軸。它沒有消除檢索、來源與成本問題，卻讓文件、影音和程式碼能在同一任務中被處理，並為後續多模態助理奠定產品想像。

若要從 Gemini 1.5 Pro 的 1M Context、MoE 與 Project Astra 歷史基線，延伸追蹤 Gemini 3 Pro 到 3.1 Pro 的工具與 Agent 能力演進，可延伸閱讀 Gemini 3 Pro如何演進到3.1 Pro？1M Context、工具與Agent能力，補上同一實體脈絡的延伸閱讀。

資料來源與延伸閱讀

• 2024年2月15日：Gemini 1.5發布（blog.google）
• 2024年5月14日：1.5 Flash、2M與Project Astra（blog.google）
• Gemini Advanced加入1M Context（blog.google）

Google Gemini 1.5 Pro 官方視覺資料

以下五張圖取自 Google Developers 官方 Gemini 1.5 Pro 更新頁，補充模型、長脈絡與開發者功能的視覺脈絡。圖片是官方產品與文件示例，不是模型準確率、現行價格或商業效果的獨立證據。

本文聚焦 2024 年歷史時間線；現行 Gemini 型號、限制與 API 行為仍應以最新官方文件為準。

延伸觀察｜Gemini 1.5 Pro 的重點不只是變長，而是讓多模態資料可被一起追問

Gemini 1.5 Pro 的 1M context 應放回模型能力與使用條件一起理解。長 context 讓系統可以在更大的文字、程式、影像或音訊範圍裡尋找關聯，但「能放進去」不等於每個細節都會被正確理解，仍需要清楚任務、來源與驗證。

MoE、Flash 與 Project Astra 代表的是不同層次：前者關乎模型如何配置計算，Flash 偏向速度與效率，Astra 則展示多模態、即時互動與情境理解的產品方向。把它們並列時，應避免把研究原型、模型規格與可用產品混成同一件事。

參考：Google Gemini 1.5 官方公告、Google Flash 1.5 與 Project Astra 官方更新、Google DeepMind Project Astra。

增量觀察：長上下文不只增加容量，也改變模型如何被使用

這一段補充把作品放回「形式—情緒—產業」三個層次閱讀。以下內容是依既有文章與作品呈現所做的文本分析，不把觀眾感受冒充成官方幕後資料；涉及人物、團隊、演出或製作分工的事實，仍以文中已列出的正式來源為準。

更值得追問的是：作品如何讓觀眾感覺到距離、親密、節奏或不安？答案通常不只在劇情／歌詞，而在鏡頭與聲音的停留、段落之間的切換，以及人物如何被放進具體空間。把這些細節拆開，能讓文章從「作品介紹」再往前走一步，變成可回看的閱讀工具。

三個可回查的閱讀角度

• 形式：留意剪接、構圖、節拍、聲線或段落如何安排注意力。
• 關係：觀察人物／創作者之間的選擇如何被空間、時間與資源限制。
• 餘韻：找出作品沒有替觀眾封口的地方，分清楚文本證據與個人解讀。

圖片補充：本圖是概念示意，不是作品劇照或人物肖像；它用來協助讀者進入本文的空間／聲音／關係問題，作品事實仍以文中來源與正式發行資料為準。