首頁 > 科技與 AI > AI21 Labs 免費試用額度怎麼用?用 Jamba Large 建立學生 AI Agent

延伸主題

AI21 Labs 免費試用額度怎麼用?用 Jamba Large 建立學生 AI Agent

整理 AI21 Labs 新帳戶 $10/三個月 free tria...

以 AI21 Labs trial credit、Jamba Large 模型核心與學生 Agent 使用停止線呈現 YOLO LAB 原創編輯封面

AI21 Labs 的 AI21 Platform trial credit 可以成為學生 AI Agent 的第九種燃料,但它不是永久免費 API。AI21 官方目前寫明,新帳戶可取得 10 美元 credit,有效三個月;這筆 credit 可以用在 AI21 Platform 的 API、SDK 與 Playground。試用期或 credit 用完後,如果要繼續使用,就必須在帳戶提供有效的 billing information,後續使用會按用量計費。

以 AI21 Labs trial credit、Jamba Large 模型核心與學生 Agent 使用停止線呈現 YOLO LAB 原創編輯封面
YOLO LAB 原創編輯封面:以 AI21 Labs trial credit、Jamba Large、API key 與學生 Agent 使用停止線呈現學習入口;非 AI21 官方宣傳圖。

這個方案適合用來教學生 Jamba chat、token usage、API key 管理、限流、organization billing,以及 Maestro 與工具呼叫的差異。它最大的風險不是「找不到免費 token」,而是學生把三個月的 introductory credit 誤當成自動續期免費額度,或在免費額度用完後讓未知的付款方式繼續產生帳單。主要 AI Agent 必須在到期、超額與付款資訊缺失時停止。

本篇只使用 AI21 官方文件與條款作為查核來源,不提供任何可用 secret,不代辦帳戶,不代收 key,也不鼓勵建立多個帳戶來放大 trial credit。學生應使用自己的合法帳戶或由組織管理者提供受控 adapter;若不具備付款授權,就把 AI21 當成期限明確的短期課堂實驗,而不是主要 AI Agent 的唯一燃料。

AI21 的 10 美元 trial credit

AI21 Pricing 文件目前把平台使用分為試用與後續使用。新帳戶的 10 美元 credit 可以使用 AI21 Platform 上的 REST endpoints、SDK 與 Playground,試用期為三個月。費用以 token 為基礎,輸入和輸出可能有不同價格,API response 的 usage 欄位可用來記錄 token counts。

這 10 美元不是每位學生獨立擁有的 token 數。模型、輸入長度、輸出上限、重試、Playground 操作與同一 organization 的其他 members 都可能消耗 credit。學生應把 credit 視為帳戶級的有限預算,在每次工作前估算,在每次回應後讀取 usage,並保留課堂結束與錯誤回歸的預算。

三個月也不是「到期後自動補充」的意思。官方明確寫出,trial usage 超過或到期後,要提供有效 billing information 才能繼續使用 AI21 Platform。adapter 應在到期日前顯示 warning,在 credit 接近保留值時暫停非必要工作,不能把新增付款資訊當成學生 Agent 的自動修復動作。

帳戶、organization 與共同帳務

AI21 Account 文件說明,一個 AI21 account 代表一個 organization;organization 可以有多個 members,usage 與 billing 會合計所有 members。管理者可以查看 Model usage、Billing & Plans、成員與角色。這代表班級共用 organization 時,不能把 10 美元理解成每位 member 都有另一份獨立額度。

AI21 現行 Terms 也把服務使用者設為至少 18 歲,或達到所在地的成年年齡,並定位為 business、professional 與 developer use。未成年的學生不能自行把這篇教學當成付款或合約授權;應由家長、學校或合法 organization admin 決定是否加入、誰持有 key、誰負責 billing,以及何時停止。

AI21 目前也說明同一個 email 只能加入一個 organization。這不是讓學生用多個 email 擴張免費額度的邀請,而是帳戶治理限制。若由學校或社團管理,應先決定誰是 organization admin、誰能邀請或移除 member、誰能看到 billing、誰負責到期後的付款決策,並把這些 owner 寫入課程紀錄。

學生 member 可以使用 Playground 與 API,但不需要擁有 billing 修改權。主 Agent 也不應直接把 organization admin 權限轉成 tool permission。學生只取得內部任務能力,付款、API key、撤銷、額度與帳務仍由管理者控制,避免把課堂錯誤變成全 organization 的費用或資料事故。

從 AI21 Studio 建立 API key

AI21 官方 Create an API key 文件目前的流程是登入 AI21 Studio,開啟 Settings,進入 Workspace Settings 的 API Keys,按下 Create new key,替 key 命名後建立。新 key 只會顯示一次;官方提醒完整 key 不會再次顯示,任何持有 key 的人都能代表你發出請求,因此必須放在安全位置。

如果 key 遺失,正確處理是重新產生,而不是請同學、社群或陌生服務代找。Workspace API Keys 頁可以看到 key 的名稱與最後幾個字元,也可以 rename 或 delete。Delete 是撤銷操作,應先確認沒有其他合法工作依賴該 key,再用新的環境變數完成受控替換。

const apiKey = process.env.AI21_API_KEY;
if (!apiKey) throw new Error('Set AI21_API_KEY in the server environment');

const response = await fetch(
  'https://api.ai21.com/studio/v1/chat/completions',
  {
    method: 'POST',
    headers: {
      Authorization: `Bearer ${apiKey}`,
      'Content-Type': 'application/json'
    },
    body: JSON.stringify({
      model: 'jamba-large',
      messages: [{
        role: 'user',
        content: '只整理公開資料,列出兩個重點與一個需要人工查證的地方。'
      }],
      max_tokens: 160
    })
  }
);

if (!response.ok) throw new Error(`AI21 request failed: ${response.status}`);
const result = await response.json();
console.log(result.choices?.[0]?.message?.content ?? result);

程式中的 AI21_API_KEY 是環境變數名稱,不是實際 key;範例故意只使用 placeholder-safe 的公開提示。AI21 官方 API reference 目前列出 Jamba API 的 chat completions endpoint 與 jamba-largejamba-mini 等不指定版本的 model name。正式 adapter 仍要在啟動時以當日 model catalog 和 account capability 做回讀。

Bearer secret 的後端邊界

AI21 Authentication 文件要求 API request 在 Authorization header 以 Bearer token 認證。對學生來說,這代表 key 是後端秘密,不是可以放在 browser、React bundle、mobile app、公開 notebook、Git、截圖或 prompt 的設定值。前端只傳 task_id、student_id、資料分類與允許能力,後端 adapter 才讀取 AI21 key。

在共享課程環境,建議把 AI21 key 放進 secret manager 或 server-side environment,並讓每次請求都附上內部 usage identity。使用者看到的是剩餘 credit 的摘要、當前模型、限流狀態與停止原因,不應看到完整 Authorization header。log 只保存 request id、status、model、usage 和 retry count。

如果 secret 已經出現在公開位置,先停用或刪除該 key,再查 usage、帳務與請求紀錄。不要只把它從最新 commit 移除就當作安全,因為舊版 repository、CI log、截圖和聊天記錄仍可能保存。學生需要學會 revoke、replace、audit 和通知 owner,而不是互相轉傳一把新 key。

當日敲門模型:先用 Jamba Large

以 2026-08-24 查核的 AI21 官方 Jamba 文件來看,Jamba Large 被定位為家族中最強、最先進的模型;目前公開的 jamba-large endpoint 指向 jamba-large-1.7-2025-07,模型表列 398B parameters、94B active parameters 與 256K context。若這篇文章的目標是讓學生先感受主要 AI Agent 的能力敲門磚,第一個固定、低量的 benchmark 可以用 Jamba Large;短分類、格式化或成本敏感的批次則改用 jamba-mini

這個選擇不是「永久最佳模型」宣告。AI21 同時建議需要可重現性時使用 dated model version,因此 adapter 要記錄實際 model、查核日期、API version、max_tokens、temperature、prompt 版本與 response usage;若帳戶或當日 catalog 不再提供候選模型,應停止並回報 capability mismatch,不要靠猜測改塞其他 model name。

學生第一次真實 smoke 只做一個短公開資料 prompt,先把 max_tokens、timeout、retry budget 和每日 task quota 設小,再從 Model usage 回讀消耗。$10 是有限的三個月 introductory credit,不應用來無限比較模型;先在本地 mock 完成 adapter 驗收,再用一個低量請求確認 key、model、usage 與停止線。

Jamba foundation models 的使用範圍

AI21 API reference 的 Foundation Models 區分 chat request、chat response 與工具訊息。官方目前列出可以使用不指定版本的 jamba-largejamba-mini;Jamba 文件目前把前者指向 jamba-large-1.7-2025-07、後者指向 jamba-mini-2-2026-01。如果課堂做可重現評測,應保存實際 model、API reference 查核日期、max_tokens、temperature、prompt 版本和 usage。

模型選擇要配合任務。短分類、格式化摘要和路由判斷可以先用較小的模型;需要更複雜的公開資料整理時,再分配有限 trial credit 做基準測試。不要把較大的模型直接當成答案品質保證,也不要讓學生透過不明 model name 反覆試探 endpoint,因為每次錯誤請求都可能消耗時間、限額或帳本預算。

官方文件也說明 Jamba chat 的 max_tokens 有上限,JSON mode、tools、stream 等參數有各自的互動條件。adapter 要先驗證 capability,若當前 model 不支援某功能,就回傳可理解的拒絕原因或改用 mock,而不是把任意參數塞進免費請求。

把 $10 拆成可驗證的課堂預算

一個實用的課堂分配可以先保留 15% 做 health check 和最後回歸,20% 做負面測試,剩餘部分再分給 Chat、tool routing、JSON output 與公開資料問答。這不是 AI21 的官方配額,而是本地治理方法;真實消耗仍以 Account 的 Model usage 和 API response usage 為準。

每份作業先設定最大請求數、max_tokens、最大 retry、允許模型和 deadline。重複 prompt 的開發測試應先在本地 mock 做,只有固定輸入、固定預期與固定驗收條件後,才送一個實際 trial request。這樣免費 credit 用來驗證 provider 行為和 Agent 整合,而不是用來承擔無限 prompt exploration。

每個燃料事件可以記錄時間、student_id、organization、task_id、model、預估輸入輸出、實際 usage、status、retry、剩餘 credit 查核時間與人工結果。不要把完整 prompt、API key、個資或付款資訊寫進帳本。若 dashboard 顯示量和本地帳本不一致,先停止批次,檢查 Playground、其他 members、重試與不同 model,而不是立即開新帳戶。

AI21 的 RPS 與 RPM 限制

AI21 官方 Rate Limits 文件目前以 RPS 和 RPM 說明 foundation models 的使用限制,Jamba Large 與 Jamba Mini 都列出每秒 10 requests、每分鐘 200 requests。這些數字是 AI21 Platform 的 SDK 或 REST endpoint 參考,不代表 cloud provider 的 Bedrock 或 SageMaker 限制;若從第三方 cloud 使用,必須另外查該平台的價格與 rate limits。

RPS 與 RPM 只描述請求速度,不等於 10 美元可以使用多久,也不等於每位學生都有自己的 200 RPM。課堂 gateway 應設定比 provider 更低的 student quota、class concurrency 和 queue limit,讓組織可以公平分配 credit。多人同時在 Playground 操作時,也要把它視為同一 organization 的共享消耗。

如果真正瓶頸是 RPM,縮短 prompt 不一定能解決;應降低併發、排隊、合併可安全合併的讀取任務或等待。若瓶頸是 token cost,才調低 max_tokens、縮短上下文和控制輸出。adapter 要把速度限制與金錢預算分開顯示,避免學生誤以為「還能請求」就是「還有免費 credit」。

429、401、403 與 5xx 的不同處理

AI21 API response 文件列出的錯誤包含 401 Unauthorized、403 Access Denied、422 malformed request、429 Too Many Requests、500 Internal Server Error 和 503 Service Unavailable。401 要檢查自己的 API key 與環境變數;403 要交給 workspace 或組織管理者;422 要修正 request;429 才適合做有限退避;500/503 在有限重試後要交回人工或切換已核准的 provider。

async function callAI21(call) {
  const maxRetries = 2;

  for (let attempt = 0; attempt <= maxRetries; attempt += 1) {
    const response = await call();
    if (response.ok) return response;

    if ([400, 401, 403, 404, 422].includes(response.status)) {
      throw new Error(`Stop and review AI21 status ${response.status}`);
    }

    const retryable = response.status === 429 || response.status >= 500;
    if (!retryable || attempt === maxRetries) return response;

    const waitMs = Math.min(8000, 750 * 2 ** attempt);
    await new Promise((resolve) => setTimeout(resolve, waitMs));
  }

  throw new Error('AI21 retry budget exhausted');
}

這段程式只是給低量、無副作用請求的 retry skeleton。它不能增加 trial credit,也不能繞過 RPS、RPM 或 organization budget。真實 adapter 仍要加入 Retry-After 或等效 header、circuit breaker、request id、idempotency 判斷和整體 credit stop line;如果請求可能觸發外部工具,就不能只看 HTTP status 決定是否重試。

AI21 API 的 tool calls 要特別保守

Foundation Model API 可以在回應中提出 tool_calls,應用程式再執行工具並把 tool message 放回對話。工具名稱、參數 schema、權限、輸出清理與人工確認都由你的 application 負責。模型提出呼叫不等於它已經取得付款、刪除、發布、shell 或資料庫寫入權限。

AI21 Maestro 的官方工具文件還有一個對主要 Agent 很重要的提醒:Maestro 的 multi-path execution 可能從多條路徑探索同一任務,因而重複呼叫同一工具;官方明確建議 retrieval/read tools,並強烈不建議 action/write tools,因為重複路徑可能造成重複副作用與不一致狀態。

因此學生第一個 AI21 Agent 應該只開放固定公開資料查詢、讀取 mock database 或計算不改變狀態的函式。若一定要測試寫入,先用本地 fake tool、dry-run、idempotency key、人工批准和可回滾儲存;不要直接把 Maestro 或 foundation model 的 tool call 接到真正的付款、發布、刪除或帳號管理端點。

AI21 的資料與隱私邊界

AI21 最新 Privacy Policy 說明,對 individual developer accounts 或 AI21 作為 data controller 的情境,AI21 會處理帳戶資料、billing、prompts、inputs、outputs 和 technical usage data,以提供、維護、保護、支援與改善服務。政策同時說明,除非另有書面約定或為提供服務所需,AI21 不會用 inputs 或 outputs 訓練 foundation 或 generally available AI models。

這個「不拿來訓練模型」不能被誤讀成「可以送任何資料」。AI21 Terms 仍要求使用者對 Customer Data、輸入的權利與合法性負責,並且除非服務另有支援或書面同意,不要送 special categories of personal data、PCI payment card data、protected health information 或其他高度受保護資料。

課程資料還要考慮第三方來源的授權與保存期限。即使一篇文章公開可讀,也不代表可以無限制複製到外部 API、長期存成向量或交給下一個服務。學生可以先截取必要的短片段,記錄來源 URL 和查核日期,完成作業後刪除不再需要的原文與中間結果;需要長期保存時,由老師確認授權和資料治理。

同一份資料在 AI21 Platform、內部 gateway、瀏覽器 cache、錯誤 log 和工具服務可能有不同保存位置。主 Agent 的資料流圖應標出每一段的 owner、retention、遮罩規則和刪除方法。這個練習能讓學生理解,provider 沒有用輸入訓練模型,不代表你自己的 gateway 或第三方工具就自動安全。

學生課堂先用公開文章、自己產生的無識別資料與 synthetic records。資料閘門在請求離開本機前檢查 secret_like、personal_information、payment_data、health_data、copyright_scope 和 data_class;拒絕事件只保存類別與 request id。這樣即使 provider 隱私政策改變,也能先從 adapter 層停止外送。

輸出必須經過人工驗收

AI21 Terms 提醒 AI output 是 probabilistic、可能不準確、不完整或在不同使用者間重複。主要 AI Agent 不應把輸出直接當作法律、醫療、金融、雇用、安全或其他高風險決策的唯一依據。課堂作業也要保存來源、提示版本、model、usage 和人工判定,不要只保存一段看起來通順的文字。

可以把驗收拆成 schema 通過、來源支持、事實正確、拒答適當和工具安全五個欄位。任一欄失敗時,adapter 回傳 needs_review,不自動發布、不自動寄信、不自動更新資料庫。這會讓學生看見 token fuel 只是推進一次計算,不能取代產品責任與人工判斷。

Cohere、Cerebras 之後如何接入 AI21

主要 AI Agent 可以把 AI21 放進同一個 provider registry,但 capability manifest 必須保留各服務差異:AI21 trial 是 10 美元、三個月的 credit;Jamba foundation models 目前的公開 rate limits 是 RPS/RPM;organization billing 會合計 members;Maestro 可能重複探索工具。不能用一個泛化的 free=true 欄位掩蓋這些條件。

排程器也要知道 trial 的時間維度。可以把三個月分成啟動週、實驗週、回歸週與停止週,每一週預留固定 credit;若前一週消耗過快,下一週就改用本機 mock 或縮小測試集。不要把到期前最後幾天當成「一定要全部用完」的理由,未使用的免費 credit 也可能比失控的付款風險更有價值。

班級公平配額可以採用每位學生每日上限、每個任務上限和全班併發上限三層控制。學生完成必要驗收後才可申請額外測試,並說明預估輸入、輸出與預期學習結果。這讓管理者能分辨真正的研究需求與重複生成,也能在 organization credit 快用完時按學習目標排序,而不是先到先得地消耗。

adapter 的輸入至少包括 data_class、student_id、task_id、approved_model、max_tokens、tool_mode、credit_remaining、expiration_at 和 human_review_required。輸出包括 content、usage、status、model、request_id、retry_count、source_summary 和 next_action。當 credit 到期、billing information 缺失、key 被撤銷或工具需要寫入時,next_action 應是 stop 或 manual_review。

fallback 也要遵守同一個資料政策。公開摘要可以切到另一個已查核 provider 或本機模型;含敏感資料的任務不能因 AI21 失敗就改送更多外部服務;有外部副作用的任務則應排隊等待人工。這讓主要 Agent 能持續工作,但不會把「持續」誤解成無限重試與無限花費。

AI21 trial 適合哪些學生練習

  • Jamba chat:用短 prompt、固定 max_tokens 與公開資料比較摘要和分類。
  • Usage 帳本:對照 response usage、Model usage 和本地 task budget。
  • 限流演習:用 mock 測試 429、401、403、422、500 和 503 的分流。
  • 工具安全:只接 read-only 或 mock tool,觀察多路徑探索如何影響呼叫次數。
  • 資料政策:用 synthetic data 驗證 secret、個資、付款與醫療資料的拒絕閘門。
  • 不適合用途:無限背景工作、正式 production、敏感資料、高風險決策與自動付款。

免費 credit 用完後的停止線

當 AI21 的 $10 credit 接近保留值、三個月 expiry 接近、Model usage 出現異常、API 回傳 402 或帳戶要求 billing information 時,adapter 應停止新增非必要請求。停止畫面要區分 credit expired、credit exhausted、rate limited、invalid key、access denied 和 malformed request,讓學生知道要等待、修正、撤銷還是交給 admin。

如果管理者決定升級,必須先重新確認 organization、付款 owner、spending limit、資料政策、model allowlist 與 rollback。AI21 官方的 trial 是從免費開始,但後續使用可以轉為按月計費;因此「讓它繼續跑」本身就是一個需要明確授權的外部狀態變更,不應由學生 Agent 自動完成。

交接時要留下最後一次成功請求的時間、model、usage、credit 狀態與 key 處置結果。若決定不升級,就撤銷不再需要的 key、刪除暫存資料、保留課堂所需的非敏感驗收摘要,並把 fallback 切換結果交給老師確認。這些步驟讓 trial 結束成為可驗證的生命週期事件,而不是某天突然收到帳單才知道免費額度已經結束。

完成交接後,再用 mock 重播一次停止畫面與替代路徑,確認學生能理解原因和下一步,再關閉課堂排程並通知管理者。

給學生的安全清單

  • 確認 AI21 目前是新帳戶 $10、三個月有效的 trial credit,不是永久免費方案。
  • 確認 credit 到期或用完後,繼續使用需要有效 billing information,且 organization 會合計 members 的 usage。
  • 只從 AI21 Studio 建立自己的 API key,key 只放後端環境變數或 secret manager。
  • Jamba 的 RPS/RPM、model、token usage 和 credit budget 分開記錄,不把速度限制當成免費額度。
  • 只使用公開、去識別化或 synthetic data,不送個資、付款卡、健康資料與秘密。
  • Maestro 與 tool calls 先用 read-only、dry-run 和 mock;不直接連接寫入或付款工具。
  • 429 有限退避;401/403/422/402 或到期狀態要停止並交給正確 owner。
  • 不建立多帳戶、不輪換 key、不使用未知代理,也不把 trial 變成沒有預算的背景服務。

結語:讓 AI21 trial 成為有期限的學習燃料

AI21 Labs 的 trial credit 提供一個清楚的課堂入口:目前新帳戶可得到 10 美元、三個月有效,能使用 API、SDK 和 Playground;官方也公開 Jamba 的 RPS/RPM、API key 管理、usage 與 organization billing。它很適合教學生理解免費額度、模型呼叫、限流、帳務停止和 tool safety,但不能被包裝成永久免費或無限 token。

若要接到主要 AI Agent,先在沒有真實 key 的本地環境測試 capability manifest、credit expiration、usage 帳本、429/401/403/422 分流、資料閘門與 read-only tool,再由有權限的管理者做一次低量 smoke。本文目前只完成官方文件查核與本地草稿驗收,沒有代替任何人建立 AI21 key,也沒有對 AI21 發出真實 API 請求。更多 Agent 基本邊界可延伸閱讀 YOLO LAB AI Agent 常見問題

官方來源: AI21 Pricing and Free Trial UsageAccountCreate an API KeyAuthenticationRate LimitsJamba Foundation ModelsJamba Chat RequestJamba Chat ResponseUser Provided ToolsAI21 Privacy PolicyAI21 Terms of Use

作者與編輯責任

本文署名作者:

|YOLO LAB 主編

YOLO LAB 的文章由署名作者或編輯團隊完成。主編 Dex 負責編輯制度、重要事實查核原則、AI 協作規範與重大更正;文章中的分析與判斷以公開來源、作品內容及可驗證資料為依據。

文章若有需要補充或修正的資料,可透過聯絡頁提供原始來源、日期與具體段落,編輯團隊會依出版政策檢查。

KEEP READING

接著讀什麼?

從同一主題繼續閱讀,或回到 YOLO LAB 的完整文章索引,找到下一個值得投入時間的問題。

發表迴響

探索更多來自 YOLO LAB 的內容

立即訂閱即可持續閱讀,還能取得所有封存文章。

繼續閱讀