Meredith Whittaker 為什麼說 AI 不是單純工具？從監控商業模式到雲端權力

Meredith Whittaker 為什麼說 AI 不是單純工具？從監控商業模式到雲端權力

Meredith Whittaker 最重要的提醒是，今天的 AI 很難被當成一個單純的工具來看。它依賴龐大資料、集中式雲端算力、全球硬體供應鏈與平台企業的商業模式；當這些條件被少數公司掌握，AI 的擴張就不只是技術進步，也是在擴張資料提取、基礎設施控制與社會決策的權力。

她的觀點不是說所有 AI 都必然有害，而是要求人別只盯著模型能回答什麼，卻忽略它的材料從哪裡來、部署為誰服務、又如何改變隱私與公共空間。真正要問的不是「AI 夠不夠聰明」，而是：誰擁有它需要的資料與算力？誰能決定它被用在什麼地方？誰有能力拒絕被納入它的系統？

實體索引｜Meredith Whittaker為什麼說AI不是單純工具？從監控商業模式到雲端權力

• AI 與社會實體：Meredith Whittaker為什麼說AI不是單純工具？從監控商業模式到雲端權力；核對研究者、模型、資料集、基準、部署場景、監控商業模式、平台與受影響群體。
• 原文錨點：Meredith Whittaker 最重要的提醒是，今天的 AI 很難被當成一個單純的工具來看。它依賴龐大資料、集中式雲端算力、全球硬體供應鏈與平台企業的商業模式；當這些條件被少數公司掌握，AI 的擴張就不只是技術進步，也是在擴張資料提取、基礎設施控制與社會決策的權力。 編輯插圖：計算、回饋與制度設計如何彼此連動。 她的觀點不是說所有 AI 都必然有害，而是要求人別只盯著模型能回答什麼，卻忽略它的材料從哪裡來、部署為誰服務、又如何改變隱私與公共空間。真正要問的不是「AI 夠
• 系統脈絡：把資料、模型、雲端基礎設施、商業誘因、權力、評估、使用者與部署後果分開。
• 編輯界線：區分技術能力、公司敘事、社會學批判與制度責任，不把 AI 寫成脫離組織和勞動的單一工具。

快速抓住這篇文章

• Meredith Whittaker 把 AI 放回監控、雲端基礎設施、資料集中與市場權力的脈絡，而不是把它只當成模型能力。
• 當 AI 依賴大規模資料收集與集中式算力，它可能強化既有的監控商業模式，而不是獨立於這套模式之外。
• 技術稽核與偏誤測試很重要，但若不處理系統是否必要、由誰部署、誰被監控與誰受益，稽核可能只是在替既有權力背書。
• 隱私、加密與 AI 不是不同議題；資料被持續收集與整合，正是許多 AI 系統能被建造與擴張的條件。
• 台灣討論 AI，不能只停在晶片、伺服器與效率，也要處理資料主權、公共採購、勞動條件與使用者能否拒絕自動化判斷。

背景與核心脈絡

Meredith Whittaker 長期研究人工智慧、隱私、網路基礎設施與科技權力。她曾與 Kate Crawford 共同創辦 AI Now Institute，並在公共場合持續追問 AI 如何與資料集中、企業壟斷、勞動與監控環境交織。

這個視角之所以重要，是因為大眾談 AI 時，常把它想成一顆更會預測、更會生成的「大腦」。Whittaker 則要求人看見它背後的物質與制度條件：模型必須依賴資料、算力、伺服器、雲端服務、資本投入、產品入口與部署通路。這些資源不是平均分配的，也不會自然服務公共利益。

她的問題因此和 Shoshana Zuboff 對監控資本主義的批判、Nick Couldry 對資料攫取的分析，以及 Kate Crawford 對 AI 供應鏈的追問相連。AI 不是脫離資料經濟的下一個階段，而是可能讓這套經濟進一步集中與擴張的基礎設施。

AI不是只有模型，而是一整套資料與雲端基礎設施

生成式 AI 看起來像一個對話介面：輸入問題、得到文字、影像、程式或摘要。但它能夠運作，必須先有大量資料被收集、整理、標註與訓練；還要有高密度的算力、資料中心、雲端服務、網路連線與能源供應。模型表面上很輕，背後卻是一條高度集中、成本高昂的基礎設施鏈。

Whittaker 的判斷是，若人只把 AI 看成便利功能，就會低估它對資料與算力的需求。當越多服務被包裝成「AI 助理」「AI 搜尋」或「AI 自動化」，企業對更多資料、更多使用者行為、更多運算資源的需求也可能跟著擴張。這使 AI 不只是使用既有資料，而可能成為要求持續資料化生活的新理由。

這正好延伸 Kate Crawford 的觀點：AI 不是漂浮在雲端的抽象能力，而是連著礦產、能源、硬體、資料中心與人類勞動的供應鏈。Whittaker 再補上一層：當供應鏈與雲端入口集中在少數公司手中，AI 的技術方向也會越來越受它們的商業邏輯左右。

AI 的問題不只在模型如何回答，也在於誰有能力提供它需要的資料、算力與部署通路。

監控不是AI的副作用，而可能是它的材料來源

許多 AI 系統需要大量行為資料：人們看過什麼、點過什麼、在哪裡停留、如何說話、和誰互動、對什麼內容反應。這些資料可以用來訓練推薦、預測、分類與生成系統，也能轉化成更細緻的商業洞察與控制能力。

因此，Whittaker 不把監控與 AI 視為兩個分開的議題。若資料持續被收集、串連與再利用，AI 就可能成為一種讓監控更具預測力、更容易嵌入產品與更難被辨識的機制。問題不只是某個模型有沒有讀取個資，而是整個技術體系是否把人的生活預設成可被抽取、分析與變現的素材。

這與 Zuboff 的行為預測批判相互呼應，但 Whittaker 的重點更接近基礎設施：能夠掌握大規模資料與雲端服務的公司，不只可以從使用者資料獲利，也能在 AI 競爭中取得更高的進入門檻與市場影響力。

偏誤測試不能取代對權力與用途的追問

AI 討論常聚焦偏誤：模型對不同群體的準確率是否一致？資料是否足夠多元？這些問題當然重要，但 Whittaker 曾提醒，不能把技術測試當成所有治理問題的答案。因為一個系統即使在測試上看似公平，也不代表它就應該被部署。

以人臉辨識、行為預測或自動化風險分類為例，真正的問題可能不是某個群體的錯誤率較高，而是這些系統是否應該被用來監控、排序或限制人。當高權力機構用技術對低權力群體做出判斷，單純提升準確率有時只會讓原本不對等的制度變得更有效率。

這與 Ruha Benjamin 對創新與不平等的分析、Alex Hanna 對公平性框架的社會學批判相連。公平不只是把偏差修小，而是要重新問：誰定義問題？誰有權部署？誰承擔被分類的代價？

雲端集中，讓AI成為市場權力問題

訓練與部署大型模型需要大量算力、工程人才、資料中心與資本。這些條件讓 AI 競爭不只是創意競爭，也是一場基礎設施競爭。當關鍵算力與雲端服務集中於少數供應者，其他研究者、公共機構與小型團隊即使有不同的社會目標，也可能必須依賴既有巨頭的成本結構、服務條款與技術路線。

Whittaker 的觀點提醒，市場集中會改變什麼被視為值得發展的 AI。若系統主要靠廣告、資料提取、企業採購與規模擴張來回收成本，那些不容易變現、但對社會重要的技術方向，例如隱私保護、地方語言、公共資訊與可維護的小型工具，往往更難取得資源。

這也和 Frank Pasquale 對黑箱社會的分析相通：資訊不對稱與集中控制，不只讓人難以理解系統，也會讓人難以選擇替代方案。要改善 AI 治理，不能只要求個別模型更透明，也要處理人們是否真的有退出、替代與集體談判的空間。

隱私與加密，為什麼是AI時代的公共基礎設施

在 AI 熱潮中，隱私常被看成創新速度的阻礙：資料越少，模型可能越難訓練；系統越加密，服務越難個人化。但 Whittaker 的思路剛好反過來。隱私不是讓科技退步的限制，而是讓人不必把所有生活交給資料提取系統的基本條件。

加密通訊、資料最小化、端側處理與可替代的獨立服務，能保留人們說話、組織、工作與建立關係時不被全面記錄的空間。這對 AI 治理很重要，因為一旦所有互動都被預設為訓練材料或行為訊號，使用者就很難真正選擇不參與資料化。

這裡的關鍵不是要求所有服務都完全不用資料，而是要求資料使用有目的、有限制、有選擇，並且不把「更全面蒐集」當成預設進步。能拒絕資料提取，才是人們能對 AI 系統保有實質談判力的前提。

對台灣讀者來說，AI競爭力也包括能否拒絕不合理的部署

台灣在半導體、伺服器、電子製造與 AI 供應鏈中具有重要位置，因此 AI 議題很容易被理解成產能、技術速度與出口機會。但 Whittaker 的觀點提醒，當 AI 成為基礎設施競爭的一部分，真正長期的能力也包括：資料規則是否可信、公共機構是否能避免被單一供應者綁定、勞工與使用者是否能對高風險部署提出異議。

對一般使用者、創作者與組織來說，最實際的問題是：一項 AI 服務是否讓你知道它蒐集什麼、是否提供不被用作訓練的選擇、重要決定能否人工覆核、是否有可理解的申訴與退出途徑。若答案都是否定的，工具帶來的便利就可能建立在使用者看不見的依賴與失權上。

從 Meredith Whittaker 的基礎設施視角繼續讀，Kate Crawford 追問 AI 的資源、能源與勞動成本，Nick Couldry 說明資料如何被提取成新的價值鏈，Sarah T. Roberts 則讓人看見平台安全背後的人類工作。三者一起看，AI 就不再只是模型，而是一整套重分配資料、勞動與權力的制度。

讀者常問

Meredith Whittaker是誰？

Meredith Whittaker 是研究人工智慧、隱私、網路基礎設施與科技權力的研究者。她曾共同創辦 AI Now Institute，長期主張 AI 必須從資料、監控、雲端集中與社會權力的脈絡理解，而不是只看模型能力。

為什麼她把AI和監控放在一起談？

許多 AI 系統依賴大量行為、互動與內容資料，這些資料往往來自持續的追蹤與收集。Whittaker 的觀點是，AI 並不是脫離監控經濟的獨立技術；資料提取與集中式基礎設施，正是它能被訓練、部署與擴張的重要條件。

偏誤測試能解決AI治理問題嗎？

偏誤測試能揭露部分群體差異，因此很重要；但它不能單獨回答系統是否必要、是否應用在這個場景、誰有權部署，以及誰承擔被監控或被分類的後果。高風險用途需要把技術測試、用途限制、申訴與公共監督一起處理。

雲端集中和AI有什麼關係？

大型模型需要大量算力、資料中心與雲端服務，這讓少數擁有基礎設施的公司取得更高的市場影響力。當研究者、企業與公共機構都依賴同一批供應者，技術路線、成本、資料條件與替代方案也容易被集中控制。

一般使用者如何降低被AI資料化的風險？

可優先選擇資料使用說明清楚、提供訓練退出選項、支援端側或加密處理、能人工覆核與申訴的服務。更重要的是，不要把「必須交出更多資料才能使用更好服務」視為唯一選擇；隱私與退出權是使用者對系統保有談判力的基礎。

收尾

Meredith Whittaker 的價值，在於她讓 AI 從一個抽象的未來名詞，重新回到眼前的資料、雲端、監控與市場權力。

當人看見 AI 的材料與基礎設施，就不會只問它能做什麼，也會開始問誰能決定它做什麼、誰有權說不，以及這套系統是否真的值得被建造。

參考資料

• Meredith Whittaker，〈Facial Recognition Technology (Part III): Ensuring Commercial Transparency & Accuracy〉，美國眾議院監督與改革委員會證詞，2020。
• AI Now Institute，《AI Now Report 2018》，2018。
• AI Now Institute，《Discriminating Systems: Gender, Race, and Power in AI》，2019。
• Heidy Khlaaf、Sarah Myers West、Meredith Whittaker，〈Mind the Gap: Foundation Models and the Covert Proliferation of Military Intelligence, Surveillance, and Targeting〉，2024。
• Kate Crawford，《Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence》，Yale University Press，2021。