Amandalynne Paullada 為什麼說資料不是 AI 的背景？從資料集、基準測試到部署責任

Amandalynne Paullada 為什麼說資料不是 AI 的背景？從資料集、基準測試到部署責任

Amandalynne Paullada 最重要的提醒是，資料不是 AI 模型背後一堆安靜的素材。資料集決定了哪些問題值得被解、什麼被視為正確、誰的經驗被納入、誰又被排除。當團隊只看模型分數，卻不追問資料如何被收集、分類、分享與重用，很多風險在模型上線前就已經被寫進系統。

Paullada 的研究把 AI 評估拉回現實世界：資料集既是訓練材料，也是研究方向、產品能力與部署責任的起點。基準測試高分不等於通用能力，更不表示系統適合進入教育、金融、醫療、內容治理或公共服務。真正值得問的是：這套系統在誰的生活裡運作？它依賴什麼資料假設？出了錯，誰能要求它停下來？

實體索引｜Amandalynne Paullada為什麼說資料不是AI的背景？從資料集、基準測試到部署責任

• AI 與社會實體：Amandalynne Paullada為什麼說資料不是AI的背景？從資料集、基準測試到部署責任；核對研究者、模型、資料集、基準、部署場景、監控商業模式、平台與受影響群體。
• 原文錨點：Amandalynne Paullada 最重要的提醒是，資料不是 AI 模型背後一堆安靜的素材。資料集決定了哪些問題值得被解、什麼被視為正確、誰的經驗被納入、誰又被排除。當團隊只看模型分數，卻不追問資料如何被收集、分類、分享與重用，很多風險在模型上線前就已經被寫進系統。 編輯插圖：計算、回饋與制度設計如何彼此連動。 Paullada 的研究把 AI 評估拉回現實世界：資料集既是訓練材料，也是研究方向、產品能力與部署責任的起點。基準測試高分不等於通用能力，更不表示系統適合進入
• 系統脈絡：把資料、模型、雲端基礎設施、商業誘因、權力、評估、使用者與部署後果分開。
• 編輯界線：區分技術能力、公司敘事、社會學批判與制度責任，不把 AI 寫成脫離組織和勞動的單一工具。

快速抓住這篇文章

• 資料集不只是模型的原料，也會塑造研究問題、評估標準與產品功能。
• 資料越大不必然越可靠；來源、標籤、代表性、權利與部署脈絡，都會決定它是否適合使用。
• 基準測試只能衡量特定題目上的表現，不能直接證明模型理解世界或適合高風險用途。
• 資料治理不能停在公開下載與技術存取，還要處理同意、再利用、移除、更正與受影響者的權利。
• 負責任的 AI 需要從資料、模型、部署到申訴一路留下可追溯的紀錄。

背景與核心脈絡

Amandalynne Paullada 長期研究機器學習資料集、基準測試與 AI 問責。她與 Inioluwa Deborah Raji、Emily M. Bender、Emily Denton、Alex Hanna 合著〈Data and its (dis)contents〉，整理了機器學習如何依賴資料集，以及資料收集與使用方式如何影響整個領域看待問題的角度。

這條問題線和 Timnit Gebru 的資料集文件、Abeba Birhane 對大型資料集的批判高度相連。它們共同反對一個過於簡單的想像：只要資料變多、模型變大、測試變複雜，AI 就會自然變得更可靠。

資料集不是中立容器，而是一套先做好的世界觀

一份資料集從來不是把世界原封不動放進電腦。它必須先決定收什麼、不收什麼；什麼是類別、什麼是錯誤；誰能標註、誰能存取；哪些情境被視為常態、哪些被當成例外。這些選擇看起來像技術流程，實際上會決定模型後來能看見什麼、忽略什麼。

例如，模型若只在特定平台、特定語言、特定設備或特定生活情境的資料上評估，卻被拿去處理更廣泛的人群，它可能表現得很穩定，也可能穩定地錯。問題不一定出在演算法寫錯，而是資料已經把某些人排除在正常範圍之外。

這也是為什麼資料治理不能只問「資料夠不夠多」。更重要的是：這些資料能否支持眼前的用途？當事人是否知道它會被這樣使用？哪些群體在資料裡被過度代表、被錯誤描述，或完全沒有出現？

資料集從來不是模型之前的背景；它是模型已經開始做選擇的地方。

基準測試高分，不能替真實世界背書

AI 領域常把少數重要基準測試當成進步的證據：模型在題目上得分更高，就被理解成更懂語言、更會推理或更接近通用能力。但 Paullada 與合作者提醒，benchmark 本身也是一種設計選擇。它決定什麼算問題、什麼算答案、什麼情境值得被衡量。

一個模型可以非常擅長通過測驗，卻不一定能在真實流程中可靠地協助人。因為真實世界有資料缺口、例外情況、制度限制、跨語言差異與人際後果；而基準通常會把這些複雜性壓縮成可計分的題目。

這和 Deborah Raji 對 AI 稽核的主張一致：評估必須回到用途。模型在某個 benchmark 表現好，並不代表它適合用於招聘、信用、內容處置、教育或公共服務。高風險決定需要的是部署條件、失效情境、人工覆核與申訴機制，而不只是榜單排名。

資料被反覆重用時，責任不能跟著消失

機器學習資料經常被收集一次、使用很多次：原本為研究建立的資料，可能被拿去訓練商業模型；原本用於一個任務的標註，可能被移到完全不同的場景。每一次重用都可能帶來新的價值，也可能讓原本的同意、脈絡與限制失效。

Paullada 的研究提醒，資料不能因為被封裝成公開資源，就自動變成沒有歷史、沒有權利與沒有責任的技術素材。資料來源、取得方式、標註環境、先前用途、已知限制與後續修改，都應該被持續記錄。

這一點和 Nick Couldry 對資料攫取的批判相呼應：問題不只在於單次蒐集是否合法，而在於生活是否被預設成可以持續提取、重新分析與轉換成他人資產的原料。

資料問題會一路傳到部署現場

當資料缺口與分類偏差沒有被處理，模型部署後通常不會自動暴露原因。使用者看到的往往只是被拒絕、被標記、被降權、被誤分類，或收到一個看似精準的答案。真正的問題藏在更早的資料與設計流程中。

這正是 Margaret Mitchell 的模型卡概念為何重要：部署者需要知道系統的評估條件、適用範圍、已知限制與禁止用途。但文件本身不夠，還必須有回報、重新評估、版本更新與停止部署的程序，才能讓限制真正影響決策。

資料責任、模型文件與稽核不是三種不同的工作，而是一條鏈。資料說明模型從哪裡來；模型卡說明它能在哪裡使用；稽核則檢查組織是否真的依照這些限制行動。

對台灣讀者來說，AI導入要先問資料是否代表實際情境

台灣的企業與公共機構導入 AI 時，常把重點放在功能、成本與整合速度。但只要系統涉及繁體中文、在地制度、跨世代語用、原住民族語、醫療流程、教育評量或社群內容，資料是否真正涵蓋實際情境，就比功能清單更重要。

在高影響用途裡，至少要能回答：資料代表誰？資料不代表誰？評估是否包含實際使用者？錯誤出現時能否讓人申訴、更正或要求人工處理？若這些答案不存在，系統即使看起來很新，也不應被視為可以直接信任的基礎設施。

從 Paullada 的資料批判繼續讀，Timnit Gebru 提供資料來源與限制的文件框架，Abeba Birhane 追問分類如何造成傷害，Deborah Raji 則把資料與測試推向可改變部署決策的稽核。這三條線一起構成 AI 問責最容易被跳過、卻最不能省略的起點。

讀者常問

Amandalynne Paullada是誰？

Amandalynne Paullada 是研究機器學習資料集、基準測試與 AI 問責的研究者。她的工作關注資料如何影響模型開發與部署，也提醒人們基準與資料集不該被視為中性的技術物件。

為什麼資料集會影響AI要解決什麼問題？

資料集決定模型看得到哪些案例、學習哪些分類、以什麼標準接受評估。當某些人群、語言或情境沒有被納入，模型就可能把它們視為例外或根本無法處理。資料集因此會影響研究者與產品團隊把什麼當成重要問題。

基準測試高分，代表AI在現實世界可靠嗎？

不一定。基準測試只反映系統在特定題目、資料與評分規則下的表現。真實部署還要面對資料漂移、使用者差異、制度流程、例外情境與錯誤後果，因此必須額外評估用途、限制與人工處理方式。

公開資料能不能直接拿來訓練模型？

不必然。技術上可以取得，不代表資料在任何用途下都適合再利用。還需要考慮原始脈絡、當事人的合理期待、個資、敏感內容、使用限制、退出與刪除機制，以及重用後可能產生的新傷害。

企業如何開始做資料責任治理？

先記錄資料來源、用途與限制，再測試資料是否代表實際使用者與情境；接著把限制寫進模型文件與部署規則，最後保留回報、申訴、更新與停止使用的程序。最重要的是，讓這些紀錄能在產品決策中真正發揮作用。

收尾

Amandalynne Paullada 的價值，在於她讓人看見 AI 的問題很少是從模型開始，也很少能只靠模型結束。

資料如何被收集、測試如何被設計、部署如何被限制，會一起決定 AI 最後是在協助人，還是在用看似中立的方式重新安排誰被看見、誰被排除。

參考資料

• Amandalynne Paullada、Inioluwa Deborah Raji、Emily M. Bender、Emily Denton、Alex Hanna，〈Data and its (dis)contents: A Survey of Dataset Development and Use in Machine Learning Research〉，FAccT，2021。
• Inioluwa Deborah Raji、Emily M. Bender、Amandalynne Paullada、Emily Denton、Alex Hanna，〈AI and the Everything in the Whole Wide World Benchmark〉，NeurIPS Benchmarks and Datasets Track，2021。
• Timnit Gebru 等，〈Datasheets for Datasets〉，《Communications of the ACM》，2021。
• Abeba Birhane、Vinay Uday Prabhu，〈Large Image Datasets: A Pyrrhic Win for Computer Vision?〉，WACV，2021。
• Margaret Mitchell 等，〈Model Cards for Model Reporting〉，FAT*，2019。