Alex Hanna 為什麼說 AI 不能只看模型？從資料集、分類到科技權力的社會學批判

Alex Hanna 為什麼說 AI 不能只看模型？從資料集、分類到科技權力的社會學批判

Alex Hanna 最重要的提醒是，AI 的問題很少只是模型夠不夠準。當一套系統被拿來分類人、預測風險、安排可見性或決定誰值得被服務時，它同時也在處理種族、性別、階級、語言與制度權力。若只把這些問題當成資料偏差或工程誤差，往往會錯過真正造成不平等的社會條件。

Hanna 的研究把 AI 拉回一個不太舒服、卻更接近現實的問題：資料集、基準測試與公平指標從來不是中立工具。它們會決定什麼樣的人被看見、什麼樣的差異被固定成欄位、什麼樣的歷史被當成可以預測未來的依據。要理解 AI，不能只看模型輸出，也要看誰設計了問題、誰承擔了錯誤，以及誰有權要求系統停下來。

實體索引｜Alex Hanna為什麼說AI不能只看模型？從資料集、分類到科技權力的社會學批判

• AI 與社會實體：Alex Hanna為什麼說AI不能只看模型？從資料集、分類到科技權力的社會學批判；核對研究者、模型、資料集、基準、部署場景、監控商業模式、平台與受影響群體。
• 原文錨點：Alex Hanna 最重要的提醒是，AI 的問題很少只是模型夠不夠準。當一套系統被拿來分類人、預測風險、安排可見性或決定誰值得被服務時，它同時也在處理種族、性別、階級、語言與制度權力。若只把這些問題當成資料偏差或工程誤差，往往會錯過真正造成不平等的社會條件。 編輯插圖：計算、回饋與制度設計如何彼此連動。 Hanna 的研究把 AI 拉回一個不太舒服、卻更接近現實的問題：資料集、基準測試與公平指標從來不是中立工具。它們會決定什麼樣的人被看見、什麼樣的差異被固定成欄位、什麼樣的
• 系統脈絡：把資料、模型、雲端基礎設施、商業誘因、權力、評估、使用者與部署後果分開。
• 編輯界線：區分技術能力、公司敘事、社會學批判與制度責任，不把 AI 寫成脫離組織和勞動的單一工具。

快速抓住這篇文章

• Alex Hanna 的研究主張，資料集與公平性框架都帶著歷史、價值與制度選擇，不能把它們當成純技術物件。
• AI 若把種族、性別或階級當成固定欄位，可能忽略這些差異是由制度、環境與權力關係共同形成。
• 資料集不只提供模型訓練材料，也會塑造研究者認為哪些問題值得被解決、哪些結果算成功。
• 基準測試高分不等於系統適合進入真實世界；部署情境、受影響者與錯誤後果必須一起被評估。
• 對 AI 的質疑不等於拒絕技術，而是要求系統的必要性、資料條件、勞動成本與權力分配都能被公開討論。

背景與核心脈絡

Alex Hanna 是研究計算社會科學、資料集、演算法不平等與科技權力的社會學者。她的重要工作橫跨資料集研究、種族與分類、基準測試，以及 AI 如何被企業、政府與平台納入日常決策。

她與 Amandalynne Paullada、Inioluwa Deborah Raji、Emily M. Bender、Emily Denton 合著〈Data and its (dis)contents〉，指出資料集在機器學習中不只是模型的燃料，也會決定研究問題、評估標準與產品方向。她與合作者的另一項研究〈Bringing the People Back In〉則主張，理解基準資料集不能只看檔案內容，也要追問它的歷史、勞動、價值與建立條件。

這條問題線與 Amandalynne Paullada 的資料批判、Abeba Birhane 對大型資料集的質疑，以及 Timnit Gebru 對資料集文件的要求彼此呼應。它們共同指出：資料不是模型之前的背景，而是模型開始做選擇的地方。

AI的公平問題，不能只把人當成一排欄位

當 AI 團隊試圖讓系統更公平，常會把性別、種族、年齡、收入或地區放進資料表，接著比較不同群體的錯誤率。這種做法有一定價值，因為它至少能讓平均分數背後的落差被看見。但 Hanna 的研究提醒，若把這些社會分類視為穩定不變的自然屬性，也可能把制度性不平等縮小成幾個可以調整的統計變數。

例如，種族不只是資料庫裡的一個欄位；它也連著居住環境、醫療資源、警政記錄、教育機會、移動自由與被監控的歷史。若模型把過去的逮捕資料、信用紀錄或就業結果當成客觀真相，它很可能不是在預測中立的未來，而是在重新包裝既有的制度結果。

這也是 Hanna 與 Emily Denton 等人在〈Towards a Critical Race Methodology in Algorithmic Fairness〉中提出的重要提醒：公平性研究不能只問某個群體的錯誤率是否較高，也要問社會不平等是如何被資料生產、分類與部署流程持續製造。公平不是模型最後加上的修飾，而是從問題設定一開始就必須被處理的權力問題。

當制度不平等被轉成資料欄位，模型看似在做預測，實際上可能是在替既有秩序續寫下一頁。

資料集的歷史，往往比資料集的規模更重要

大型資料集常被理解成一種進步：樣本越多、模型越有機會涵蓋世界。但資料集並不是從世界自然流入伺服器。它們經過收集、挑選、標籤、清理、授權、格式化與分享；每一步都有做決定的人，也有被排除的脈絡。

Hanna 與合作者提出「把人帶回來」的資料集研究，不是要求資料科學停下來，而是要求研究者正視資料集背後的人：誰做了標註？誰決定類別？誰的影像、文字或行為被收入？哪些人沒有能力拒絕？哪些社會價值被當成默認設定？

這與 Nick Couldry 對資料攫取的分析相連。資料的價值通常不只來自它被保存，而是來自它被持續重用、交叉分析、訓練模型與轉成產品。如果人們只把資料看成免費原料，就很容易忽略背後的勞動、同意、脈絡與權利。

基準測試不是世界的縮影，而是對世界的取樣

AI 領域經常依靠 benchmark 排名來定義進步：誰在某項測驗得到最高分，誰就被視為能力更強。但 Hanna 與 Raji、Bender、Paullada、Denton 共同批判的，正是把少數大型 benchmark 當成「整個世界」的習慣。

每個 benchmark 都有自己的前提：什麼樣的題目被放進去、什麼樣的答案被視為正確、哪些語言和文化被代表、哪些現實後果被抽離。模型在題目上得分更高，只能證明它更擅長在這套設計裡作答，不能證明它理解社會，更不能證明它適合進入高風險流程。

這和 Deborah Raji 對 AI 稽核的主張一致：評估必須回到具體用途。系統若要協助招聘、授信、內容處置或公共服務，就不能只拿通用榜單當作保證，而要測試它在實際使用者、實際制度與實際錯誤後果下會發生什麼。

AI不是一個東西，而是一連串權力決定

Hanna 的研究與公共評論常常反對把 AI 講成一股獨立、不可阻擋的力量。這種敘事很容易讓人以為，企業、政府與勞工只能被動適應「AI 時代」。但 AI 從來不是單一事物：它是資料收集、標註勞動、模型選擇、平台部署、採購決策、管理流程與商業目標交疊的結果。

一旦把 AI 拆開來看，問題就會變得更具體。這個系統真的有必要嗎？它要解決的是誰的問題？它會讓誰失去工作中的判斷空間？誰從自動化裡得到收益？誰要處理它造成的例外與錯誤？這些不是反科技問題，而是每一個負責任部署都應回答的基本問題。

這也與 Kate Crawford 的 AI 基礎設施視角互相補充：如果只談模型能力，就看不見它背後的資源、能源、勞動與供應鏈。Hanna 則把鏡頭放進社會制度，追問這些技術安排最後如何改變人與人之間的權力關係。

對台灣讀者來說，最需要防的是把制度問題偽裝成模型問題

台灣的企業與公共機構正在把 AI 用於客服、內容推薦、詐欺風險、招聘、教育管理與行政流程。這些系統很容易被包裝成效率工具：更快、更一致、更省人力。但 Hanna 的提醒是，效率從來不是中立的結果。它可能代表某些人的服務被加速，也可能代表某些人的例外狀況更難被理解。

在任何影響權益的流程裡，最重要的不是先問模型準確率，而是先問：它依賴的歷史資料是否反映既有偏差？它把哪些人當成例外？如果使用者不同意或被誤判，是否有人工處理與救濟？若這些問題沒有答案，系統再流暢，也只是在把制度決定藏進技術介面。

從 Alex Hanna 的社會學視角繼續讀，Ruha Benjamin 說明創新如何複製制度不平等，Virginia Eubanks 讓人看見自動化進入公共服務後的代價，Amandalynne Paullada 則把問題拉回資料與基準。三篇一起讀，能更清楚地理解：AI 不只是技術選擇，也是社會分配與治理選擇。

讀者常問

Alex Hanna是誰？

Alex Hanna 是研究計算社會科學、資料集、演算法不平等與科技權力的社會學者。她的研究關注資料如何塑造 AI 系統、基準測試如何定義進步，以及技術如何與種族、性別、階級和制度權力交織。

為什麼AI公平不能只看群體錯誤率？

群體錯誤率很重要，但它只能呈現部分問題。若只把種族、性別或階級視為固定欄位，可能忽略這些差異背後的制度歷史、資源分配與監控關係。真正的公平還要追問資料怎麼來、系統為何被部署，以及錯誤會如何影響不同人。

什麼是「把人帶回資料集」？

這是一種研究資料集的方法，要求人們不只查看資料欄位與樣本數，也要追問資料集的建立歷史：誰收集、誰標註、哪些價值被寫進分類、哪些人被納入或排除，以及資料在後來被如何重用。它讓資料集不再被當成沒有來源的技術物件。

benchmark高分能代表模型可靠嗎？

不一定。benchmark 只能顯示模型在特定題目、資料與評分規則中的表現。真實世界還包括資料漂移、跨語言差異、制度流程、例外案件與錯誤後果，因此高風險用途不能只依賴榜單或單一總分。

一般人如何判斷AI系統是否把問題藏起來？

可以先問四件事：系統使用什麼資料、它要替誰做什麼決定、誰能檢查它的錯誤、被影響的人如何申訴。若供應商只能談功能與效率，卻說不清資料、限制、人工覆核與救濟，通常代表真正重要的問題仍被留在黑箱裡。

收尾

Alex Hanna 的價值，在於她拒絕讓 AI 變成一個能掩蓋責任的巨大名詞。

當資料、模型與制度被拆開來看，我們就會發現，真正要決定的從來不是要不要相信 AI，而是要不要讓一套未被充分質疑的系統，替人重新安排機會、資源與尊嚴。

參考資料

• Amandalynne Paullada、Inioluwa Deborah Raji、Emily M. Bender、Emily Denton、Alex Hanna，〈Data and its (dis)contents: A Survey of Dataset Development and Use in Machine Learning Research〉，FAccT，2021。
• Remi Denton、Alex Hanna、Razvan Amironesei、Andrew Smart、Hilary Nicole、Morgan Klaus Scheuerman，〈Bringing the People Back In: Contesting Benchmark Machine Learning Datasets〉，FAccT，2021。
• Alex Hanna、Emily Denton、Andrew Smart、Jamila Smith-Loud，〈Towards a Critical Race Methodology in Algorithmic Fairness〉，FAccT，2020。
• Inioluwa Deborah Raji、Emily M. Bender、Amandalynne Paullada、Emily Denton、Alex Hanna，〈AI and the Everything in the Whole Wide World Benchmark〉，NeurIPS Benchmarks and Datasets Track，2021。
• Joy Buolamwini、Timnit Gebru，〈Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification〉，FAT*，2018。