Virginia Eubanks 為什麼說科技正在自動化不平等？從數位貧民院到 AI 公共服務的代價

Virginia Eubanks 為什麼說科技正在自動化不平等？從數位貧民院到 AI 公共服務的代價

Virginia Eubanks 最重要的提醒是，自動化不一定先從高科技實驗室進入人們生活，它常先進入資源最緊張的地方：福利資格、住房分配、兒少風險、失業服務與公共救助。當制度把人交給分數、表格與資料庫時，最有能力找到替代管道的人通常受影響較小；最需要支持的人，反而更容易被要求反覆證明自己。

她在《Automating Inequality》中提出的不是「政府不該用技術」，而是一個更難回答的問題：當公共服務用自動化節省成本時，成本究竟轉移到誰身上？如果系統錯了，誰能迅速更正？若一個人沒有網路、文件、時間或法律協助，他還能不能得到本來應有的照顧？

實體索引｜Virginia Eubanks為什麼說科技正在自動化不平等？從數位貧民院到AI公共服務的代價

• AI 與社會治理實體：Virginia Eubanks為什麼說科技正在自動化不平等？從數位貧民院到AI公共服務的代價；核對研究者、模型、資料、礦產、勞動、平台、評分、搜尋、公共服務、受影響群體與制度。
• 原文錨點：Virginia Eubanks 最重要的提醒是，自動化不一定先從高科技實驗室進入人們生活，它常先進入資源最緊張的地方：福利資格、住房分配、兒少風險、失業服務與公共救助。當制度把人交給分數、表格與資料庫時，最有能力找到替代管道的人通常受影響較小；最需要支持的人，反而更容易被要求反覆證明自己。 編輯插圖：計算、回饋與制度設計如何彼此連動。 她在《Automating Inequality》中提出的不是「政府不該用技術」，而是一個更難回答的問題：當公共服務用自動化節省成本時，成本
• 權力脈絡：把資料攫取、資源開採、勞動、分類、評分、預測、正當程序、申訴與歧視後果分開，說明 AI 如何嵌入社會。
• 編輯界線：區分技術設計、公司商業模式、制度責任與研究批判，不把單一分數、搜尋結果或模型輸出寫成中立事實。

快速抓住這篇文章

• Virginia Eubanks 是政治學者與科技社會研究者，《Automating Inequality》分析高科技系統如何在公共服務中影響貧窮與權益。
• 她提出「數位貧民院」的比喻：自動化可能把過去以行政與管控方式對待貧窮的制度，變成更快速、更難申訴的資料流程。
• 公共服務演算法的問題不只在預測準不準，也在於它是否讓人更難取得福利、住房、照顧與解釋的機會。
• 自動化常被包裝成客觀與效率，但若資料反映既有監控與資源缺口，模型可能把貧窮當成風險訊號，而不是需要支持的條件。
• 高風險公共系統需要透明、人工覆核、可及申訴、外部審計與不使用自動化的替代路徑。

背景與核心脈絡

Virginia Eubanks 是研究科技、貧窮、公共服務與社會正義的政治學者。2018 年出版的《Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor》，把焦點放在三種美國公共系統：自動化福利資格、無家者服務與兒少風險預測。

這本書的關鍵不是逐一評論某個模型的程式碼，而是回到制度史。Eubanks 指出，社會長期以來就會透過分類、資格審查與道德判斷來決定誰「值得」救助。數位系統並沒有憑空發明這種治理方式，卻能讓它更快、更大規模、也更難從外部看見。

她把這條歷史與 19 世紀的 poorhouse 連結，提出「digital poorhouse」的比喻。重點不是把今天的系統和過去簡單畫上等號，而是提醒：若科技主要用於監控、篩選與懲罰貧窮者，而不是增加他們可得的資源，它就可能讓舊有不平等以更新的形式延續。

「數位貧民院」不是比喻過頭，而是看見制度把人變成資格問題

公共服務制度需要分配有限資源，因此必然會有資格、優先順序與審查。問題不是所有審查都不合理，而是審查如何被設計。當一個人申請補助、住房、醫療或照顧時，系統可能要求大量資料、跨部門比對、風險評分與自動通知；看起來更有效率，實際上卻可能讓程序變得更難理解。

資源較多的人遇到制度問題時，可能找得到律師、社工、家人、網路資訊或替代服務；資源較少的人則容易被一個錯誤欄位、缺少文件或自動拒絕卡住。於是自動化不是平均地作用在所有人身上，而是把「修正系統錯誤」的勞動更多交給最難承擔的人。

這是 Eubanks 最有力的判斷：公共系統的問題不能只看它平均節省多少時間，也要看它把多少解釋、申訴與證明成本轉給誰。效率如果建立在弱勢者更難求助之上，就不是中立效率，而是一種資源重新分配。

當制度把人的需要轉成風險分數，最需要被問的不是分數多精準，而是這個人還有沒有被當成可以說明自己的人。

預測風險很容易，支持家庭卻更難：模型的目標決定了它看見什麼

公共系統常用預測工具找出「高風險」個案，例如可能需要兒少保護介入的家庭、可能長期無家可歸的人，或可能不符合資格的申請者。這些模型可能幫助工作者掌握資訊，但 Eubanks 要求回頭問：系統的目標是找出需要支持的人，還是找出需要被控制的人？

資料通常記錄的是與政府接觸的軌跡。某些家庭因為資源不足，會更頻繁出現在福利、醫療、學校、住房或警政資料庫中；另一些家庭擁有私人資源，問題不一定會被同樣方式記錄。模型若把「資料出現得多」直接理解成「風險更高」，就可能把制度的可見性誤認成真實危險。

這與 Timnit Gebru 對資料來源與缺席者的追問一致。資料不是完整世界，而是某些制度曾經留下的痕跡。若沒有理解這些痕跡是怎麼形成的，模型很容易把貧窮、求助或被監控的歷史，重新包裝成需要更嚴格處理的風險。

黑箱的傷害不只在看不懂，而在你可能沒有時間等它被解釋

演算法黑箱常被討論成知識問題：使用者不知道模型怎麼算。但在公共服務裡，它還是時間問題。一個人被錯誤中止福利、錯失住房名額或被列為高風險時，等待幾週甚至幾個月才得到解釋，可能已經造成無法挽回的傷害。

因此，透明不能只等於公開一份技術文件。真正重要的是可及性：當事人能否知道自己被哪些資料影響？是否能快速更正錯誤？是否有人有權在緊急情況下暫停或推翻系統？申訴是否需要昂貴專業資源才做得到？

這和 Baruch Fischhoff 對風險溝通的要求相通。告知不是把一段文字放進條款；制度必須讓人知道自己面對什麼、可以做什麼、出了問題要找誰。若系統只會拒絕，卻沒有可理解的理由與可行動的下一步，它不是自動化服務，而是自動化失語。

公共服務不該只追求防弊，也要追求可得性與尊嚴

自動化常以防詐、減少浪費、快速分類為理由。公共資源確實需要被妥善管理，但若制度把防弊視為唯一目標，就很容易把所有申請者當成潛在違規者，讓真正需要服務的人付出更高的證明成本。

更好的公共系統應同時衡量幾件事：是否降低了錯誤拒絕？是否讓服務更容易取得？是否縮短修正時間？是否減少被迫重複提供資料？是否讓社工與前線人員有能力解釋與處理例外？如果只衡量節省多少人力與攔下多少案件，制度就會忽略被錯誤排除的人。

這也是 Ruha Benjamin 所說的創新與公平衝突之處：技術可能把行政變快，但速度本身不是公共價值。當速度讓人更難說明自己、被更快地拒絕，公共服務的目的就被顛倒了。

對台灣讀者來說，數位政府的問題不是有沒有AI，而是有沒有替代與救濟

台灣持續推動數位政府、線上申辦與資料整合，這些方向可以減少奔波與行政成本。但 Eubanks 的提醒是：不能假定所有人都能同樣使用數位流程。年長者、身心障礙者、移工、低收入家庭、沒有穩定網路或難以理解公文的人，可能在系統越完整時越被排除。

高品質的數位服務必須保留真人窗口、紙本或電話替代路徑、快速更正機制與能理解當事人處境的前線裁量。這些不是舊式成本，而是讓數位系統不把最需要服務的人留在系統外的安全網。

Eubanks 把自動化放回公共服務的權力關係後，Cathy O’Neil 進一步解釋模型如何透過回饋迴路放大排除，Frank Pasquale 則追問高風險系統如何接受審計；而 Danielle Citron 把答案落在程序：被系統影響的人必須有理由取得、更正與有效救濟的權利。

讀者常問

Virginia Eubanks是誰？

Virginia Eubanks 是研究科技、貧窮與社會正義的政治學者。《Automating Inequality》以福利資格、無家者服務與兒少風險評估為案例，分析公共服務中的資料系統如何讓弱勢者承擔更高的監控、拒絕與申訴成本。

什麼是數位貧民院？

數位貧民院是 Eubanks 用來描述一種自動化治理趨勢的比喻：公共系統把貧窮者更多地放進資料審查、資格篩選、風險預測與自動拒絕流程。它提醒人們，技術可能把過去對貧窮的控制邏輯變得更快、更大規模也更難申訴。

公共服務使用AI一定不好嗎？

不一定。AI 和資料工具可以協助整理資訊、減少行政負擔與發現服務缺口。問題在於用途、資料、錯誤後果與救濟是否被設計好。高風險系統至少需要人工覆核、可理解理由、快速更正、外部審計與不使用數位流程的替代方式。

為什麼預測模型可能對弱勢者不公平？

因為弱勢者更常被公共制度記錄，資料庫中的出現頻率可能反映資源不足、被監控較多或求助較頻繁，而不必然代表較高危險。若模型沒有理解資料形成的制度背景，就可能把被看見得更多誤當成風險更高。

數位政府應如何避免排除弱勢？

應保留真人與非數位替代路徑，讓當事人能快速更正資料、理解決定理由與提出申訴；同時評估不同群體是否因設備、語言、身心狀況或生活條件而被流程排除。數位化不應以放棄可及性和尊嚴為代價。

收尾

Virginia Eubanks 的問題很直接：當制度把人交給機器處理時，誰還有資格被當成例外、被傾聽、被相信？

自動化可以讓公共服務更好，但前提不是讓所有人都配合系統，而是讓系統保留人能夠求助、說明與重新開始的空間。沒有這個空間，效率只會成為另一種不平等的速度。

參考資料

• Virginia Eubanks，《Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor》，St. Martin’s Press，2018。
• Virginia Eubanks，《Digital Dead End: Fighting for Social Justice in the Information Age》，MIT Press，2011。
• Virginia Eubanks，University at Albany 研究頁面。
• Allegheny Family Screening Tool 相關公開文件與審計研究。
• Timnit Gebru 等，〈Datasheets for Datasets〉，《Communications of the ACM》，2021。