Solon Barocas 為什麼說公平演算法不能只修模型？從差別影響到 AI 決策的制度後果

Solon Barocas 為什麼說公平演算法不能只修模型？從差別影響到 AI 決策的制度後果

Solon Barocas 最重要的提醒是，公平演算法真正困難的地方，不在於找出一個神奇指標，而在於承認：資料、目標、部署場景與制度後果都會決定何謂不公平。模型可以在統計上縮小某種差距，卻仍可能把原本不平等的機會、監控與資源分配變成更有效率的自動流程。

Barocas 對演算法公平的貢獻，在於他把問題從「模型有沒有明顯使用敏感欄位」推向更深處：就算系統不直接讀取性別、族群或家庭背景，其他資料也可能保留相同的社會痕跡。公平不能只靠遮掉幾個欄位，而要回到制度如何生產資料、誰被拿來預測、以及人們能否要求不同的決定方式。

實體索引｜Solon Barocas為什麼說公平演算法不能只修模型？從差別影響到AI決策的制度後果

• AI 研究與治理實體：Solon Barocas為什麼說公平演算法不能只修模型？從差別影響到AI決策的制度後果；核對研究者、模型、資料、benchmark、成功率、可重現性、部署環境與受影響群體。
• 原文錨點：Solon Barocas 最重要的提醒是，公平演算法真正困難的地方，不在於找出一個神奇指標，而在於承認：資料、目標、部署場景與制度後果都會決定何謂不公平。模型可以在統計上縮小某種差距，卻仍可能把原本不平等的機會、監控與資源分配變成更有效率的自動流程。 編輯插圖：計算、回饋與制度設計如何彼此連動。 Barocas 對演算法公平的貢獻，在於他把問題從「模型有沒有明顯使用敏感欄位」推向更深處：就算系統不直接讀取性別、族群或家庭背景，其他資料也可能保留相同的社會痕跡。公平不能只靠遮
• 評估脈絡：把實驗分數、真實任務、誤用、可靠性、公平、資料分布與制度後果分開，說明高分為何不等於可安全使用。
• 編輯界線：區分研究結果、工程限制、政策選擇與推論，不把單一 benchmark 或模型輸出寫成普遍能力。

快速抓住這篇文章

• Solon Barocas 的研究指出，資料驅動決策可能在沒有明示敏感特徵的情況下，仍產生對特定群體不利的差別影響。
• 公平指標能幫助發現問題，但不同指標往往無法同時滿足；選擇哪一種指標，本身就是價值與制度判斷。
• 模型表現相近時，常可能存在對不同群體影響較小的替代方案；關鍵在於組織是否願意主動尋找，而不是只接受第一個可用模型。
• 高影響系統需要的不只是偏誤測試，也包括用途限制、理由說明、人工覆核、申訴與外部檢查。
• 對台灣而言，AI 被用於招募、授信、內容處置、教育或公共服務前，應先問它是否必要，以及錯誤能否被人理解與修正。

背景與核心脈絡

Solon Barocas 長期研究演算法公平、資料驅動決策與法律上的差別影響。他與 Andrew D. Selbst 合著〈Big Data’s Disparate Impact〉，讓大眾更清楚看到：大數據系統即使不直接使用敏感特徵，也可能透過地點、消費、社交、教育、工作與歷史紀錄等代理資訊，重現既有的不平等。

這個觀點改變了「公平」最常見的誤解。很多人以為只要模型不讀取某個敏感欄位，就能避免歧視；但在真實社會裡，許多資料本來就與資源、居住、教育、監控與機會分配高度相關。模型避開欄位名稱，不代表它避開了欄位背後的制度歷史。

Barocas 後續與 Moritz Hardt、Arvind Narayanan 等人整理的公平機器學習研究，也讓一件事變得更明白：公平不是一個可以被機器自動算出的單一答案。不同公平定義可能互相衝突，模型調整通常牽涉誰要承擔錯誤、誰值得被優先保護，以及社會如何理解機會與傷害。

不使用敏感欄位，為什麼仍可能造成差別影響？

想像一套系統不輸入性別、族群或家庭背景，只使用郵遞區號、消費行為、就業空檔、裝置類型與社群互動。看起來它避開了敏感資料，但這些欄位仍可能反映居住隔離、收入差距、照顧責任、就業歧視或不同群體受到監控的程度。

因此，模型的問題不只在於它「知道」了什麼，也在於它把哪些歷史後果當成預測未來的合理依據。若某些群體過去較難取得信貸、教育或穩定工作，系統把這些結果學成風險訊號，就可能把舊的不平等包裝成新的客觀判斷。

這與 Virginia Eubanks 對公共服務自動化的觀察相連，也呼應 Ruha Benjamin 對技術如何複製制度不平等的提醒。模型可能沒有惡意，但它仍能把不平等做得更快速、更一致，也更難被當事人挑戰。

公平的難題，不只是模型看見了哪些欄位，而是它把哪些社會後果當成值得延續的訊號。

公平指標不是裁判，它們只能讓價值衝突浮現

演算法公平研究常使用不同衡量方式：比較不同群體的錄取率、誤判率、漏判率、預測準確度或正確率。但這些指標不一定能同時滿足。優先降低某種誤判，可能會改變另一種誤判的分布；追求群體間某個比例一致，也可能和個別案件的直覺公平衝突。

Barocas 的重要貢獻，是讓人理解這不是數學失敗，而是社會本來就存在的價值衝突。當系統決定誰得到貸款、誰被進一步審查、誰被送進人工流程，社會必須選擇更在乎哪一種傷害。這種選擇不應被藏進模型參數，假裝是純粹的技術結果。

這也與 Alex Hanna 對公平框架的批判相通：若只把公平當成幾個群體分數，容易忽略誰決定分類、誰設計資料、以及系統是否本來就不應該被用於這個情境。

「找更少傷害的替代方案」比接受第一個模型更重要

在許多預測問題裡，表現相近的模型不只一個。它們可能有相同或接近的整體準確率，卻對不同群體造成完全不同的結果。這意味著，組織不應把第一個分數足夠高的模型當成唯一合理選擇。

Barocas 與合作者近年的研究延伸這個想法：若存在同樣能滿足業務需求、但對特定群體差別影響較小的替代方案，開發與部署者應有合理責任去尋找它。這不代表每個問題都能找到完美解答，而是要求組織別把「我們的模型能用」誤當成「這就是唯一可行方案」。

這和 Deborah Raji 對 AI 稽核的主張相連：稽核若只是確認系統達標，就很容易變成驗收；真正的問責要保留重新設計、比較替代方案、限制用途，甚至停止部署的選項。

公平必須走出模型，進入程序與救濟

對當事人來說，演算法公平不是一份技術報告，而是自己是否被拒絕、被標記、被降權或失去機會。如果系統做出高影響決定，當事人至少需要知道決定依據、是否能更正資料、如何提出申訴，以及能否取得人類重新判斷。

Danielle Citron 對正當程序的主張，補上了 Barocas 的制度面：再好的公平測試，也無法取代理由說明、資料更正、人工覆核與救濟。公平若沒有程序，當事人仍只能面對一個看不見、也改不了的結果。

對台灣讀者來說，AI導入前要先問「這個預測是否必要」

台灣企業與公共機構正在把 AI 放進客服、招募、詐欺偵測、教育分析、內容治理與行政流程。這些系統常以效率為名進場，但效率不會自動等於正當。只要系統會影響人取得工作、服務、信貸、資訊或社會評價，就應先問：這個預測是否真的必要？它是否把歷史不平等當成合理資料？是否存在低風險或人工處理的替代方案？

一個較負責任的流程，至少要留下四個出口：資料來源與限制可以被查驗；群體差異與失效情境可以被公開；受影響者可以要求理由與更正；組織在發現問題時有能力調整或停止系統。這些條件不會讓決策變得簡單，卻能避免方便的技術被用來替代必要的責任。

從 Solon Barocas 的公平框架繼續讀，Cathy O’Neil 說明黑箱模型如何把傷害擴大，Alex Hanna 追問公平指標背後的制度權力，Deborah Raji 則把替代方案與測試推向可改變部署決策的稽核。三篇一起讀，能把公平從抽象分數拉回資料、用途與責任。

讀者常問

Solon Barocas是誰？

Solon Barocas 是研究演算法公平、資料驅動決策與差別影響的學者。他的工作說明，模型即使不直接使用敏感欄位，也可能透過代理資料重現既有的不平等，因此公平必須同時處理資料、用途與制度後果。

什麼是差別影響？

差別影響指一套看似中立的規則或決策方式，實際上對特定群體造成較不利結果。演算法系統即使沒有明確使用性別、族群等欄位，也可能透過地點、消費、教育或歷史紀錄等代理資料，產生類似的結果。

公平演算法有一個標準答案嗎？

沒有。不同公平指標可能互相衝突，因為它們反映不同的價值選擇：是優先減少誤判、維持群體間比例、保護個別案件，還是避免既有不平等被延續？這些選擇需要公開討論，不能只由模型參數替所有人決定。

不用敏感資料，能避免演算法歧視嗎？

不一定。許多一般欄位都可能和敏感特徵及制度不平等高度相關，例如居住地、工作紀錄、消費行為或教育資源。避免直接使用敏感欄位只是第一步，還需要檢查資料如何產生、系統如何部署，以及錯誤如何落在不同人身上。

企業如何讓AI決策更公平？

應先確認預測是否必要，再檢查資料來源與群體差異；比較表現相近但傷害較小的替代方案；讓高影響決定保留人工覆核、理由說明與申訴；並在部署後持續監測，而不是只在上線前做一次測試。

收尾

Solon Barocas 的價值，在於他讓人放棄一個過於簡單的想像：只要找到正確的公平公式，AI 就能自動變得正義。

公平演算法真正需要的，是把資料、用途、替代方案與救濟程序都放進同一張責任地圖。當人們願意問「有沒有更少傷害的做法」，技術才可能從複製舊規則，走向改變舊規則。

參考資料

• Solon Barocas、Andrew D. Selbst，〈Big Data’s Disparate Impact〉，《California Law Review》，2016。
• Solon Barocas、Moritz Hardt、Arvind Narayanan，《Fairness and Machine Learning: Limitations and Opportunities》，MIT Press，2023。
• Andrew D. Selbst、Danah Boyd、Suresh Venkatasubramanian、Solon Barocas，〈Fairness and Abstraction in Sociotechnical Systems〉，FAT*，2019。
• Solon Barocas、Elizabeth Bradley、Vasant Honavar、Foster Provost，〈Big Data, Data Science, and Civil Rights〉，2017。
• Emily Black、Logan Koepke、Pauline Kim、Solon Barocas、Mingwei Hsu，〈The Legal Duty to Search for Less Discriminatory Algorithms〉，2024。