Andrew D. Selbst 為什麼說公平 AI 不能只修模型？從技術抽象到真實世界的制度落差

Andrew D. Selbst 為什麼說公平 AI 不能只修模型？從技術抽象到真實世界的制度落差

Andrew D. Selbst 最重要的提醒是，AI 的公平問題很少只住在模型裡。團隊可以改善資料、調整指標、公開模型說明，但一套系統一旦進入招募、教育、平台治理或公共服務，就會和組織流程、使用者行為、資料來源、權力關係與救濟程序一起運作。只修模型，常常修不到真正造成傷害的地方。

Selbst 與合作者提出的「社會技術抽象陷阱」，不是反對抽象或數學模型，而是提醒人們：當複雜的社會問題被過早壓縮成可計分的技術任務，重要脈絡就可能被留在模型之外。AI 看似變得更精準，卻仍可能在真實世界裡做出不合適、難以申訴，甚至無法被當事人理解的決定。

實體索引｜Andrew D. Selbst為什麼說公平AI不能只修模型？從技術抽象到真實世界的制度落差

• AI 治理與制度實體：Andrew D. Selbst為什麼說公平AI不能只修模型？從技術抽象到真實世界的制度落差；核對模型、資料、風險分數、受影響群體、決策者、醫療或公共機構與評估指標。
• 原文錨點：Andrew D. Selbst 最重要的提醒是，AI 的公平問題很少只住在模型裡。團隊可以改善資料、調整指標、公開模型說明，但一套系統一旦進入招募、教育、平台治理或公共服務，就會和組織流程、使用者行為、資料來源、權力關係與救濟程序一起運作。只修模型，常常修不到真正造成傷害的地方。 編輯插圖：計算、回饋與制度設計如何彼此連動。 Selbst 與合作者提出的「社會技術抽象陷阱」，不是反對抽象或數學模型，而是提醒人們：當複雜的社會問題被過早壓縮成可計分的技術任務，重要脈絡就可能被
• 公平脈絡：把模型表現、資料分布、制度流程、申訴、透明度、權力與實際後果分開，不把單一分數當成唯一答案。
• 編輯界線：區分技術測試、制度證據、政策選擇與價值判斷；醫療或公共決策仍需合資格專業和正式程序。

快速抓住這篇文章

• 公平不是只靠模型指標就能完成的工程目標；它同時牽涉資料、流程、權力、使用情境與救濟方式。
• 將社會問題過度抽象成分類或預測任務，容易忽略資料從哪裡來、誰被排除、誰承擔錯誤。
• 模型在測試集上表現良好，不代表它在真實組織流程裡就會產生公平結果。
• 可解釋性有幫助，但一段模型說明不能取代理由、申訴、人工覆核與可改變結果的程序。
• 高影響 AI 的核心問題不只是「模型準不準」，而是「這套系統是否應該在這裡被用來做這件事」。

背景與核心脈絡

Andrew D. Selbst 長期研究演算法公平、資料驅動決策與制度責任。他與 Danah Boyd、Sorelle Friedler、Suresh Venkatasubramanian、Solon Barocas 合著〈Fairness and Abstraction in Sociotechnical Systems〉，指出公平機器學習經常面對一個根本風險：研究者為了讓問題可計算，會把社會脈絡抽掉；但被抽掉的，往往正是決定不公平如何形成的條件。

這個觀點把公平演算法的討論往前推了一步。它不只問模型是否對不同群體有不同錯誤率，也問資料是如何被生產、分類為何被採用、系統由誰操作、當事人是否知道自己被判斷，以及錯誤能否被挑戰。

模型不是整個系統，卻常被當成整個問題

一套 AI 系統看起來像模型、介面與輸出，但它真正運作時會牽涉更多角色：資料提供者、標註者、產品團隊、採購者、前線工作人員、管理者與被判斷的人。模型只是其中一環，卻經常成為全部注意力的焦點。

例如，招募系統可能依據過去履歷與錄用結果排序候選人。即使團隊調整模型讓某些統計差異變小，它仍可能沿用一套原本就偏向特定學歷、工作型態或職涯路徑的篩選流程。問題不只在演算法，也在組織究竟把什麼視為能力、誰有機會進入資料、誰能對結果提出說明。

這就是 Selbst 所說的關鍵：技術模型可以幫助處理問題，但不能把社會問題完整裝進模型。當團隊把模型當成系統本身，就容易以為調整一個指標，便等於處理了整個制度後果。

模型可以做出分數，但公平從來不是一個只由分數決定的結果。

抽象為什麼必要，又為什麼危險？

所有技術工作都需要抽象。資料科學必須把複雜現象轉成欄位、標籤、目標與評估方式，否則系統根本無法建立。問題不在於抽象本身，而在於抽象得太早、太快，或忘記回頭檢查哪些現實被犧牲掉。

當「學習狀況」被壓縮成分數、「風險」被壓縮成預測機率、「適任性」被壓縮成排序結果，系統就會把原本存在於人際關係、制度資源與環境條件中的差異，轉換成看似中立的技術語言。這些轉換有時有用，但不應被誤認為真實本身。

Alex Hanna 對資料與公平框架的批判，正好補上這一層：分類欄位與評估目標不是自然長出來的，它們反映了研究者、組織與制度決定什麼值得被量化。

公平指標可以揭露問題，不能代替公共判斷

公平指標能幫助團隊看見不同群體的錄取率、誤判率或漏判率是否存在明顯差異。這些工具很重要，因為沒有量化檢查，很多不平等會繼續藏在平均分數後面。

但 Selbst 的提醒是，指標不能替所有人回答「什麼才算公平」。不同指標可能互相衝突；即使某項統計差異被改善，也不代表當事人已經得到合理對待。誰能知道自己為何被拒絕？資料有錯時能否更正？人能否要求人工處理？組織是否願意改變原本的流程？這些都不是模型自動能處理的問題。

這與 Danielle Citron 對程序正義的主張相連。若系統只提供一個分數，卻沒有理由說明、申訴與救濟，當事人面對的仍是一個無法改變的黑箱結果。

可解釋性不是萬用解方，真正重要的是能不能改變結果

AI 治理常把「可解釋性」當成答案：只要系統能說明自己依據什麼做出決定，問題似乎就解決了。但 Selbst 與 Barocas 對可解釋機器的討論提醒，解釋本身也需要看情境。

對工程師而言，解釋可能是特徵權重或模型視覺化；對被拒絕服務的人而言，真正需要的通常是更具體的資訊：我為什麼被這樣處理？資料能否更正？誰能重新審查？結果能否被改變？如果一份解釋不能提供這些出口，它可能只是讓黑箱看起來更容易接受。

這也是 Frank Pasquale 所說的審計與救濟為何重要：透明不是目的，能夠檢查、挑戰與修正才是。

對台灣讀者來說，AI導入最該問的是流程會如何改變

台灣的組織導入 AI 時，常把焦點放在模型準確率、導入速度與人力節省。但從 Selbst 的觀點看，更重要的問題是：系統會如何改變原本的流程？前線人員還能不能提出異議？使用者是否知道自己被自動化判斷？當資料不完整或情況特殊時，誰能決定例外？

這些問題特別適用於招募、教育分析、客服分流、內容審查、信貸與公共服務。若 AI 只是在既有流程上加速，卻沒有讓例外與申訴更容易處理，那麼效率提升可能只是把責任轉移給最難發聲的人。

從 Andrew D. Selbst 的社會技術觀點繼續讀，Solon Barocas 說明差別影響與公平指標的限制，Alex Hanna 追問分類與資料背後的權力，Deborah Raji 則把評估推向能改變部署決策的問責。三篇一起讀，能讓公平從模型優化回到制度如何運作。

讀者常問

Andrew D. Selbst是誰？

Andrew D. Selbst 是研究演算法公平、資料驅動決策與制度責任的學者。他的重要觀點是，AI 的公平問題不能只當成模型問題，而應放回資料來源、組織流程、使用情境與救濟程序一起理解。

什麼是社會技術抽象陷阱？

它指的是研究者或組織為了讓問題可計算，過早把複雜社會現象壓縮成資料、標籤與分數，卻忽略系統實際運作時的人、制度、流程與權力關係。模型可能在技術上成立，部署後卻不一定產生合理結果。

公平指標能解決AI不公平嗎？

公平指標能揭露部分群體差異，因此很有價值；但它們無法獨自回答系統是否必要、資料是否合理、當事人能否申訴，或錯誤如何被修正。公平需要技術測試，也需要程序與制度責任。

可解釋AI是不是就比較公平？

不一定。解釋可以幫助理解模型，但若當事人仍不能更正資料、要求人工覆核或挑戰結果，解釋可能只是資訊展示。真正重要的是，說明能不能讓人取得實際的修正與救濟。

組織導入AI時怎麼避免過度抽象？

先把部署流程畫出來：資料如何來、誰操作、誰會受影響、例外如何處理、誰能提出異議、錯誤如何修正。再決定模型能協助哪一段，而不是先選好工具再要求現場配合。越高影響的決定，越要保留人工判斷與申訴出口。

收尾

Andrew D. Selbst 的價值，在於他讓人看見公平 AI 最容易被忽略的一件事：模型從來不是孤立存在的。

當資料、流程、組織與權力都被放回畫面裡，真正要做的就不只是修正一個分數，而是決定這套系統是否值得被用來安排人的機會與處境。

參考資料

• Andrew D. Selbst、Danah Boyd、Sorelle A. Friedler、Suresh Venkatasubramanian、Janet Vertesi、Solon Barocas，〈Fairness and Abstraction in Sociotechnical Systems〉，FAT*，2019。
• Solon Barocas、Andrew D. Selbst，〈Big Data’s Disparate Impact〉，《California Law Review》，2016。
• Andrew D. Selbst、Solon Barocas，〈The Intuitive Appeal of Explainable Machines〉，《Fordham Law Review》，2018。
• Andrew D. Selbst、Danah Boyd，〈The Dangers of Relying on Definition of Fairness in AI〉，相關研究與公開討論。
• Danielle Citron，〈The Scored Society〉，《Washington Law Review》，2008。