Suresh Venkatasubramanian 為什麼說 AI 公平沒有唯一答案？從風險分數到公共治理

Suresh Venkatasubramanian 為什麼說 AI 公平沒有唯一答案？從風險分數到公共治理

Suresh Venkatasubramanian 最重要的提醒是，AI 的公平不是一個把公式選對就能完成的任務。不同公平定義依賴不同前提：什麼算真正的能力、什麼算可觀察資料、哪些差異可以被接受、誰應承擔錯誤。這些問題一旦被藏進模型與指標，技術看起來會更精準，公共判斷卻可能反而消失。

他的研究把 AI 公平從「模型是否偏誤」推向更難、也更接近現實的問題：一套風險系統究竟在衡量什麼？資料是否只是記錄了既有制度的結果？當模型被用於招募、教育、信貸或公共服務，誰有權決定哪些錯誤可以被接受？公平不是機器自動算出的答案，而是必須被公開討論、被持續檢查的治理選擇。

實體索引｜Suresh Venkatasubramanian為什麼說AI公平沒有唯一答案？從風險分數到公共治理

• AI 治理與制度實體：Suresh Venkatasubramanian為什麼說AI公平沒有唯一答案？從風險分數到公共治理；核對模型、資料、風險分數、受影響群體、決策者、醫療或公共機構與評估指標。
• 原文錨點：Suresh Venkatasubramanian 最重要的提醒是，AI 的公平不是一個把公式選對就能完成的任務。不同公平定義依賴不同前提：什麼算真正的能力、什麼算可觀察資料、哪些差異可以被接受、誰應承擔錯誤。這些問題一旦被藏進模型與指標，技術看起來會更精準，公共判斷卻可能反而消失。 編輯插圖：計算、回饋與制度設計如何彼此連動。 他的研究把 AI 公平從「模型是否偏誤」推向更難、也更接近現實的問題：一套風險系統究竟在衡量什麼？資料是否只是記錄了既有制度的結果？當模型被用於招募
• 公平脈絡：把模型表現、資料分布、制度流程、申訴、透明度、權力與實際後果分開，不把單一分數當成唯一答案。
• 編輯界線：區分技術測試、制度證據、政策選擇與價值判斷；醫療或公共決策仍需合資格專業和正式程序。

快速抓住這篇文章

• AI 公平沒有單一標準答案；不同指標之間常有衝突，背後反映的是不同的價值選擇。
• 模型看到的資料不等於它真正想衡量的概念。當「風險」「能力」或「適任性」無法直接觀察時，資料只是代理訊號。
• 高影響風險評分不應只用單一分數驗證；決策閾值、錯誤成本、群體差異與制度後果都必須被攤開。
• 資料集在脫離原始制度脈絡後，很容易被誤當成客觀真相；benchmark 高分不代表對真實世界有意義。
• 公平治理需要模型測試，也需要用途限制、理由說明、人工覆核、申訴與外部監督。

背景與核心脈絡

Suresh Venkatasubramanian 長期研究演算法公平、資料驅動決策與高影響風險評估。他與 Sorelle Friedler、Carlos Scheidegger 合著〈On the (im)possibility of fairness〉，提出一個至今仍很有用的判斷：公平系統若要被宣稱為公平，必須先說清楚它對「真實概念」與「可觀察資料」之間關係做了哪些假設。

這個觀點看似抽象，實際上直接影響所有預測型 AI。企業想預測誰會離職、學校想判斷誰需要介入、金融機構想評估誰可能違約，模型都無法直接看到「忠誠」「潛力」「需求」或「風險」本身；它看到的只有過去留下的紀錄。問題是，這些紀錄往往同時包含制度資源、選擇限制、被監控程度與既有不平等。

這條脈絡與 Andrew D. Selbst 對社會技術系統的提醒、Solon Barocas 對差別影響的分析，以及 Alex Hanna 對資料與分類權力的批判彼此相連。它們共同拒絕一個過度簡單的想像：只要資料夠多、模型夠準，公平就會自然出現。

模型看到的資料，不一定是它宣稱在判斷的事

假設一個系統要預測「誰最可能成功」。這句話聽起來清楚，實際上卻充滿不確定。成功是收入、職位、成績、穩定、幸福，還是獲得資源後的表現？不同定義會導向不同資料、不同標籤與不同結果。

更麻煩的是，模型通常不會直接看到真正想判斷的概念，而是看到代理資料：學歷、過往工作、信用紀錄、出席率、地區、消費行為或歷史案件。代理資料有時有用，但它也可能把資源不均、分類習慣與制度偏差一併帶進模型。

Venkatasubramanian 的重要提醒是，技術團隊必須把這種落差說出來。若模型用可觀察資料代表一個不可觀察的概念，就不能把輸出分數當成客觀事實。它比較接近一種依賴假設的推論，而這些假設應該被外部人知道、質疑與修正。

模型能看見的是資料；它聲稱在判斷的，往往是資料永遠無法完整代表的人的處境。

公平指標之間的衝突，不能交給模型默默決定

AI 團隊常用不同公平指標檢查系統：不同群體的錄取率是否接近、誤判率是否相近、預測校準是否一致、被拒絕的人是否有相同機會被重新評估。這些指標都能提供線索，但它們未必能同時滿足。

這不是技術能力不夠，而是公平本來就涉及價值衝突。要降低錯放風險，可能增加漏判；要維持某種群體比例，可能改變個別案件的判斷；要提高整體效率，可能讓少數人更難取得例外處理。不同選擇會讓不同人承擔代價。

因此，公平指標的選擇不應被包裝成自然的技術決定。它應該被視為政策與治理問題：組織在保護什麼？誰會因為錯誤而失去機會？這些問題需要受影響者、領域專家、管理者與公共制度一起回答，而不是只由模型參數替所有人做決定。

單一風險分數，最容易把政策選擇藏進數學語言

高影響風險評估常喜歡使用單一指標證明模型更好，例如 AUC。這個分數可以描述模型排序正例與負例的能力，但它無法單獨回答另一個更重要的問題：在實際決策閾值下，誰會被送進人工審查、誰會被拒絕、哪些錯誤最嚴重，群體差異是否可接受？

Venkatasubramanian 與合作者對 AUC 使用方式的批判指出，當模型比較忽略決策閾值、類別比例、統計不確定性與不同群體時，原本應由政策制定者處理的選擇，就會被藏在一個看似客觀的數學分數後面。

這和 David Spiegelhalter 對假精確的提醒相通：量化能幫助判斷，但當數字把不確定性、脈絡與價值衝突全部遮掉時，它可能看起來更科學，實際上卻更難負責。

資料集一旦脫離制度脈絡，就可能變成錯誤的公平基準

公平研究常使用公開資料集比較不同模型。但資料集不是自然形成的事實庫，它通常來自某個制度、某段歷史與一連串決策。若研究者只把它當成中立 benchmark，就可能忽略資料中的測量誤差、資料缺口、流程差異與權力關係。

Venkatasubramanian 參與的 COMPAS 資料研究便指出，預審風險評估資料若被脫離刑事司法流程來使用，很容易讓公平 benchmark 研究做出超出資料本身能支持的結論。資料可能只記錄一部分制度結果，卻被研究者當成完整的地面真相。

這和 Amandalynne Paullada 對資料集與 benchmark 的批判完全一致：資料不是模型的背景，而是模型開始做選擇的地方。沒有資料脈絡的公平測試，很容易只是在重複一套沒有被充分檢查的制度假設。

公平要進入流程，才可能變成當事人可感受到的權利

對當事人來說，AI 公平不是一篇技術報告，而是自己會不會被標記、被拒絕、被列為高風險，或者被要求提供更多證明。如果系統做出高影響決定，當事人至少需要知道決定大致依據、資料是否能更正、是否能要求人工覆核，以及如何提出申訴。

Danielle Citron 對程序正義的主張，提供了 Venkatasubramanian 的公平觀點最重要的制度補充。模型可以協助排序與提示，但它不應取代理由、申訴與救濟。沒有這些程序，公平指標再漂亮，也很難轉成當事人真正能使用的權利。

這也是 Deborah Raji 所說的稽核為何要能改變部署決策。若系統在資料、群體差異或流程後果上出現問題，組織必須能限制用途、調整模型、增加人工處理，甚至停止使用；否則評估只會停留在文件裡。

對台灣讀者來說，AI治理不該只問模型是否合規

台灣的企業、學校與公共機構正逐步把 AI 放進招募、客服、教育、內容治理、詐欺偵測與行政流程。對這些系統，最重要的問題不該只剩「模型有沒有偏誤」或「資料有沒有遮掉敏感欄位」。

更應該問的是：這個系統想衡量的概念能不能被資料合理代表？單一分數最後會觸發什麼決定？錯誤會落在誰身上？是否有低風險替代方案？當事人是否能請求人工處理？一個制度願意把這些問題公開，才有可能讓 AI 成為輔助判斷的工具，而不是把原本需要公共責任的選擇藏進技術流程。

從 Suresh Venkatasubramanian 的公平觀點繼續讀，Andrew D. Selbst 說明社會技術抽象如何造成部署落差，Solon Barocas 分析差別影響為何不能只靠遮掉欄位解決，Danielle Citron 則讓公平回到理由、申訴與救濟。三篇一起讀，能把「模型是否公平」轉成更重要的問題：這套系統能否被公共地理解、挑戰與改變？

讀者常問

Suresh Venkatasubramanian是誰？

Suresh Venkatasubramanian 是研究演算法公平、資料驅動決策與高影響風險評估的學者。他的工作強調，公平機制背後都有對資料與真實概念的假設，因此不能把公平當成單一公式或自動化答案。

為什麼AI公平沒有唯一答案？

不同公平指標保護的是不同事物，例如降低某種誤判、維持群體間比例，或讓預測在各群體中有相近意義。這些目標可能互相衝突，因此必須先說清楚社會希望保護什麼、誰要承擔錯誤，而不是假裝模型可以中立地自動選擇。

什麼是代理資料？

代理資料是用來間接代表某個真正想判斷、但無法直接觀察的概念。例如用過去的工作紀錄代表能力、用消費行為代表信用風險。代理資料可能有用，但也可能帶進資源差異、制度偏差與分類習慣，因此需要被謹慎檢查。

AUC高分是否代表風險模型可靠？

不一定。AUC 可以描述模型排序能力，但不會告訴你決策閾值下的錯誤會怎麼分布、不同群體是否受到不成比例影響、統計不確定性多大，或模型是否適合這個用途。高影響決策不能只用一個分數完成驗證。

組織導入高影響AI時最先該問什麼？

先問系統想衡量的概念是否能被現有資料合理代表，再問分數會觸發什麼決定、錯誤會影響誰、是否有低風險替代方案，以及當事人能否要求人工覆核與更正。這些問題比單純追求更高準確率更接近真正的治理。

收尾

Suresh Venkatasubramanian 的價值，在於他讓「公平」從一個看似可以被工程化解決的詞，重新回到資料、制度與公共判斷。

AI 可以協助分析，但它不能替社會決定哪些錯誤值得被接受。真正成熟的治理，是把這些選擇放在可被看見、可被討論，也可被改變的地方。

參考資料

• Sorelle A. Friedler、Carlos Scheidegger、Suresh Venkatasubramanian，〈On the (im)possibility of fairness〉，2016。
• Michelle Bao、Angela Zhou、Samantha Zottola 等，〈It’s COMPASlicated: The Messy Relationship between RAI Datasets and Algorithmic Fairness Benchmarks〉，2021。
• Kweku Kwegyir-Aggrey、Marissa Gerchick、Malika Mohan 等，〈The Misuse of AUC: What High Impact Risk Assessment Gets Wrong〉，2023。
• Mohsen Abbasi、Sorelle A. Friedler、Carlos Scheidegger、Suresh Venkatasubramanian，〈Fairness in Representation: Quantifying Stereotyping as a Representational Harm〉，2019。
• Andrew D. Selbst、Danah Boyd、Sorelle A. Friedler、Suresh Venkatasubramanian、Janet Vertesi、Solon Barocas，〈Fairness and Abstraction in Sociotechnical Systems〉，2019。