Ruha Benjamin 為什麼說創新也會複製歧視？《Race After Technology》如何拆解 AI 的「新吉姆碼」

Ruha Benjamin 為什麼說創新也會複製歧視？《Race After Technology》如何拆解 AI 的「新吉姆碼」

Ruha Benjamin 最尖銳的提醒是，科技不需要明確寫上歧視語言，也可能把既有不平等做得更快、更便宜、更難被察覺。當一套系統被稱為效率、創新或客觀工具時，真正該問的不是它有沒有用，而是它替誰節省成本、替誰增加風險，又把誰的處境當成可接受的副作用。

她在《Race After Technology》中提出「New Jim Code」的概念，指向一種看似中立、實際上可能複製甚至加深種族與社會階層不平等的技術秩序。這不是把所有 AI 都判成有罪，而是拒絕讓「演算法」成為免責語言。系統的資料、目標、部署與治理方式，都帶著人做出的選擇。

實體索引｜Ruha Benjamin為什麼說創新也會複製歧視？《Race After Technology》如何拆解AI的「新吉姆碼」

• AI 與社會治理實體：Ruha Benjamin為什麼說創新也會複製歧視？《Race After Technology》如何拆解AI的「新吉姆碼」；核對研究者、模型、資料、礦產、勞動、平台、評分、搜尋、公共服務、受影響群體與制度。
• 原文錨點：Ruha Benjamin 最尖銳的提醒是，科技不需要明確寫上歧視語言，也可能把既有不平等做得更快、更便宜、更難被察覺。當一套系統被稱為效率、創新或客觀工具時，真正該問的不是它有沒有用，而是它替誰節省成本、替誰增加風險，又把誰的處境當成可接受的副作用。 編輯插圖：計算、回饋與制度設計如何彼此連動。 她在《Race After Technology》中提出「New Jim Code」的概念，指向一種看似中立、實際上可能複製甚至加深種族與社會階層不平等的技術秩序。這不是把所有 A
• 權力脈絡：把資料攫取、資源開採、勞動、分類、評分、預測、正當程序、申訴與歧視後果分開，說明 AI 如何嵌入社會。
• 編輯界線：區分技術設計、公司商業模式、制度責任與研究批判，不把單一分數、搜尋結果或模型輸出寫成中立事實。

快速抓住這篇文章

• Ruha Benjamin 是普林斯頓大學非裔美國人研究學者，長期研究科技、種族、醫療、知識與權力如何交織。
• 《Race After Technology》提出「New Jim Code」，分析看似中立的技術如何複製或強化既有種族與社會階層秩序。
• 偏見不只存在於資料集；產品目標、採購制度、預算壓力、部署地點與申訴機制，同樣決定技術會造成什麼後果。
• 「包容設計」若只把更多人加入原本有問題的系統，可能只是把參與擴大，卻沒有改變系統傷害人的邏輯。
• AI 治理需要的不只是公平分數，而是用途限制、受影響者參與、可拒絕性、修正權與能被追究的責任鏈。

背景與核心脈絡

Ruha Benjamin 是社會學者與普林斯頓大學非裔美國人研究教授，研究科技、醫療、種族、性別與知識權力的關係。她的工作一再回到同一個問題：為什麼被稱為進步的技術，常常讓某些人承擔更高的監控、分類、排除與證明成本？

2019 年出版的《Race After Technology: Abolitionist Tools for the New Jim Code》，不是一本只談程式偏差的書。Benjamin 關心的範圍更大：從教育、醫療、治安到日常平台，技術如何讓既有權力關係以更少摩擦的方式延續。她指出，若社會已經存在不平等，科技很容易把它變成看似客觀的流程、分數與推薦結果。

這條問題線和 Timnit Gebru 的資料集責任、Joy Buolamwini 的演算法正義，以及 Safiya Umoja Noble 的排序權力彼此連接。三者都在提醒：技術不會脫離它所嵌入的社會。

「新吉姆碼」不是說程式有惡意，而是看見制度如何進入程式

Benjamin 提出 New Jim Code，並不是要說所有工程師都故意把歧視寫進產品，而是指出技術常同時具備兩種能力：它可以把既有不平等隱藏在中立話語後面，也可以用創新、效率與便利的名義，把新的不平等帶進生活。

一個系統可能用歷史資料預測誰有風險、誰值得信任、誰需要被優先審查。若歷史資料本身反映了不平等執法、差別資源分配或特定群體長期被更密集記錄，模型學到的就不只是現實，也可能是過去制度如何看待不同人。

這時候，技術的危險不一定來自單一錯誤，而是它能把舊有規則變成高速、可擴張、難以追問的程序。原本需要人解釋的判斷，被轉成分數；原本可能被挑戰的偏見，被改寫成系統建議。當人只看到「模型說」，責任就開始被稀釋。

真正需要檢查的不是系統有沒有宣稱中立，而是它在中立名義下，把哪些既有關係變得更難被看見。

效率不是無害的：誰被省下來，誰被處理得更快

科技公司與機構常把自動化說成降低成本、減少等待、提高一致性。這些目標本身不必然有問題，但 Benjamin 的視角要求多問一步：成本是為誰降低？等待是對誰縮短？一致性是否代表人人都被同樣對待，還是某些人被更快地拒絕、標記與排除？

當資源充足的人可以找到真人客服、專家意見、法律協助與申訴管道，資源不足的人卻更容易被交給自動流程，所謂效率可能實際上是在分層處理人。富裕者得到例外與人工判斷，弱勢者得到規則與分數。這種差異往往不會出現在產品簡報裡，卻會出現在誰被要求多次證明自己、誰能被快速恢復權益的現實中。

這也能和 Virginia Eubanks 對自動化福利制度的分析互相閱讀：系統不是只在做判斷，它也在決定誰需要面對更多表格、更多資料要求與更高的錯誤代價。

多元化不是終點：誰有權改寫問題才是關鍵

面對 AI 偏見，常見回應是讓更多不同背景的人進入科技產業。這當然重要，但 Benjamin 提醒，代表性本身不會自動改變技術邏輯。若組織仍然只以成長、監控、壓低成本與擴張市場作為核心目標，更多人可能只是被邀請進來共同維持同一套系統。

真正更深的問題是：誰能決定哪些問題值得被自動化？誰能說某種用途不該做？誰能檢查資料與模型？當系統影響住房、教育、工作、社福或公共服務時，受影響的人是否有機會參與規則設計，而不只是接受最終結果？

這種思考接近 Benjamin 所說的 abolitionist tools：不是只想著如何把有害系統修得更溫和，也願意想像不同的制度安排。它不要求每一個技術都被廢除，而是拒絕把現有系統當成唯一可想像的未來。

AI公平不能只看模型內部，也要看制度外部

模型公平性常被處理成一組技術指標：不同群體錯誤率是否接近、資料分布是否平衡、是否加入去偏方法。這些工作必要，卻只處理部分問題。若一個系統根本不該被用於高度不對等的場景，模型調得再公平，也不會讓用途自動正當。

Benjamin 的問題因此更廣：系統是否可以被拒絕？是否有真人覆核？錯誤是否能被快速修正？是否保留不使用系統的替代路徑？平台與政府是否願意公開採購、資料與監測條件？沒有這些制度外部條件，公平很容易只變成產品頁的一項性能宣稱。

這也與 Cass Sunstein 對選擇架構的思考形成對話。當系統替人排列選項、定義預設值、提高拒絕成本，它已經在塑造權力。AI 治理需要看的不只是輸出，而是人還保有多少能動性。

對台灣讀者來說，先問「是否必要」比先問「能不能做」更重要

面對 AI 導入，最容易先問的是能不能降低人力、能不能加速服務、能不能提高預測準確度。Benjamin 的觀點要求把問題提前：這個系統真的必要嗎？它會不會讓某些人更難取得資源？資料使用者是否被清楚告知？有沒有不透過模型的替代方式？

對企業、媒體與公共機構而言，這不是阻礙創新，而是避免把創新建立在少數人難以發聲的成本上。真正負責任的技術，不會只宣布效率提升，也會說明它如何保留拒絕、修正與人工判斷的空間。

Benjamin 對制度如何進入技術的追問，與 Timnit Gebru 的資料責任相互補強；在公共服務場景裡，它也能延伸到 Virginia Eubanks 對自動化不平等的觀察，再由 Cathy O’Neil 說明黑箱模型如何把制度偏差擴張成可大量複製的機會差距。

讀者常問

Ruha Benjamin是誰？

Ruha Benjamin 是研究科技、種族、醫療與知識權力的社會學者，任教於普林斯頓大學。她著有《Race After Technology》、《Viral Justice》與《Imagination: A Manifesto》，長期探討創新與公平如何彼此衝突或互相塑造。

什麼是New Jim Code？

New Jim Code 是 Benjamin 用來描述一類技術秩序的概念：看似中立的系統，可能透過資料、分類、預測與部署方式複製或加深既有種族和社會階層不平等。它不是指每個模型都故意歧視，而是要求檢查制度如何進入技術。

AI公平只要改善資料就夠了嗎？

不夠。資料改善很重要，但偏見也可能來自產品目標、部署場景、預算壓力、使用者是否能拒絕、錯誤後能否申訴，以及誰有權定義系統要解決的問題。公平必須同時處理模型內部與制度外部的條件。

什麼是abolitionist tools？

這是一種不只著眼於修補現有技術的思考。它會追問某個系統是否應被保留、能否由不同制度取代，以及被傷害的人能否參與設計替代方案。重點不是反對所有技術，而是不把既有權力架構當成唯一選擇。

企業導入AI時最該先問什麼？

除了準確率與成本，應先問用途是否必要、資料是否正當、哪些人會承擔錯誤、是否可拒絕、能否人工覆核，以及錯誤是否有快速補救機制。這些問題能避免系統只在簡報上顯得有效，卻在現實中把風險轉嫁給較弱勢的人。

收尾

Ruha Benjamin 的價值，不在於要求人害怕科技，而在於拒絕讓科技替人逃避政治與社會責任。

當 AI 被稱為創新時，最需要被保留的問題是：它讓誰更自由，又讓誰更容易被分類、預測與處理？能夠回答這個問題，才算真的理解技術要走向哪裡。

參考資料

• Ruha Benjamin，《Race After Technology: Abolitionist Tools for the New Jim Code》，Polity，2019。
• Ruha Benjamin，《Viral Justice: How We Grow the World We Want》，Princeton University Press，2022。
• Ruha Benjamin，《Imagination: A Manifesto》，W. W. Norton，2024。
• Ruha Benjamin，普林斯頓大學 Department of African American Studies 研究頁面。
• Timnit Gebru 等，〈Datasheets for Datasets〉，《Communications of the ACM》，2021。