Safiya Umoja Noble 為什麼說搜尋不是中立？《Algorithms of Oppression》如何揭露 AI 摘要與排序權力

Safiya Umoja Noble 為什麼說搜尋不是中立？《Algorithms of Oppression》如何揭露 AI 摘要與排序權力

Safiya Umoja Noble 最重要的提醒是，搜尋引擎不是一座被動的資料圖書館。它會排序、推薦、置頂、忽略，也會在商業廣告、網站權威、使用者行為與平台規則之間，決定什麼更容易被看見。

這使搜尋結果與 AI 摘要都不可能只是「中立答案」。它們可能幫人快速找到資料，也可能把既有偏見、刻板印象與商業利益包裝成最先出現的知識。Noble 在《Algorithms of Oppression》中追問的，正是這個容易被忽略的權力：當人們把搜尋排名當成世界本身時，誰正在替世界寫第一版答案？

實體索引｜Safiya Umoja Noble為什麼說搜尋不是中立？《Algorithms of Oppression》如何揭露AI摘要與排序權力

• AI 與社會治理實體：Safiya Umoja Noble為什麼說搜尋不是中立？《Algorithms of Oppression》如何揭露AI摘要與排序權力；核對研究者、模型、資料、礦產、勞動、平台、評分、搜尋、公共服務、受影響群體與制度。
• 原文錨點：Safiya Umoja Noble 最重要的提醒是，搜尋引擎不是一座被動的資料圖書館。它會排序、推薦、置頂、忽略，也會在商業廣告、網站權威、使用者行為與平台規則之間，決定什麼更容易被看見。 編輯插圖：計算、回饋與制度設計如何彼此連動。 這使搜尋結果與 AI 摘要都不可能只是「中立答案」。它們可能幫人快速找到資料，也可能把既有偏見、刻板印象與商業利益包裝成最先出現的知識。Noble 在《Algorithms of Oppression》中追問的，正是這個容易被忽略的權力：當人
• 權力脈絡：把資料攫取、資源開採、勞動、分類、評分、預測、正當程序、申訴與歧視後果分開，說明 AI 如何嵌入社會。
• 編輯界線：區分技術設計、公司商業模式、制度責任與研究批判，不把單一分數、搜尋結果或模型輸出寫成中立事實。

快速抓住這篇文章

• Safiya Umoja Noble 是資訊研究學者，《Algorithms of Oppression: How Search Engines Reinforce Racism》作者，長期研究搜尋、種族、性別與數位權力。
• 搜尋排序不是自然生成的真相，而是資料、連結、廣告、平台目標、內容供給與排名機制共同形成的結果。
• 一個結果排在最前面，不代表它最正確、最完整或最符合公共利益；它可能只是更符合商業與技術系統的可見性規則。
• AI 摘要把搜尋結果進一步壓縮成單一說法，因此除了來源偏差，也增加了脈絡、分歧與例外被消失的風險。
• 真正的演算法治理不只要求排序更準，還要讓人知道為何看到這些內容、如何改變設定、如何檢舉傷害，以及誰對平台造成的可見性後果負責。

背景與核心脈絡

Safiya Umoja Noble 是研究數位媒體、資訊制度與演算法權力的學者。她在 2018 年出版《Algorithms of Oppression: How Search Engines Reinforce Racism》，從搜尋引擎如何處理種族與性別相關查詢出發，討論商業搜尋系統為何不能被簡化成客觀資訊工具。

Noble 的關鍵不是說每一個搜尋結果都由人刻意操控，而是指出「結果看起來自動出現」本身就容易遮蔽平台背後的選擇。搜尋系統需要決定哪些網站值得索引、哪些內容有權威、哪些訊號代表相關、廣告如何嵌入、哪些查詢被推薦、哪些傷害性內容要處理、又哪些內容只要合法就被保留。

這些選擇會影響人怎麼理解族群、性別、身分、疾病、政治與社會問題。當多數使用者只看前幾個結果，搜尋排名就不只是資訊排序，也是一種可見性的分配。它會決定誰更容易被當成正常、可信、值得點擊或值得被定義。

搜尋不是圖書館目錄：它同時也是商業系統與社會分類器

很多人把搜尋引擎想成超大型圖書館：輸入問題，系統把最相關的資料拿出來。但圖書館目錄的工作，是協助人找到已經被整理的資料；商業搜尋系統還要處理廣告、點擊、網站競爭、內容農場、反垃圾規則、平台利益與龐大的即時行為訊號。

這不表示搜尋結果毫無價值。它們經常能快速帶來有用資訊。問題在於，使用者很容易把「排在前面」誤認成「最值得相信」。Noble 要求人看見：排名從來不是純粹技術結果，它反映哪些內容被生產、哪些內容被連結、哪些內容能投入資源優化，又有哪些群體沒有能力建立同樣可見的數位足跡。

因此，搜尋結果不是只在回答「哪一頁最相關」，也在持續建立「哪一種描述最有代表性」。當某些群體長期被色情化、犯罪化、病理化或刻板印象化，平台不能只說自己是在反映網路；它也在透過排序與推薦，決定這些內容會以多大速度、在什麼位置繼續被看見。

排序看似只是把資料排好，實際上也在安排什麼可以被當成第一印象。

《Algorithms of Oppression》真正挑戰的，是「演算法只是數學」這種說法

「演算法只是數學，所以不會有偏見」是一種很常見的說法。它聽起來合理，因為數學本身不會有情緒與意圖。但 Noble 的論點是，演算法不是漂浮在社會之外的公式。任何演算法都需要資料、目標、分類、權重與商業或制度環境。

誰決定什麼算「相關」？誰定義什麼算「優質內容」？什麼樣的網站有更多資源取得連結、廣告與技術優化？什麼內容因為刺激、爭議或偏見而得到更多點擊？這些條件都會讓模型與排名系統吸收世界既有的不平等。

這與 Timnit Gebru 對資料集責任的提醒 完全相連。Gebru 要求人追問資料如何被蒐集、誰被納入、誰被排除；Noble 則把問題延伸到資訊呈現：即使資料已經存在，平台又如何把它們排序成一條看似自然的知識路徑？

搜尋偏見不是單一程式錯誤，而是一整條可見性供應鏈

談搜尋偏見時，最容易犯的錯誤，是把責任縮小成某一段程式碼。實際上，搜尋結果可能受到多個層次影響：網路上原本有哪些內容、誰有資源製作內容、哪些內容被其他網站連結、哪些詞能帶來廣告收益、平台如何處理垃圾資訊、使用者過去點過什麼，以及系統最後如何決定排名。

這意味著「修正模型」很重要，但通常不夠。若網路內容生態本身長期對某些群體充滿污名化描述，若平台的商業目標獎勵停留、點擊與爭議，若受傷害的人沒有資源建立替代敘事，排序系統就可能不斷把同樣問題重新放大。

這也是 Noble 的研究比一般「AI 有偏見」討論更深的地方。她不只問模型有沒有公平，也問整個資訊市場如何讓某些知識更容易成為常識。這和 James C. Scott 對分類與治理 的批評相通：當複雜現實被壓縮成可管理標籤，制度通常會先獎勵那些最容易被讀取與處理的版本。

AI摘要比搜尋結果更進一步：它會把分歧壓縮成單一敘事

傳統搜尋至少把多個來源並列給使用者看，儘管排序本身已經影響注意力。AI 摘要則更進一步：它通常把多份資料濃縮成一段看似完整的答案。這種便利很強，但也讓可見性權力集中到另一個層次。

當系統替人總結時，它必須決定哪些來源值得引用、哪些觀點是主流、哪些例外可以省略、哪些不確定性需要保留。摘要愈流暢，使用者愈容易忘記它是一次壓縮，而不是原始世界本身。

這與 Max Roser 對資料來源與可追溯性的主張形成重要對照。好的公共知識不只給出答案，也要讓人有機會回到來源、定義與方法。AI 摘要若無法讓人看見證據鏈、分歧與資料條件，就可能把「快速理解」變成「快速接受」。

為什麼排名問題同時也是廣告與商業模式問題

Noble 的分析之所以重要，還因為她不把搜尋引擎視為純粹公共服務。商業平台需要廣告收入、使用者停留與市場擴張；這些目標不必然和公共知識、社會公平或弱勢群體的尊嚴一致。

當一個系統的主要目標是最大化注意力或商業轉換時，最容易吸引點擊的內容不一定是最準確、最有脈絡或最能減少傷害的內容。這不是說所有商業平台必然故意做壞事，而是提醒人們：商業目標會影響資料、排序與產品設計的優先順序。

這也能連回 Cass Sunstein 對數位推力與平台治理的討論。選擇架構從來不只是介面排列，它也會決定使用者先接觸什麼、如何被引導、又需要付出多少成本才能看見不同選項。搜尋與摘要系統同樣是一種選擇架構，只是它的影響往往被包裝成「系統替你找到了答案」。

Noble的盲點不在於太批判，而在於批判必須走到制度設計

對搜尋與 AI 排序保持批判，並不代表人應該放棄使用搜尋工具，也不代表每個排名都可以被簡單解釋成壓迫。平台系統確實能讓小眾知識、公共資源與不同社群更容易被找到；資料化也能協助揭露某些過去被忽略的問題。

真正困難的是，批判不能只停在「演算法有問題」。接下來要問的是：平台是否提供足夠透明度？使用者能否知道為什麼看到某些結果？研究者能否進行外部審計？受傷害群體能否快速申訴與修正？競爭與公共替代方案是否存在？

這與 Joseph Weizenbaum 的提醒一致：技術能力不能取代人類責任。若平台決定了大量人的資訊入口，就不能把所有後果推回使用者，說那只是他們自己輸入了某些關鍵字。

對台灣讀者來說，最重要的是把「第一個答案」當成起點，不是終點

台灣讀者每天都在透過搜尋、社群、購物平台與 AI 助手理解疾病、產品、人物、投資、政治與工作知識。最容易被忽略的事是：系統先給你的內容，通常最影響你接下來會問什麼、信任什麼、甚至覺得什麼是正常選項。

實際上可以建立幾個簡單習慣：對高風險議題至少看兩種來源；看見 AI 摘要時追問它的資料時間與引用依據；區分廣告、推薦與自然內容；遇到涉及特定群體的描述時，主動查找該群體自己的觀點；不要因為排名第一就停止比較。

這些做法不會讓人完全跳出排序系統，卻能避免我們把平台的第一版答案，誤認成世界唯一的答案。

從 Noble 的搜尋批判繼續往下讀，Joy Buolamwini 讓人看見分類錯誤如何落在具體群體身上，Tarleton Gillespie 則說明平台如何透過規則與排序安排可見性；再到 Kate Klonick，問題就變成：當私有平台實際治理公共言論時，誰能要求理由、申訴與一致的程序？

讀者常問

Safiya Umoja Noble是誰？

Safiya Umoja Noble 是研究數位媒體、資訊制度、種族與性別的學者。《Algorithms of Oppression》讓她廣受關注，書中討論商業搜尋引擎如何透過排序、廣告與資訊可見性，延續既有的種族與性別不平等。

《Algorithms of Oppression》在講什麼？

這本書討論搜尋引擎為何不能被理解成中立資訊工具。Noble 分析搜尋結果如何受到商業利益、廣告、內容供給、排名規則與社會既有偏見影響，並指出這些系統可能讓某些族群被刻板印象化或被不公平地定義。

搜尋結果排第一，代表最正確嗎？

不一定。排名可能反映相關性、權威訊號、內容品質、廣告、連結、使用者行為與平台規則，但這些因素不等於唯一真相。對健康、金融、法律、政治與特定群體議題，應查看來源、日期、利益關係與不同觀點，而不是只信第一個結果。

AI摘要和搜尋結果有什麼不同？

搜尋通常列出多個來源，雖然排序會影響注意力；AI 摘要則把資料壓縮成單一說法。它能節省時間，也更容易省略分歧、例外、資料條件與來源脈絡。使用摘要時，尤其應查看引用依據與原始內容。

演算法偏見只是資料問題嗎？

不是。資料來源很重要，但偏見也可能來自排名目標、廣告模式、產品設計、內容生態、部署情境與申訴機制。即使資料改善，若系統仍以注意力或商業轉換作為唯一目標，也可能繼續放大不公平的可見性分配。

收尾

Safiya Umoja Noble 讓人重新理解，搜尋不是一個在世界之外替我們找答案的工具；它本身就是世界權力如何分配注意力、尊嚴與知識的一部分。

當 AI 愈來愈常替人摘要、排序與推薦，真正需要守住的不是對技術的懷疑本身，而是提問的權利：誰定義了這個答案？它遺漏了誰？我能不能看到別的路徑？

參考資料

• Safiya Umoja Noble，《Algorithms of Oppression: How Search Engines Reinforce Racism》，New York University Press，2018。
• NYU Press：Algorithms of Oppression。
• Safiya Umoja Noble，〈Google Has a Striking History of Bias Against Black Girls〉，《Time》，2018。
• Juhi Kulshrestha 等，〈Quantifying Search Bias: Investigating Sources of Bias for Political Searches in Social Media〉，CSCW，2017。
• Celina Kacperski 等，〈Examining Bias Perpetuation in Academic Search Engines: An Algorithm Audit of Google and Semantic Scholar〉，2023。