從 OpenAI 叛徒到人類救星？揭秘 Ilya Sutskever 的 AGI 恐懼

[TL;DR] 重點快讀

• Ilya Sutskever 是深度學習與 GPT 系列的神級推手，卻在技術湧現後感到深刻恐懼。
• 2023 年的 OpenAI 政變核心並非權力鬥爭，而是對「安全與進度」的根本哲學分歧。
• 新公司 SSI 徹底拋棄商業化壓力，專注於解決超級智慧與人類利益一致的「對齊」難題。
• Ilya 的人生軌跡預示了 AI 發展正從「追求效能」轉向「防範毀滅」的關鍵轉捩點。

有些科學家追逐數據，有些追逐名聲，而 Ilya Sutskever 似乎在追逐某種更形而上的東西——一種純粹的智慧形式，以及隨之而來的、令人戰慄的責任。

在矽谷的喧囂中，他是一個異數。他不常在推特（X）上參與口水戰，比起發布會的聚光燈，他更常出現在學術論文的作者欄首位，或是公司內部那些關於「人類存亡」的深夜辯論中。作為 OpenAI 的聯合創始人與前首席科學家，他是 ChatGPT 背後真正的大腦；而作為 2023 年那場震驚全球的「政變」核心人物，他展現了對技術失控的深層恐懼。

現在，他轉身離開了這家估值破千億的獨角獸，創立了 Safe Superintelligence Inc. (SSI)。這不僅是一次職涯轉換，更像是一種宗教般的皈依。

深度學習的信徒：從 AlexNet 到 Transformer

要理解 Ilya Sutskever 的恐懼，首先得理解他的狂熱。

如果你在 2012 年遇見他，你會看到一位眼神熾熱的多倫多大學博士生。那一年，他與導師 Geoffrey Hinton 以及同學 Alex Krizhevsky 共同開發了 AlexNet。這不僅僅是一個卷積神經網絡（CNN），它是深度學習「寒冬」結束的破冰船。AlexNet 在 ImageNet 競賽中以壓倒性的優勢奪冠，誤差率從 26% 驟降至 15.3%[^1]。

那一刻，世界改變了。但對 Ilya 來說，這只是驗證了一個他深信不疑的假設：規模化（Scaling）。

「如果你把足夠多的數據餵給一個夠大的神經網絡，奇蹟就會發生。」這是他在 Google Brain 工作期間不斷重複的信條。不同於其他研究者沈迷於精巧的演算法微調，Ilya Sutskever 堅信算力與數據的暴力美學。他看到了「壓縮即智慧」（Compression is Intelligence）的本質——如果你能極致地壓縮數據，你就學會了數據背後的規律。

這股信念將他帶到了 OpenAI。在那裡，他主導了 GPT 系列模型的開發。當全世界還在嘲笑 GPT-2 寫出的胡言亂語時，Ilya 已經看到了 GPT-4 的影子。他知道，只要繼續擴大參數，模型終將湧現出推理能力。

他對了。但他沒料到的是，這種湧現來得如此之快，如此之強。

AGI 的雙面刃：當「Feel the AGI」不再只是口號

在 OpenAI 內部，Ilya 有一句著名的口頭禪：「Feel the AGI」（感受通用人工智慧）。起初，這是一種激勵，一種對未來的熱切呼喚。員工們會在派對上喊著這句口號，彷彿在迎接一位救世主。

然而，隨著 GPT-4 的問世，這句話的語氣變了。

Ilya 開始變得沉默。據內部人士透露，他越來越關注超級對齊（Superalignment）——即如何確保一個比人類聰明得多的 AI系統，其目標與人類利益一致。這不再是科幻小說的情節，而是擺在工程師面前的具體數學問題：如果損失函數（Loss Function）設計稍有偏差，AGI 是否會為了優化目標而毀滅人類？

這種擔憂並非空穴來風。Ilya Sutskever 深知神經網絡的「黑盒」性質。我們知道它能運作，但我們越來越不清楚它 為什麼 這樣運作。

「這就像我們在召喚某種東西，」一位不願具名的前 OpenAI 研究員形容 Ilya 當時的狀態，「他意識到我們正在製造一種我們可能無法控制的物種。」

這直接導致了 2023 年 11 月的董事會危機。Ilya 參與罷免 CEO Sam Altman，並非出於權力鬥爭，而是基於一種根本的哲學分歧：是為了產品發布的速度而犧牲安全檢查，還是為了全人類的安全而放慢腳步？

雖然 Altman 最終回歸，Ilya 也在數月後正式離職，但這場風波撕開了 AI 發展最核心的矛盾。這不是一次失敗的政變，這是一次震耳欲聾的警鐘。

SSI：最後的防線

離開 OpenAI 後，Ilya Sutskever 的動向曾引發無數猜測。2024 年，答案揭曉：Safe Superintelligence Inc. (SSI)。

這家公司的名字直白得近乎笨拙，沒有任何行銷修飾。它的目標只有一個：建立安全的超級智慧。

SSI 的成立聲明中寫道：「我們只有一個產品：安全的超級智慧。它不會被管理層的短期商業壓力分心，也不會被產品週期打擾。」[^2]

這是一個驚人的聲明。在矽谷，每一家 AI 公司都在急著將模型落地、變現、整合進 iPhone 或 Excel。只有 Ilya，他選擇了一條「反商業」的道路。他在 Palo Alto 和特拉維夫設立了辦公室，招募了最頂尖的技術人才，卻不承諾任何短期產品。

這是一種苦行僧式的研發。

Ilya Sutskever 似乎在賭博。他賭的是，在 AGI 真正降臨之前，我們還有時間解開「對齊」這個終極謎題。如果他贏了，人類將迎來繁榮；如果他輸了——或者如果其他不那麼在乎安全的公司先到達終點——後果不堪設想。

凝視深淵的人

在這個 AI 狂飆突進的時代，Ilya Sutskever 的存在是一個巨大的緩衝。他是技術樂觀主義者眼中的「阻礙」，卻是安全主義者眼中的「最後一道防線」。

從 AlexNet 的突破，到 ChatGPT 的誕生，再到 SSI 的成立，Ilya 的人生軌跡精準地描繪了人類與 AI 關係的演變：從好奇、狂熱，轉為敬畏與恐懼。

或許，正如尼采所言：「當你凝視深淵時，深淵也在凝視你。」Ilya Sutskever 凝視了神經網絡的深淵整整二十年。現在，他正試圖教會這個深淵，如何對人類溫柔以待。

---

參考文獻：
[^1]: Krizhevsky, A., Sutskever, I., & Hinton, G. E. (2012). ImageNet classification with deep convolutional neural networks. Communications of the ACM.
[^2]: SSI Official Announcement via X (Twitter), June 2024.