Ilya Sutskever 對通用人工智慧的願景

架構師的警告：為何我們必須重新思考通用人工智慧

近十年來，矽谷一直隨著同一種節奏前進：擴展規模。主流信念認為，通用人工智慧是線性道路上的必然終點，而這條道路由更多資料與更大型的圖形處理器（GPU）鋪成。然而，當我們接近這十年的中點時，正是那些鋪路先驅所發出的聲音，開始出現不和諧。OpenAI 共同創辦人、打造 ChatGPT 所用神經網路的科學家 Ilya Sutskever，已大幅改變了自己的立場。

Sutskever 離開 OpenAI、創立 Safe Superintelligence Inc.（SSI），並不只是職涯選擇，更是一項哲學宣言。他認為，目前這條沉迷於商業主導地位與漸進式產品更新的產業軌跡，正逐漸偏離安全實現通用人工智慧所需的科學嚴謹性。在他看來，我們正在建造更大的模型，卻未必是更明智的模型。將「鋸齒狀」智慧迅速產品化，使我們分心於表層，忽略了創造真正具備推理能力的機器所必須解決、更深層也更艱難的問題。

要理解這項轉變的重要性，我們必須分析目前的領域狀態。我們已從科學發現時代，轉入工程最佳化時代。雖然這帶來了令人印象深刻的聊天機器人，Sutskever 認為，這卻讓真正的通用人工智慧進展陷入停滯。他建議，前進之路不是消耗更多電力、蒐集更多資料，而是回到繪圖板，發明全新的學習與理解典範。

超越擴展時代：暴力式運算逼近極限

自 2017 年 Transformer 架構問世以來，通往通用人工智慧的路線圖一直由「擴展定律」定義。這些經驗觀察指出一種直接關聯：增加參數、訓練資料與運算預算，模型的智慧就會以可預測的方式提升。這套邏輯推動了從 GPT-2 到 GPT-4 的飛躍，也讓許多人相信，通用人工智慧只差幾座資料中心。

然而，Sutskever 認為，這個他稱為「擴展時代」、大約從 2020 年延續至 2025 年的時代，正走向報酬遞減。容易取得的成果已被摘取殆盡。我們即將用完可供訓練的高品質人類文字，而為了取得些微更好的模型，所需的能源也逐漸變得難以持續。繼續只依賴擴展，就像試圖透過建造更高的梯子登上月球；到了某個時刻，你需要的是火箭。

真正的通用人工智慧不可能僅靠記憶網際網路來實現。人類智慧的特徵在於效率；孩子只要看過幾個例子，就能學會「貓」的概念，而不是需要看過數百萬個例子。相較之下，當前模型需要數兆個 token 才能達到基本能力。這種低效率是一項關鍵瓶頸。Sutskever 認為，通用人工智慧的下一次飛躍將來自「樣本效率」——讓演算法從更少的資料中學到更多，模仿人類心智的直覺飛躍。

回到研究時代

Sutskever 倡議「研究時代」復興，這段時期讓人想起 2010 年代初期，當時架構創新超越了硬體成長。在這個新階段，追求通用人工智慧必須優先重視思考品質，而非資料數量。焦點將從打造龐大叢集，轉向尋找優雅的演算法突破，讓系統無須明確訓練，也能在全新情境中泛化。

• 演算法創新：超越下一個 token 預測，打造理解因果關係的系統。
• 資料精簡：策劃高價值資料，而非不加選擇地抓取資料，以教導通用人工智慧價值與邏輯。
• 能源永續：建立不需要消耗一個小型國家同等能源就能運作的架構。

經濟悖論：高智商、低效用

當前 AI 熱潮中，一個令人困惑的現實是模型「智慧」與其經濟影響之間的落差。大型語言模型雖然能通過律師資格考試，但它們融入全球經濟的程度仍出乎意料地表面。Sutskever 將此歸因於「鋸齒狀能力」。目前對通用人工智慧的嘗試，產生的模型往往在一個領域是專家，到了另一個領域卻無能為力，甚至經常無法完成需要簡單常識或可靠性的任務。

這種鋸齒狀的能力輪廓，對關鍵經濟基礎設施而言是致命的。銀行不可能部署一套能完美處理複雜衍生性金融商品，卻會幻覺式產生客戶帳戶餘額的通用人工智慧系統。這種不可靠性源自我們對人類回饋強化學習（RLHF）的依賴。RLHF 雖然讓模型更有禮貌、更善於對話，卻經常教會它們模仿能力，而非真正具備能力。它們學會說出我們想聽的話，卻不一定是真實的話。

若要讓通用人工智慧轉變經濟，它就必須從機率式模仿引擎，進化為具備穩健內在「世界模型」的系統。它需要理解自身行動的後果，而不只是下一個詞出現的統計機率。在彌合這項差距之前，這些系統的經濟效用將持續受限於不斷的人類監督需求。

以實際解決方案彌合差距

Sutskever 與 SSI 專注於通用人工智慧的長期前景之際，今日的企業仍需在他所描述的鋸齒狀環境中摸索。AI 市場的波動——模型每月遭到淘汰並被替換——為穩定性帶來惡夢。企業無法等待 20 年才迎來完美模型；它們需要立即從現有的不完美模型中提取價值。

這項需求催生了 GPT Proto 等元平台。這些工具在混亂的通用人工智慧研究進展與企業的實際需求之間，扮演穩定層的角色。GPT Proto 彙整了從 Claude 到 GPT-4 等多個模型的存取權，讓企業能降低個別系統的鋸齒狀缺陷。如果某個模型無法完成特定推理任務，工作流程便能自動轉向另一個模型，確保一定程度的可靠性，而這是目前任何單一模型都無法保證的。

這種方法代表通往通用人工智慧未來的務實橋樑。它承認，儘管我們追求的是超級智慧的單一巨型系統，當前現實卻需要由專門工具組成的聯邦。GPT Proto 等平台透過動態最佳化成本與效能，讓業界得以持續前進，而不會因當前技術的缺陷而陷入癱瘓。

SSI 宣言：價值函數與洞察

Safe Superintelligence Inc. 技術策略的核心，是重新聚焦於「價值函數」。在深度學習中，價值函數會估計當前行動的長期成功程度。Sutskever 相信，完善這項機制是解鎖真正通用人工智慧的關鍵。目前，模型主要依賴即時 token 預測運作——它們就像即興演員，不知道自己正在寫的場景將如何結束。

精密的價值函數將賦予通用人工智慧在開口前「思考」的能力。它會作為內在批評者，模擬可能的未來，並選擇能導向正確結果的路徑。這類似人類的直覺或「第六感」，是一種認知捷徑，讓專家無須窮舉計算每種可能性便能解決問題。SSI 透過訓練模型建立這種內在羅盤，旨在創造能可靠推理複雜多步驟問題的系統。

從資料庫到超級學習者

Sutskever 對通用人工智慧的願景，不同於科幻作品中無所不知的神諭。​​他想像的是一位「超級學習者」——它在初始化時或許不具備宇宙中的每項事實，卻擁有取得並綜合知識的終極能力。從靜態知識庫轉向動態學習代理，是安全性的重要關鍵。像人類一樣學習的通用人工智慧，比起由靜態模式構成的黑箱資料庫，更容易實現對齊與修正。

重新定義安全：以同理心超越規則

Safe Superintelligence Inc. 名稱中的「Safe」並非行銷噱頭，而是 Sutskever 工作的根本限制。傳統 AI 安全方法聚焦於「對齊」——撰寫複雜的規則手冊，迫使通用人工智慧遵守人類規範。Sutskever 認為這種方法很脆弱。人類價值彼此矛盾、取決於情境，並且不斷演變。將其硬編碼進超級智慧，是一場災難的配方。

相反地，Sutskever 提出一項激進替代方案：教導通用人工智慧珍視生命本身的本質。如果一個系統能接受訓練，具備某種生物學上的同理心——辨識並尊重生物體內「意識火花」——就能建立超越特定文化或法律規則的安全屏障。這種方法尋求讓通用人工智慧不與某一套特定法律對齊，而是與保存及滋養生命的根本驅動力對齊。

這種生物學對齊意味著，通用人工智慧最終的安全功能，可能是對創造者抱持某種愛或深切尊重。這是從把安全視為編碼問題，轉向把安全視為發展心理學問題。我們不只是在打造工具；我們正在培育一個心智。而如同任何孩子，它的行為更取決於內化的價值，而非宵禁有多嚴格。

賽博格選項：與通用人工智慧融合

Sutskever 觀點中最令人不安的部分，或許是人類在後 AGI 世界中的角色。如果我們成功創造出遠遠超越人類認知能力的通用人工智慧，人類作為地球主導物種的地位便會受到挑戰。為避免過時，Sutskever 認為人類可能需要提升自身的頻寬。這指向腦機介面（BCI）的加速發展。

邏輯十分直接：如果無法擊敗它們，就加入它們。透過在人腦與通用人工智慧之間建立直接神經連結，我們可以將生物性的創造力與自主性，和機器的處理能力結合。這種「賽博格」未來讓人類得以保持相關性，參與智慧的擴展，而不只是旁觀。雖然 Sutskever 承認自己對這種結果有所抗拒，但他認為這可能是與超級智慧共存的必要條件。

這種整合從根本上改變了通用人工智慧的定義。它不再是「他者」，而成為「自我」的延伸。然而，目前 BCI 的發展進度落後於 AI。如果通用人工智慧如部分預測般在未來十年內到來，人類可能會面臨一段危險的脆弱期：機器已具備超級智慧，但通往人類心智的橋樑尚未建成。

漫漫長夜：度過 5 至 20 年的時間窗口

Sutskever 對真正通用人工智慧到來時間的預測，橫跨一個寬廣窗口：5 至 20 年。在科技快速發展的世界裡，這是一生的時間。這個時間表暗示著即將到來的「冷卻期」或「漫漫長夜」：當前熱潮的喧囂逐漸沉澱，轉而投入艱苦、緩慢的科學突破工作。爭奪市場份額的瘋狂競賽，可能讓位給整合階段，只有最認真的研究實驗室能夠存活。

在這段過渡期，焦點必須放在韌性上。在完整版本到來之前，我們必須建立能承受局部通用人工智慧所帶來衝擊的系統與社會。這包括建立經濟安全網、能偵測 AI 偽造內容的穩健驗證工具，以及優先培養以人為本技能的教育系統。通往通用人工智慧的旅程是一場馬拉松，而非短跑；「老鼠賽跑」目前的速度，從長遠來看並不可持續。

對開發者與願景家而言，這是耐心的呼籲。擴展時代的快速成果已經結束。通用人工智慧的下一次突破，需要深度專注、遠離市場壓力，以及探索不受歡迎想法的意願。Sutskever 的 SSI 是一場押注：一小群專注的研究人員，能夠超越一千名專注於季度利潤的工程師。

結論：智慧的未來

Ilya Sutskever 的轉向，象徵 AI 產業日趨成熟。我們正越過聊天機器人最初的興奮期，進入打造通用人工智慧這項嚴肅且攸關存在的工作。他對擴展時代的批判，是對矽谷自大的必要制衡，提醒我們更多資料並不等於更多真理。前進之路需要結合電腦科學、生物學與倫理學。

在探索這項轉型時，我們必須保持務實。我們運用今日的工具——透過 GPT Proto 等平台加以最佳化——同時將目光投向真正的通用人工智慧正在等待的地平線。無論未來在五年或二十年後到來，我們今天對研究重點、安全協議與人類價值所做的決定，都將定義我們最終孕育出的超級智慧本質。

---