當多數 AI 實驗室都在大型語言模型（LLM）上加碼，曾主導 AlphaGo 的 David Silver 選了另一條路。他離開 Google DeepMind 後於倫敦創立 Ineffable Intelligence，今年 4 月宣布募得 11 億美元種子輪、估值 51 億美元。美國時間 10 月 13 日，Silver 與共同創辦人之一 Lasse Espeholt 在領投方之一 Sequoia Capital 的 Podcast 節目《Training Data》中，說明這家新創準備怎麼做：不走 LLM 以海量人類資料預訓練的路線，而是讓 AI 從一無所知開始，在模擬世界中持續從經驗中學習。
預訓練（pre-training）是指先用大量網路文字等人類資料訓練模型，也是當今 LLM 的起點。Silver 想打造的，則是「一個能持續學習、永遠不斷發現知識的系統」。問題是，若不依賴人類累積的資料，究竟要怎麼做？
為什麼不做 LLM？Silver：人類資料可能反而拖累 AI
Silver 表示，他很珍惜在 DeepMind 的時光，但他相信的路線「並不需要以 LLM 產品作為中繼站」，值得一間全力投入的實驗室，而不只是專注 LLM 產品的組織裡的一個角落。他也坦言資源配置的考量：全世界已有數萬、甚至數十萬名研究者走 LLM 路線，「我要當第 100,001 個人嗎？」
他並未否定 LLM 的成果。Silver 說，以大量資料訓練的模型，只需少量資料微調就能大幅改變行為，這點改變了他的想法。但他認為，現在 LLM 的突破仍仰賴大量「人在迴圈中」（human-in-the-loop）的人工介入，還不是完全自主。
更根本的分歧在於人類資料本身。Silver 舉例，要學會控制電漿、運作行動通訊基地台或操作機械手臂，用語言思考未必是對的範式，「LLM 使用的這些人類資料，可能反而在拖累它。」他也提醒，以人類語言推理會一併帶入人類的偏見：如果只能使用幾百年前的語言，AI 可能會相信地球是平的。
不過，他也承認，讓 AI 從實體世界的經驗中學習，目前「還差得很遠」。根據《The Decoder》分析，Silver 屬於越來越多懷疑現有 Transformer 架構（當今 LLM 的主流架構）能否通往超級智慧的頂尖研究者之一；但 DeepMind、Anthropic 與 OpenAI 內部，仍有不少研究者相信 LLM 還能走得很遠。
不教答案、只給簡單目標，讓 AI 在模擬「熔爐」裡自己發現
Silver 把目標稱為「超級學習者」（superlearner），並從深度與廣度來定義：深度上，要能從一無所知出發，發現遠超人類的知識；廣度上，不論放進模擬、數位或實體世界，都能持續學習。
實際做法分成兩塊。一是打造大規模的強化學習（Reinforcement Learning，讓 AI 透過試錯、依結果好壞調整行為的訓練方法）技術架構；二是建造讓 AI 能自行發現知識的模擬環境，他們稱為「熔爐」（crucibles）。研究的里程碑，則是讓 AI 重新發現人類知識史上的重大時刻。
與許多 LLM 的強化學習訓練不同，Silver 表示，他們不會「沿路撒麵包屑」，一步步把 AI 引向特定答案，而是給它簡單的目標，放進複雜的環境。他以演化作比喻：適者生存這個簡單的目標，造就了生命的複雜。至於獎勵怎麼設計，他說仍在實驗多種版本，沒有單一答案。
熔爐長什麼樣子？Silver 沒有透露細節，只說複雜度可以來自包含數百萬個互動物件的物理引擎，或數百萬個彼此互動的 AI。Espeholt 補充，完全擬真的物理運算成本太高，因此他們會建立一系列由簡到繁的熔爐，簡單的版本能快速迭代。
這套思路的依據來自 AlphaGo。Silver 回憶，AlphaGo 靠人類棋譜與團隊反覆調整，花了約兩年才擊敗李世乭；後來放棄人類資料的 AlphaZero 在西洋棋上只訓練了 4 小時，就擊敗當時最強的西洋棋 AI。他形容放棄人類資料是「短期的犧牲」，換取可能更高的上限；但他也承認，圍棋的複雜程度有其界限。
在模擬中訓練更快也更安全，但成果未必能直接搬進現實
Silver 認為，如果超級智慧能在模擬中打造出來，速度會快上 10 到 100 倍，因為模擬可以無限平行運算、完全重現，「也是打造超級智慧最安全的地方」。
對模擬的極限，他也有所保留。主持人提到，2024 年圖靈獎得主、強化學習奠基者之一的 Rich Sutton 先前上節目時並不看好模擬；Silver 表示同意 Sutton 的觀點：在模擬中學到的東西，未必能轉移到更複雜的真實世界。他的做法是先在模擬中找出學習方法，再逐步提高模擬的擬真度、確認仍然有效，才放進真實世界。Espeholt 也表示，模擬「在某處終究有天花板」。
安全也是 Ineffable Intelligence 選擇模擬的理由。Silver 認為，目前依賴語言與人類資料的對齊（alignment，讓 AI 的行為符合人類意圖）方法「開始碰到極限」，AI 可能學會說一套、做一套。他表示，公司最重要的事，是在模擬中理解超級智慧的科學並公開分享，任何真實世界的行動，都要先有足夠的證據。
監控方面，他提出不依賴語言的做法，例如「影子行動」（shadow actions）：觀察 AI 在被允許行動時會怎麼做，但先不讓它真的執行。他直言自己「並沒有掌握所有的答案」。對於前沿 AI 的發展步調，他的立場是：真實世界放慢，模擬中盡快前進。
20 人團隊配頂級 GPU 叢集，Silver 預測一年內看到證據
算力是另一個關鍵。Espeholt 表示，Ineffable Intelligence 是 Google Cloud 上最大叢集的首批客戶，叢集預計年底啟用，採用 Nvidia 的 Vera Rubin 機架；同一機架內節點之間的高頻寬，對需要快速迭代的強化學習特別重要。他們也把模擬、訓練與推論都放在 GPU 上執行。
不過 Espeholt 坦言，GPU 多年來是為訓練與推論最佳化，對模擬較不友善；強化學習的規模法則（scaling laws，投入算力與資料後效能提升的規律）也與 LLM 不同，因為資料分布會隨學習進度改變，這部分仍在積極推進。
團隊則刻意維持小規模。Silver 表示，公司一共聘了 20 人；Espeholt 補充，這讓每個人分到的算力更多，「不必從第一天就爭搶資源」。Silver 也強調研究導向的文化，刻意抵擋產品壓力，認為先有突破，後續的產品會更大。
節目最後，Silver 給出預測：一年內會看到「方向正確的強力證據」。至於他所定義的超級智慧，也就是在科學、數學、技術、語言等領域的發現遠超人類，他原本估計需要 3 到 5 年，現在因為程式設計 AI 加快了研究速度，改口 3 年。不過他也同時強調：「研究永遠沒有保證。」
目前這條路線最具體的證據仍來自圍棋、西洋棋這類格局有限的棋類，熔爐的設計細節也尚未公開；以上說法都出自創辦團隊在投資方節目中的自述，仍待研究成果驗證。Silver 為自己設下的一年期限，會是外界檢視這條非 LLM 路線的第一個時間點。
【推薦閱讀】
◆ 紅杉資本、NVIDIA 押注！Google DeepMind 前研究員創 AI 新創，打造「超級學習者」估值飆 51 億
＊本文開放合作夥伴轉載，資料來源：Sequoia Capital、《TechCrunch》、《The Decoder》、ACM，首圖來源： Unsplash
