當整個 AI 產業都在比誰的模型更大，Apple 正在評估的，卻是一家專門把模型「變小」的新創。據《CNBC》與《The Information》報導，這家從加州理工學院（Caltech）衍生的公司 PrismML 宣稱，能把阿里巴巴開源模型 Qwen 從約 54GB 壓縮到不到 4GB，讓完整的 270 億參數模型直接跑在 iPhone 上。
PrismML 執行長 Babak Hassibi 甚至預測，或許三年後，人們需要的 AI 智慧有 95% 都能在手機、筆電等地端裝置上取得，只剩最高階的 5% 才得上雲端。
記憶體省 10 倍以上，回應速度快 6 倍
PrismML 的做法，是大幅簡化模型內部資訊的儲存方式，把每個數值從 16 位元壓到只剩 1 到 3 種可能值。Hassibi 將此比擬為晶片業從 8 位元走向 4 位元、再往前推進一步。該公司宣稱，壓縮後的模型記憶體用量減為原本的 10 分之一到 15 分之一，回應速度快 6 到 8 倍，耗電少 3 到 6 倍。
不過 Hassibi 坦言其中有所取捨：模型通常會損失數個百分點的整體效能，且事實記憶會比推理、數學與程式能力更早出現衰退。這項技術源自他在 Caltech 的研究團隊，專利由校方獨家授權 PrismML，公司今年 3 月完成由 Khosla Ventures 領投的 1,625 萬美元種子輪募資。
為什麼 Apple 會主動評估？
把更強的模型留在裝置端，正好對準 Apple AI 策略的核心限制。強大的模型通常需要龐大記憶體與運算資源、難以塞進手機；若能在裝置上直接運行，就能降低資料傳往遠端伺服器的延遲、減少雲端運算成本，也更貼合其隱私訴求。
Hassibi 向《CNBC》表示，Apple 正評估他們的技術在裝置上的速度、能源效率與表現，並形容討論「進展順利」，但仍屬非常早期；Apple 未回應置評請求。Creative Strategies 分析師 Carolina Milanesi 指出，更小的模型能讓 Apple 把運算攝影、影片生成，以及仰賴敏感個資的健康功能搬上裝置。由於 Apple 同時設計晶片與軟體，它在調校裝置端 AI 上握有較緊的控制權。
Apple 行動反映 AI「離開資料中心」大勢
PrismML 之所以受關注，是因為它踩在一個更大的趨勢上。《The Information》指出，讓大型模型在 iPhone 上跑起來這個里程碑，反映了業界正把 AI 從昂貴的資料中心伺服器，逐步搬到裝置端的更廣泛轉向。
在這場競賽裡，各家的下注方式並不一致。微軟、亞馬遜、Meta 等公司正砸下數千億美元大蓋資料中心，以因應它們預期中的 AI 需求；相較之下，Apple 大致站在這場資料中心軍備賽之外，主張盡可能讓 iPhone 的 AI 功能在裝置上運行，理由是這樣更能兌現它對用戶的隱私與安全承諾。
PrismML 的野心也不只停在手機。該公司表示，這項技術最終可能遠遠超出手機與筆電的範疇，擴展到機器人、自主系統，以及其他需要在不依賴雲端連線的情況下快速做出決策的產品。換句話說，當「智慧」能被壓進更小的體積、在地端即時運算，它能落腳的終端就不再侷限於口袋裡的那支手機。
效率提升，會讓記憶體與資料中心需求縮水嗎？
PrismML 的發布，也踩進一場正在升溫的爭論：AI 效率的躍進，是否會反過來壓低對記憶體晶片與昂貴資料中心的需求。今年 3 月 Google 發表探討如何在不損效能下削減記憶體用量的 TurboQuant 論文後，記憶體大廠 Micron 股價一度重挫，之後才回穩。
但多數分析師認為需求不會就此消失。PrismML 稱其技術能讓原本需要 8 張 GPU 的雲端模型改用 1 張運行；D.A. Davidson 分析師 Gil Luria 則指出，模型瘦身不會讓晶片變得多餘，只是把晶片從資料中心搬進手機等裝置。他甚至提醒，在個別裝置上跑 AI 有時比共用資料中心更沒效率，因為手機裡的晶片多數時間可能閒置。
值得留意的是，PrismML 宣稱的效能，目前多來自受控展示，仍需在真實使用下檢驗。Counterpoint 研究總監 Tarun Pathak 認為，模型在長提示下的表現、多工時的耗電，以及面對數百萬次請求的可靠度將是關鍵；IDC 分析師 Phil Solis 則認為，耗電可能是最大的未知數，一個好用到會被頻繁、甚至在背景持續執行代理任務的模型，即便省記憶體，也可能拖垮手機續航。
事實上，Apple 去年嘗試把內部模型縮小塞進 iPhone 時，就曾發現效能大幅下滑。這也是為何 PrismML「壓縮不損效能」的說法，唯有在實機大規模兌現，才真正具備改寫終端 AI 競爭格局的份量。
【推薦閱讀】
◆ 【後 LLM 時代】AI 頂尖研究者競逐的下一個前沿：從預測文字到理解物理世界
＊本文開放合作夥伴轉載，資料來源：《CNBC》、《The Information》、《Apple Inisder》，首圖來源：PrismML
