Search
Close this search box.

不把雞蛋放在同一個 AI 供應商籃子裡:Walmart 自研 Code Puppy,降低模型依賴風險

《Business Insider》報導指出,Walmart 內部有一款名為 Code Puppy 的工具,由工程師 Mike Pfaffenberger 開發,並已在公司廣泛使用。Code Puppy 的意義並不只是另一個 AI coding assistant,它其實反映出 Walmart 面對 AI 時代的一項更深層策略:避免過度依賴少數幾家大型 AI 供應商。

Walmart 打造 AI 開發工具,降低供應商綁定風險

這類風險在科技產業其實並不罕見。企業往往會在新技術出現時快速導入,並逐步將核心系統建立在其之上;但隨著依賴程度加深,最後可能反而被少數供應商綁住。一旦需要更換,不僅成本極高,還可能引發系統中斷或營運風險。《Business Insider》舉例,類似情況在 IBM 時代曾經出現,在雲端運算興起後再次重演,如今也讓不少企業開始擔心,AI 可能成為下一個重蹈覆轍的領域。

在這樣的背景下,Code Puppy 被視為 Walmart 的一種應對方案。隨著企業在 AI coding 工具與 agent 上的投入不斷攀升,甚至動輒達到數百萬美元規模,如何壓低成本並降低對單一平台的依賴,也變得更加迫切。

Code Puppy 本身建立在 Pydantic AI 函式庫之上,主要用途是讓開發者透過自然語言指令來撰寫、修改、測試與管理軟體。它的功能與 Claude Code、Codex 等工具相似,都能協助生成功能、修復錯誤並分析專案,但關鍵差異在於,它並不綁定任何單一 AI 模型或供應商。

Code Puppy 可支援 OpenAI、Google、Anthropic 等供應商的多種模型,讓開發者依任務需求切換與比較結果,也能將工作負載分散到不同模型與供應商之間,以降低使用限制與成本風險。Mike Pfaffenberger 在一場 YouTube 簡報中強調,設計核心是讓企業不必依賴單一供應商,同時仍能保有對內部系統的整合與控制權。

掌握控制權比省成本更重要:Walmart 的 AI 自主化戰略

《Business Insider》指出,在成本面向上,這套設計帶來了實際效益。AI 模型多以 token 計費為基礎,一旦供應商調漲價格或收緊使用限制,Code Puppy 就能讓開發者迅速切換到更便宜的替代模型,甚至在多個模型之間自動輪替,分散單一來源的成本壓力,同時降低觸及速率限制的風險。根據公開的 GitHub 資訊,該系統支援 OpenAI、Google、Anthropic 等多家供應商模型,也因此具備相當高的彈性。

不過,在 Mike Pfaffenberger 看來,Code Puppy 的價值並不只是節省模型費用,更重要的是讓企業保有對程式碼與技術架構的主導權。隨著 AI coding 工具以極快速度生成程式碼,企業的軟體系統的規模也隨之成長,逐漸超出單一工程師能完全理解與維護的範圍。一旦大量程式碼高度依賴特定 AI 工具產生,企業在後續維護、更新與除錯時,就可能被迫持續使用同一套工具,進而形成新的技術依賴。

Pfaffenberger 坦言,Code Puppy 初期可能比 Cursor 或 Windsurf 等外部工具更貴,但他認為,為了保有對原始碼與內部系統的控制權,這筆成本是值得的。只要確保原始碼資產掌握在自己手中,而非受制於外部服務供應商。

即便擁有自家開發的 AI 工具,Walmart 近來仍開始面對 AI 使用成本快速攀升的挑戰。根據《AI News》報導,由於員工對 Code Puppy 的使用量遠超出公司預期,Walmart 已開始實施 token 配額制度,為員工設定使用上限,以控制整體支出。《AI News》指出,除了程式開發之外,員工也會利用 Code Puppy 進行試算表分析、簡報製作等日常工作;對於擁有超過 200 萬名員工的 Walmart 而言,即便每人僅增加少量 AI 使用量,累積下來仍是一筆可觀的成本。

不信任單一 AI 模型:LLM council 概念能分散風險?

除了 AI 成本控管的挑戰外,Mike Pfaffenberger 強調,Code Puppy 的誕生是源於深層結構性問題。他指出,AI coding 市場近年變動劇烈,從併購傳聞、合作關係生變,到服務條件頻繁調整,都讓使用者難以掌握未來風險。因此,他選擇自行打造一套更具自主性的工具,希望在快速變化的 AI 生態中保有更多主導權。

《Business Insider》提及,這個專案在 Walmart 內部很快擴散開來,不僅獲得技術團隊的肯定,也逐步從工程部門延伸到更廣泛的使用族群,包括技術主管,甚至門市管理人員,用來處理簡單自動化流程或進行各種創意實驗。有內部高層形容,Code Puppy 在公司「某種程度上已經紅了起來」。

從更宏觀的角度來看,Mike Pfaffenberger 對 AI 產業的發展持審慎態度。他認為,目前整個產業其實已經形成一種循環式的經濟結構:模型公司透過募資取得資金、再投入購買算力;應用端公司則付費使用模型能力;而最終使用者享受的是被補貼的服務。這樣的模式在長期來看並不穩定,一旦資金或市場預期出現變化,可能就會引發整體崩動,導致模型服務中斷或不可用。

Mike Pfaffenberger 因此提到 LLM council(大型語言模型議會)概念,也就是不依賴單一 AI 模型,讓多個模型同時解同一個問題,再交叉比對結果,降低風險並提升可靠性。對於這些觀點,Walmart 官方回應,公司工具設計以平台中立為原則,目標是讓系統能整合不同供應商的能力,而非綁定單一模型,並確保員工能在技術持續演進的過程中,使用最合適的工具完成工作。

*本文開放合作夥伴轉載,資料來源:《Business Insider》《AI News》,圖片來源:Unsplash