Search
Close this search box.

AI 用越多不代表越有價值:當 token 成本升高,企業決策者開始追問真正 ROI

矽谷在過去一年裡,逐漸將 AI 的使用量變成一種職場上的計分板。然而,這股追求 token 用量最大化(tokenmaxxing)的風氣正迎來反思聲浪,愈來愈多企業高層開始質疑,最大化 AI 使用量是否真的是衡量技術採用成效的正確方式。

《Business Insider》近日在 Mistral AI 峰會上訪問四位企業高層,當他們談到如何衡量 AI 的投資報酬率(ROI)時,沒有任何一個人一開始就談論員工到底消耗了多少 token。

「Tokenmaxxing」的副作用:製造錯誤激勵與資源浪費

這場思維轉變的起因,在於單純追蹤使用量往往會帶來錯誤的激勵機制。Replit 總裁暨 AI 負責人 Michele Catasta 近日在 Web Summit Rio 大會上,就強烈批評企業利用內部排行榜,根據員工使用 AI token 的多寡來排名的趨勢。

Michele Catasta 形容這種排行榜的做法「非常反烏托邦(very dystopian)」,並認為 token 消耗量與員工在公司內部產生的影響力並不成正比,是衡量員工表現的糟糕指標。他更警告,過度使用 AI 就如同出門不關燈、卻不在乎電費一樣「不負責任」,這不僅消耗更多能源,還會排擠其他公司想要建立在模型之上的應用容量。

事實上,一些美國大型企業已經意識到這個問題並開始改變做法。Amazon 在上個月取消內部的 AI 使用排行榜,因為有員工為了提升排名而刻意增加 AI 使用量,Amazon 發言人對此強調,該排行榜從來不是要鼓勵「為了用 AI 而用」。同時,Uber 營運長 Andrew Macdonald 也公開表示,他沒有看到不斷增加的 AI 成本帶來等比例的生產力提升,因此,若要將 token 消耗量與客戶價值畫上等號,仍然很困難。

企業高層的共識:不再只看 token,而是追問實質成果

既然 token 使用量無法與生產力畫上等號,企業高層開始將目光轉向實質的商業成果。法國巴黎銀行(BNP Paribas CIB)首席 AI 長 Charles Holive 將每天數十億個 token 消耗量視為「虛榮指標」,並強調:「我們試圖確保我們追蹤的是結果,而不是虛榮指標。」比起員工用了多少 token,Charles Holive 更關注的是:「你做了什麼以前做不到的事?你完成的速度變快了多少?」

其他企業高層也抱持相同看法。法國郵政銀行(La Banque Postale)創新、數位與資料總監 Antoine Pichot 指出,法國郵政銀行衡量 AI 成效的方式,是看 AI 是否能讓員工變得更有效率、改善客戶服務,並帶來價值。

作為全球最大的 IT 服務與諮詢公司之一,塔塔諮詢服務(Tata Consultancy Services)的首席 AI 與轉型長 Amit Kapur 則表示,他的重點在於 AI 是否改善商業表現。此外,負責協助大型企業從多個 AI 供應商導入 AI 工具的 NTT DATA 執行董事 Sujay Bhattacharya 也觀察到,他的客戶愈來愈不看重 token 數量,而是更關注 AI 專案的整體成本與商業價值。 

追蹤 Token 的真正意義:成本控管而非價值指標

儘管企業開始反思「tokenmaxxing」,這並不代表公司將完全停止追蹤 AI token 的使用量,受訪企業高層一致認為:雖然 token 可以顯示使用多少 AI,但不一定能說明 AI 是否帶來有形的投資報酬。

法國巴黎銀行首席 AI 長 Charles Holive 解釋,他的團隊仍會持續監控 token 的消耗量,但真正目的是為了控制成本並衡量技術的採用率。此外,隨著 OpenAI、Anthropic 與 GitHub 紛紛轉向「按使用量計費」模式,企業正面臨更大的成本壓力,必須證明更高的 AI 使用成本確實能夠帶來有意義的回報。

企業界正在經歷一場深刻的思維轉變:從過去追求「tokenmaxxing」與鼓勵提高 AI 使用量,轉向嚴格審視 AI 是否真的能改善員工效率、客戶服務、商業表現與成本效益。對決策者而言,追蹤 token 使用量依然有其必要性,但絕非衡量 AI 價值的終點。當「tokenmaxxing」被視為虛榮指標,甚至會製造不必要的錯誤激勵與能源浪費時,企業 AI 導入的真正考驗,已經回到受訪高層反覆強調的核心問題:AI 是否帶來具體且有形的投資回報?

*本文開放合作夥伴轉載,資料來源:Business Insider》1《Business Insider》2,首圖來源:Unsplash