隨著 AI 代理成為各大企業追求的顯學,許多團隊或許正用了錯誤的方式上手。Meta 行銷科學合作夥伴 Ambarish Majumdar 指出,AI 代理能夠調用的「技能(Skills)」其實是比起代理本身,企業更應事先準備好的關鍵。
「工作流程」與「代理」分工
普遍來說,一項技能只會專精於某一種任務,例如檢索資訊、彙整文件、分類請求或驗證輸出結果。但是 AI 代理則處於不同層級,它會自主決定使用哪些能力、以何種順序執行,以及如何處理輸出結果。
因此,只要將設計良好的技能加以組合,理論上就能創造出具有 AI 代理特性的工作流程,甚至不需要刻意去建構龐大且複雜的代理系統。
在過往研究中,AI 科技巨頭 Anthropic 就將 AI 模型與工具所遵循且預先定義的運作路徑稱為「工作流程(Workflows)」,而由 AI 模型動態決定如何完成任務的部分則稱為「代理(Agents)」。
Ambarish Majumdar 說,依照「工作流程」與「代理」的分工概念,企業團隊打造系統時,未必一定要從打造 AI 代理程式開始,反而應該先著手編寫代理真正需要的技能與功能,也就是從可以獨立進行測試的專項能力開始建構,然後再將能力整合起來,最後交給 AI 代理運作。
優秀技能本質類似於 API
那麼想要打造一項優秀的技能,應該要符合哪些條件呢?Ambarish Majumdar 認為,真正有用的技能應該具備明確功能,同時輸入也被明確定義,還有可以被預期的輸出,而其結果也能被另一項技能繼續利用。
以客戶支援情境為例,某項技能可能被用於識別客戶問題,而另一項則被用於檢索帳戶資訊,第三項技能負責提出解決方案,最後一項技能為驗證解決方案跟公司現有政策的合規性。
這些技能於執行過程中,基本上都不需要 AI 代理直接參與,僅需透過協調層將它們串聯起來,就能夠在各技能之間相互傳遞輸出結果,並且讓相同技能於不同的工作流程中獲得重複使用。
Ambarish Majumdar 形容,優秀的技能有點類似於 API,意即操作者能夠理解它需要什麼、它會回傳什麼、以及當它失敗時會發生什麼事、而其他環節又能否可靠依賴技能的輸出結果。
在這種情況下,Ambarish Majumdar 指出,判斷技能本身的優劣也會變得更加容易,比方說檢索技能即可根據其是否可以找到正確資訊來衡量;分類技能則可根據已知範本進行評估;而驗證技能就可檢視其能否偵測到特定錯誤等。
反過來說,若卻乏專項技能分工處理,當所有內容都整合在一組龐大提示詞之中時,使用者想要釐清究竟是哪個環節出錯,自然就會變得困難許多。
協調層讓 AI 負責有價值決策
想要把各種技能串接起來運作,協調層將會變得非常關鍵且重要。協調層會檢視中間結果,並根據結果決定後續步驟,其可能是呼叫另一項技能繼續任務、直接選擇重試,向使用者索取更多資訊,或者執行額外的驗證等,在協調層介入下,整個系統的運作方式已經跟 AI 代理相當接近。
過去 Anthropic 曾提及一種「協調者-執行者」的工作模式,即中心 AI 模型會將問題動態分解為子任務,接著將其委派出去,最後才整合結果;同樣概念也適用於技能,也就是一個規模相對較小、可重複使用技能,仍有能力支援多種工作流程,差別僅在於技能如何被協調與調用。
在「協調者-執行者」分工模式下,企業 AI 團隊能夠擁有更高的自主權,讓工作流程的可預測部分維持確定性,而 AI 代理負責判斷具備價值的決策,這樣一來即使整個系統並非完全自主化,企業也同樣能夠從中獲得許多優勢。
不要把所有資訊塞進上下文
只不過,隨著 AI 模型的上下文視窗支援變得越來越大,開發者總會忍不住想將想將所有內容一路傳遞下去,舉凡對話歷史紀錄、文件、指示,以及前幾個步驟的輸出結果等,通通包含在內。對此 Ambarish Majumdar 提醒,即便 AI 模型擁有更大的上下文支援,也不代表每個技能都需要完整、全部的資訊。
先前 Anthropic 在上下文工程的相關研究中指出,上下文本質上是一種需要被使用者主動管理的有限資源,同時 OpenAI 於其他研究中也得出類似結論,表明上下文是 AI 代理的核心,較少但更相關的資訊,反而能產生更好的結果。
Ambarish Majumdar 強調,不必要的上下文會消耗 Token,並可能增加回應延遲,使得模型得處理更多資訊,因此上下文應該被視為技能介面的一部分,即開發者在設計技能時,除了定義其輸入和輸出之外,還要明確界定技能真正需要的上下文內容。
另外 Ambarish Majumdar 也建議,為了減少不必要的上下文,協調層可以在將相關資訊傳遞給技能時,把先前的輸出結果儲存為摘要或結構化狀態,不必反覆傳送完整的歷史紀錄,
指令、狀態與知識個別管理
總歸而言,Ambarish Majumdar 認為一套優秀的 AI 代理系統,要將「指令」、「狀態」與「知識」分開;指令定義技能應該執行的動作,狀態記錄當前工作流程中發生的事件,至於知識則提供完成任務所需要的外部資訊。
一旦將這三者區分開來,系統將會變得更容易維護與除錯,例如知識可以隨時變更,企業 AI 團隊無需重新設計技能,同時技能本身可以被獨立評估,而且在調查協調層的問題時,也不再需要重寫每個底層功能;隨著 AI 代理系統規模不斷擴大,這些界限將變得越來越重要。
面對 AI 代理熱潮,Ambarish Majumdar 直言,企業應該先自問「想要打造一套工作流程,實際上需要哪些能力」,而不是直接從創造 AI 代理著手。
畢竟在實務上,有些任務只需要固定的工作流程即可處理,部分任務才需要 AI 模型介入決策,而那些得賦予模型高度自主權才能完成的事情則更加罕見;AI 代理系統的架構,應該要隨著問題演變而逐步進化,而非一開始就追求最大自主性。
企業 AI 團隊的目標不該是打造出大量 AI 代理,而是要建立起可靠的 AI 能力,以便在真正需要時,將各種能力組合成更複雜但完美運作的系統。
【推薦閱讀】
◆ Jev 爆紅後 Strands Decider、Clef 接連登場,決策模型正走出哪些不同路線?
◆ 一個 AI Agent 別管超過 8~10 類任務,Salesforce 如何重新設計企業分工?
◆ OpenAI 研究揭 AI Agent 新風險:惡意上下文可能從 Email 一路傳到工具操作
*本文開放合作夥伴轉載,參考資料:Forbes、Anthropic,首圖來源:Nano Banana 2
(責任編輯:鄒家彥)



