如何建構能擴展成代理的 AI 技能:先做可獨立測試的專項能力,再交給協調層串接

打造 AI 代理從技能開始!兼顧擴展性、維護性與 Token 成本,協調層串聯技能才是正確方向

隨著 AI 代理成為各大企業追求的顯學,許多團隊或許正用了錯誤的方式上手。Meta 行銷科學合作夥伴 Ambarish Majumdar 指出,AI 代理能夠調用的「技能(Skills)」其實是比起代理本身,企業更應事先準備好的關鍵。

「工作流程」與「代理」分工

普遍來說,一項技能只會專精於某一種任務,例如檢索資訊、彙整文件、分類請求或驗證輸出結果。但是 AI 代理則處於不同層級,它會自主決定使用哪些能力、以何種順序執行,以及如何處理輸出結果。

因此,只要將設計良好的技能加以組合,理論上就能創造出具有 AI 代理特性的工作流程,甚至不需要刻意去建構龐大且複雜的代理系統。

在過往研究中,AI 科技巨頭 Anthropic 就將 AI 模型與工具所遵循且預先定義的運作路徑稱為「工作流程(Workflows)」,而由 AI 模型動態決定如何完成任務的部分則稱為「代理(Agents)」。

Ambarish Majumdar 說,依照「工作流程」與「代理」的分工概念,企業團隊打造系統時,未必一定要從打造 AI 代理程式開始,反而應該先著手編寫代理真正需要的技能與功能,也就是從可以獨立進行測試的專項能力開始建構,然後再將能力整合起來,最後交給 AI 代理運作。

優秀技能本質類似於 API

那麼想要打造一項優秀的技能,應該要符合哪些條件呢?Ambarish Majumdar 認為,真正有用的技能應該具備明確功能,同時輸入也被明確定義,還有可以被預期的輸出,而其結果也能被另一項技能繼續利用。

以客戶支援情境為例,某項技能可能被用於識別客戶問題,而另一項則被用於檢索帳戶資訊,第三項技能負責提出解決方案,最後一項技能為驗證解決方案跟公司現有政策的合規性。

這些技能於執行過程中,基本上都不需要 AI 代理直接參與,僅需透過協調層將它們串聯起來,就能夠在各技能之間相互傳遞輸出結果,並且讓相同技能於不同的工作流程中獲得重複使用。

Ambarish Majumdar 形容,優秀的技能有點類似於 API,意即操作者能夠理解它需要什麼、它會回傳什麼、以及當它失敗時會發生什麼事、而其他環節又能否可靠依賴技能的輸出結果。

在這種情況下,Ambarish Majumdar 指出,判斷技能本身的優劣也會變得更加容易,比方說檢索技能即可根據其是否可以找到正確資訊來衡量;分類技能則可根據已知範本進行評估;而驗證技能就可檢視其能否偵測到特定錯誤等。

反過來說,若卻乏專項技能分工處理,當所有內容都整合在一組龐大提示詞之中時,使用者想要釐清究竟是哪個環節出錯,自然就會變得困難許多。

協調層讓 AI 負責有價值決策

想要把各種技能串接起來運作,協調層將會變得非常關鍵且重要。協調層會檢視中間結果,並根據結果決定後續步驟,其可能是呼叫另一項技能繼續任務、直接選擇重試,向使用者索取更多資訊,或者執行額外的驗證等,在協調層介入下,整個系統的運作方式已經跟 AI 代理相當接近。

過去 Anthropic 曾提及一種「協調者-執行者」的工作模式,即中心 AI 模型會將問題動態分解為子任務,接著將其委派出去,最後才整合結果;同樣概念也適用於技能,也就是一個規模相對較小、可重複使用技能,仍有能力支援多種工作流程,差別僅在於技能如何被協調與調用。

在「協調者-執行者」分工模式下,企業 AI 團隊能夠擁有更高的自主權,讓工作流程的可預測部分維持確定性,而 AI 代理負責判斷具備價值的決策,這樣一來即使整個系統並非完全自主化,企業也同樣能夠從中獲得許多優勢。

不要把所有資訊塞進上下文

只不過,隨著 AI 模型的上下文視窗支援變得越來越大,開發者總會忍不住想將想將所有內容一路傳遞下去,舉凡對話歷史紀錄、文件、指示,以及前幾個步驟的輸出結果等,通通包含在內。對此 Ambarish Majumdar 提醒,即便 AI 模型擁有更大的上下文支援,也不代表每個技能都需要完整、全部的資訊。

先前 Anthropic 在上下文工程的相關研究中指出,上下文本質上是一種需要被使用者主動管理的有限資源,同時 OpenAI 於其他研究中也得出類似結論,表明上下文是 AI 代理的核心,較少但更相關的資訊,反而能產生更好的結果。

Ambarish Majumdar 強調,不必要的上下文會消耗 Token,並可能增加回應延遲,使得模型得處理更多資訊,因此上下文應該被視為技能介面的一部分,即開發者在設計技能時,除了定義其輸入和輸出之外,還要明確界定技能真正需要的上下文內容。

另外 Ambarish Majumdar 也建議,為了減少不必要的上下文,協調層可以在將相關資訊傳遞給技能時,把先前的輸出結果儲存為摘要或結構化狀態,不必反覆傳送完整的歷史紀錄,

指令、狀態與知識個別管理

總歸而言,Ambarish Majumdar 認為一套優秀的 AI 代理系統,要將「指令」、「狀態」與「知識」分開;指令定義技能應該執行的動作,狀態記錄當前工作流程中發生的事件,至於知識則提供完成任務所需要的外部資訊。

一旦將這三者區分開來,系統將會變得更容易維護與除錯,例如知識可以隨時變更,企業 AI 團隊無需重新設計技能,同時技能本身可以被獨立評估,而且在調查協調層的問題時,也不再需要重寫每個底層功能;隨著 AI 代理系統規模不斷擴大,這些界限將變得越來越重要。

面對 AI 代理熱潮,Ambarish Majumdar 直言,企業應該先自問「想要打造一套工作流程,實際上需要哪些能力」,而不是直接從創造 AI 代理著手。

畢竟在實務上,有些任務只需要固定的工作流程即可處理,部分任務才需要 AI 模型介入決策,而那些得賦予模型高度自主權才能完成的事情則更加罕見;AI 代理系統的架構,應該要隨著問題演變而逐步進化,而非一開始就追求最大自主性。

企業 AI 團隊的目標不該是打造出大量 AI 代理,而是要建立起可靠的 AI 能力,以便在真正需要時,將各種能力組合成更複雜但完美運作的系統。

【推薦閱讀】

◆ Jev 爆紅後 Strands Decider、Clef 接連登場,決策模型正走出哪些不同路線?
◆ 一個 AI Agent 別管超過 8~10 類任務,Salesforce 如何重新設計企業分工?
◆ OpenAI 研究揭 AI Agent 新風險:惡意上下文可能從 Email 一路傳到工具操作

*本文開放合作夥伴轉載,參考資料:Forbes、Anthropic,首圖來源:Nano Banana 2

(責任編輯:鄒家彥)