AI 進入軟體工程領域後，撰碼門檻大幅降低，Cursor、Claude Code 等工具與 AI 代理，讓工程師只需簡單描述需求，就能快速建構專案起點。這也讓工程師面臨的問題變得不同。
當 AI 代理逐漸成為系統邏輯的主要撰寫者，人類工程師還剩下什麼可做？工程師是否正淪為 AI 程式碼的審核者，還是工作重心已轉向更抽象的層次？資料工程專家 Ananth Packkildurai 認為，答案的關鍵在於，工程師必須開始理解「系統邊界」本身的意義。
錯誤耗損不斷累積，人類介入很關鍵
Ananth Packkildurai 指出，當人們開始願意去忽略 AI 那層擬人化的幻象，其實當今人工智慧的本質，依然只是一台運算引擎，它能夠接收指令，並將指令轉化為行動。
換句話說，大型語言模型（LLM）雖然具備強大的處理能力，可是在它獲得明確的「意圖」之前，AI 本身並不會執行任何有意義的工作，直到人類主動給予提示詞、需求、指令，甚至是關於某一件事情的結果和狀況，才有辦法為 AI 提供任務方向，再以程式碼、工具呼叫、查詢、測試等形式進行產出。
既然 AI 本身是個「引擎」，那麼在運算過程中，自然會產生損耗，而且失去的東西將不斷疊加。
舉例來說，工程師起初給予 AI 的任務很明確，但隨著任務不斷推進，最初的提問與假設就會開始過時，尤其是長時間運作 AI 代理工作循環，通常會越來越偏離主軸，讓解決方案變得「治標不治本」。
在程式開發專案不斷向前推進的循環中，過時的假設、分支化的上下文，以及未解決的依賴關係，將隨著 AI 代理的運作不斷累積，即便 AI 於上下文中累積了許多看似合理的細節，但它們本身卻經常相互矛盾，最終使得 AI 處理下一步工作的確定性，甚至不如剛開始的第一步。
Ananth Packkildurai 說，人類在 AI 工作時介入之所以擁有極大幫助，主要就是由於工程師可以給予 AI 新資訊，例如失敗的測試紀錄、具備確定性的工具及精確的錯誤原因等；若缺乏此類訊號，AI 代理只會持續產生輸出，同時逐漸偏離正確的結果，這種需要人類提供的訊號，就是所謂的「系統邊界」。
AI 代理像猴子，更擅長有限範圍任務
Ananth Packkildurai 以著名的「無限猴子定理」，說明反覆嘗試、有限限制及回饋機制，此三者對於 AI 代理工作循環的重要性。
在「無限猴子定理」中，假設給予一隻猴子無限時間隨機敲擊鍵盤，那麼牠幾乎肯定會打出《莎士比亞》全集，而 AI 代理其實就是「比較聰明的猴子」。
Ananth Packkildurai 指出，AI 代理擁有編譯器、工具、程式碼儲存庫、測試套件與回饋迴路，而它們的工作方式也並非隨機，為利用回饋引導下一次嘗試，整個工作流程就是提出方案、執行、觀察、修正，然後再次嘗試的循環。
在大多數範圍有限的任務中，Ananth Packkildurai 強調，這種循環的工作效果極佳，尤其是對於小規模專案，隨著 AI 代理不斷修改、測試、分析，配合較窄的系統邊界範圍，循環就更有機會趨於收斂。
企業環境不斷變動，結果就無法保障
然而，實際上的企業環境卻很難提供前述的穩定性，舉凡第三方 API、區域性政策，以及部分存在程式碼中，部分又存在於某人腦中的業務規則等，這些不斷變動、變化的內容，將難以讓 AI 代理收窄解決方案。
若從 AI 的角度來看，在變動環境下處理工作循環後所得出的資料，或許於數據儲存格式、結構等「物理層面」完全符合規範且彼此一致，但資料本身所代表的業務意義或語意，其實卻變得大錯特錯，即使通過管線測試，也不代表結果就是對的。
簡單來說，當 AI 代理這隻更聰明的「猴子」，正在努力打字並處理任務的同時，若週遭環境卻也不斷變化，那麼 AI 最後給出的成果，自然就無法擔保穩定性與正確性。
牽一髮而動全身，學會呈現系統邊界
在不斷變動的企業環境中，某處發生的微小變化，即可能會對其他地方產生截然不同的影響。
Ananth Packkildurai 表示，現代資料平台的變動持續不斷，如營運資料庫會因客戶活動而產生改變；API 會實施速率限制並更新版本；資料結構也會不斷演進；資料安全政策亦會動態調整；甚至有些多年前制訂的規則，還會被埋沒在例外處理機制之中，未曾獲得明文記載。
當系統之間彼此牽連，某處的變更就會改變另一處的意義或行為，並從最初的局部功能需求，逐漸牽動起整個系統，進而導致 AI 代理寫出很乾淨的程式碼，處理流程亦沒有發生問題，可是最後卻給予人類錯誤的答案。
Ananth Packkildurai 說，此時人類工程師能做出的貢獻，就不是處理資料或欄位轉換邏輯這類「小事」，而是要去建立系統邊界，讓 AI 代理犯下的錯誤變得具體、容易發現且可供修復。
打造確定性環境，軟體工程更顯價值
Ananth Packkildurai 認為，當代軟體工程師的任務，已不再是親手撰寫程式中的每一段邏輯，該工作未來會交由速度更快、效率更高的 AI 代理接手；工程師的新使命應該是，去設計 AI 代理進行開發任務的平衡狀態，創造一種「環境」，使 AI 生成的程式邏輯能夠被人類信賴。
此外，當業務需求變化的速度，超過 AI 代理吸收、回饋的能力時，工程師就必須建立起「隔離場」，透過嚴格的語義層、不可變更的事件日誌、資料合約、冪等性 API 及確定性狀態機，打造良好的平台規範，利用確定性嘗試減少 AI 代理同時做出的假設數量。
Ananth Packkildurai 建議，現代的軟體工程師要學會將問題，轉化為具備明確輸入、顯性規則與有效回饋的有限領域，而一旦這樣的系統邊界存在，AI 代理就會變得足夠強大。
Ananth Packkildurai 強調，隨著程式碼生成的成本降低，軟體工程的價值並不會消失，反而將變得更加顯而易見；當自主型 AI 承擔起生成軟體的任務，決定程式能夠成功運作，或者陷入混亂的關鍵，依舊是在其背後的人類工程師。
科技的變化總是快得驚人，而我們每天的工作，就是從龐雜的趨勢中理出觀點、提煉出決策者真正需要的洞察。如果你也對 AI 發展充滿熱情，《TechOrange 科技報橘》正在徵內容編輯！
👉了解職缺內容
【推薦閱讀】
◆ 調查發現 76% 工程師更愛 Claude Code 勝過 Codex，關鍵差異是什麼？
◆ 【情境工程人才缺口】不只是寫提示詞，企業需要能設計 AI 運作環境的人
◆ Cursor 推 Origin 進軍程式碼託管：AI coding 戰場為何從 IDE 打到 GitHub？
＊本文開放合作夥伴轉載，參考資料：VentureBeat、InfoWorld，首圖來源：Nano Banana 2
（責任編輯：鄒家彥）
