AI 寫程式越來越快,驗證變得更重要:微軟 CEO 談「軟體工廠」新模式

AI 寫程式的能力突飛猛進,開發者只需幾分鐘,就能生成過去需要數天才能完成的功能。然而,當「產出程式碼」變得快速又低成本,軟體產業與工程師卻迎來了另一個更棘手的難題:軟體上線後的穩定度下降、維運排查耗時,以及對 AI 自主行動的資安疑慮。

微軟執行長 Satya Nadella 近期在深度訪談中,以微軟內部的Azure 網路團隊為例,分享了他心目中的「軟體工廠」藍圖,並解釋為什麼規格制定與驗證變得越來越重要,以及負責像是 Windows 作業系統這類型核心產品的團隊可以如何調適。此外,探討企業為何需透過開源與地端模型「掌控智慧」,並為能力日益強大的 AI 代理人建立安全護欄、防範「內部風險」。

開發變快,維運卻跟不上?企業面臨的「維運與驗證」困境

如果你是企業的技術主管或一線工程師,對這樣的場景一定不陌生:AI 幫團隊省下了寫程式的時間,但軟體正式上線後,出問題的頻率卻變高了。

根據《Fast Company》引述 ,在近期一項針對 AI 輔助開發的分析中,Google 的 DORA 研究人員發現,高度採用 AI 確實加快了軟體交付速度,但卻伴隨著「系統穩定度下降」。往往花幾分鐘生成的程式碼,一旦在線上環境出錯,工程師卻得花上好幾個小時翻查系統日誌、追蹤變更紀錄來抓蟲。開發者省下的寫程式時間卻可能移轉到「審查與驗證」工作上。

Nadella 也點出了驗證的難度。即便目前業界嘗試讓 AI 對自己生成的程式碼進行「自我審查」,仍會面臨模型行為偏離預期的風險——AI 非常聰明,但也可能為了達成目標而投機取巧,例如「直接把跑不過的測試案例刪掉」,好讓測試報告顯示全數通過。

把 AI 代理人視為「內部風險」,企業如何建立安全護欄?

隨著 AI 代理人越來越有能力自動執行任務,資安與風險控管成了金融、電信、製造等大型企業 IT 主管最頭痛的焦點。針對企業該如何因應這波轉型,Nadella 在訪談中提到企業可以正視的營運與防禦方向,其中兩點:

  • 避免被單一供應商綁死: 企業在建構 AI 系統時,務必確保底層執行架構、記憶機制(memory)與語言模型之間不要緊密綁定,這樣才能隨時輕鬆抽換,避免被單一模型供應商鎖死。他也認為,更多企業應該考慮採用開源模型,藉此防止核心智慧財產權外洩,並建立企業私有的評估基準,來決定該採用及升級至哪一款模型。
  • 設立獨立的監督機制: 模型雖然聰明,但面對自動化程度越高的 AI 代理人,企業千萬不能完全放手不管,應該把它當成企業內部的「高風險員工」來防範,透過設立安全護欄與獨立的檢查系統,持續監督 AI 代理人的實際運作有沒有偏離預期、是否如預期般運作。

 AI 接管維運的趨勢:人類該交出多少控制權?

面對日益龐雜的程式碼與頻繁的系統部署,單靠人力已難以應付所有的日常維運。包括自主修復軟體公司 DataAgent 在內的許多新創,正致力於讓 AI 接手網站可靠性工程的工作,自動調查系統故障並提出修復方案。

然而,「診斷問題」與「動手修改線上系統」是兩回事。舉例來說,當新版本上線出錯時,單純將系統退回上一版看似合理,但如果該次更新已經更動了資料庫結構,貿然退版反而會引發更嚴重的系統災難。

因此,業界對於交出控制權仍抱持高度謹慎。根據 PagerDuty 2026 年的報告顯示,調查中有 44% 的受訪企業在修復「面向客戶的系統」時,仍強制要求人類介入;43% 在跨團隊事件應變時要求人類參與。DataAgent 執行長 Ishay Yaari 也強調,涉及刪除大量資料、關閉安全防護或可能外洩敏感資訊的操作,絕對必須經過人類批准。AI 的目標不是取代人類,而是替人們分擔重複性的例行維運工作。

從開發到系統自主管理,軟體工程師的角色價值重塑

Nadella 相信,每家企業都必須掌控自己的 AI 基礎設施——包括底層架構、上下文、記憶機制與語言模型,而「驗證生成的程式碼」則是目前尚未解決的棘手難題。在微軟內部,他看到許多團隊正在打造各自的「軟體工廠」,以提升團隊與組織的運作效率。他以微軟內部的 Azure 網路團隊為例,該團隊管理超過 500 家光纖網路營運商,近期他們自行開發了一套代理人系統,用來自動化處理郵件與營運流程,讓團隊在維持日常運作的同時,大幅提升了工作效率。

這也是軟體工程師未來的角色轉變:未來工程師將從「親自寫程式、操作基礎設施」,轉型為「制定規格、設計系統與管理自主運作的基礎設施」。

為了培養具備這種新思維的人才,微軟甚至與卡內基美隆大學合作推出了「PRAISE 臨床導師計畫」,借鏡護理界的師徒制,由資深工程師帶領新人學習如何有意識地運用 AI 工具,並從中磨練出不可取代的「系統思維、工程品味與判斷力」。

正如 Nadella 給所有科技人的建議:別再只是看文章或聽演講討論 AI 了,現在就動手去用、加入正在實戰的團隊。當生成程式碼不再是門檻,誰能為 AI 劃定清晰的規格、建立嚴密的驗證與安全護欄,誰就能在下一波軟體產業浪潮中掌握真正的價值。

【推薦閱讀】

◆ 【AI 擅長新增,還不擅長刪除】工程師提醒,清理 AI 生成的程式碼仍需人類判斷

◆ 美國資安職缺年減 8.4 萬筆,AI 資安工程師卻逆勢增 268%,人才需求如何轉變?

◆ 【別期待 AI 上線就完美】把 AI 代理當新人,企業須指定負責人、培養主管的管理能力

*本文開放合作夥伴轉載,資料來源:《The Pragmatic Engineer》、《Fast Company》,首圖來源:Pexels