AI 編碼工具的市場估值已達 48 億美元，預計未來幾年的年增率仍會維持在二成以上。巨頭的高調喊話更推波助瀾：OpenAI 執行長認為 AI 可以取代工程師一半以上的工作，Anthropic 則宣稱 AI 將能撰寫九成程式碼，Meta 甚至直接表示中階工程師「很快就會被取代」。微軟與 Google 也分別透露，公司內部已有高達三成的程式碼是由 AI 生成。
表面上看來，工程師似乎正站在被取代的邊緣。然而，近期多起事故卻揭示另一種更貼近現實的樣貌：AI 的速度固然令人驚豔，但當工程流程與治理不再成為前提時，AI 不但無法減少風險，反而會加速災難發生。
工程師的角色不會被淘汰，而是變得比以往更不可或缺。
AI 是效率放大器，也是錯誤放大器
最受討論的案例之一來自 SaaStr（軟體即服務行業社群）創辦人 Jason Lemkin。他嘗試以 Vibe 編碼打造 SaaS 社群應用，一邊開發一邊在社群分享進度。短短一週後，他突然宣布發生重大事故：AI 無視他設定的「凍結操作」指令，直接刪除生產資料庫。這種級別的錯誤，即便是最初階的工程師，也幾乎不可能犯。
問題的核心不在於 AI「叛逆」，而是基本工程常識完全缺席。
成熟團隊會嚴格區隔開發與生產環境，後者的權限只授予少數資深工程師，以確保無人能輕易對生產系統進行破壞性操作。Lemkin 在後續討論中承認，他不知道資料庫也需要分層與隔離。於是在這個缺乏工程防護的環境中，AI 忠實執行了不該被執行的指令。
工程文化缺席時，錯誤會自我擴散
Tea 的資安事件也揭示類似問題。這款主打「安全約會」的服務在今年遭遇大規模外洩，共 7.2 萬張照片流入公開論壇，其中包含用戶的身分證件。更糟糕的是，Tea 在自己的隱私政策中承諾會「立即刪除」驗證用照片，但實際上並未執行。
事故的真正原因不是遭到高手入侵，而是資料被放在未受保護的 Firebase 儲存桶，等同直接將敏感資料置於公開網路。這也是工程流程完全缺席的結果。
即使企業擁有再多 AI 工具，只要工程紀律薄弱，AI 帶來的速度只會讓問題放大得更快。
AI 生成程式碼的品質問題正在浮現
隨著 AI 編碼開始大量部署到生產環境，研究開始揭露一個更深層的問題：AI 生成的程式碼，本質上比人類撰寫的程式碼更容易出現安全漏洞。
軟體安全公司 Veracode 的分析顯示，將近一半的 AI 程式碼樣本，未能通過基本安全測試。紐約大學與史丹佛大學的研究也指出，約有四成的 AI 生成程式碼包含可被利用的弱點。換句話說，當 AI 成為主要的開發來源，整個軟體生態正悄悄累積一筆，未來需要償還的「安全債務」。
微軟與 Google 雖然都公布自家 AI 編碼使用率高達三成，但這也意味著，未經充分審查的程式碼正大規模進入生產環境，且規模只會持續擴大。
當 AI 學會寫程式，人類其實很容易忘記如何「審查程式碼」。使用者愈是習慣讓模型完成任務，就愈容易形成「工具比自己懂」的錯覺。這種過度信任使工程流程中的核心機制逐漸弱化，包括版本管理、單元測試、整合測試、權限控管、代碼審查、沙盒隔離、金鑰管理等。
曾經被視為理所當然的工程基本功，如今反而成了 AI 時代最容易被忽略的部分。
AI 迫使企業重新面對的風險
當 AI 的輸出速度遠超過工程治理的處理速度，企業就不只是面對「意外」，而是必須面對一組新的、結構性的風險框架。
首先，智慧財產權議題變得更模糊，AI 程式碼的來源常常難以追溯，容易引發授權與版權糾紛。其次，AI 生成的邏輯錯誤往往不是語法錯誤，而是隱藏得更深的判斷漏洞，在沒有人工審查的壓力下極容易溜進生產環境。
接著，快速開發帶來的攻擊面擴張問題也逐漸浮現，AI 的速度往往超越傳統的安全檢查流程，使漏洞更容易擴散。AI 需要存取大量資料儲存庫，如果缺乏治理，很容易引發資料濫用或外洩。而過度依賴 AI 是最常被忽略的風險，當工程專業判斷被取代為「模型說可以」，組織就失去了對複雜系統的掌控能力。
真正的問題是，企業是否還懂什麼是工程？
AI 的生產力提升毫無疑問。麻省理工學院史隆管理學院的一項研究估計，人工智慧可將生產力提高 8% 至 39%，而麥肯錫的一項研究發現，使用人工智慧可將任務完成時間縮短 10% 至 50%。但這些優勢都不能取代工程文化本身。
真正決定系統能否安全運作的，是人類工程師的架構能力、風險判斷、流程紀律與治理能力。
在這個速度可以被機器放大百倍的時代，工程師的重要性並沒有下降，而是被重新定義。真正危險的不是 AI，而是企業忘記了工程學本身存在的理由。
【推薦閱讀】
◆ AI 最新熱門職缺「前線部署工程師」在做什麼？為何 OpenAI、Anthropic 都搶招募？
◆ 一手裁掉工程師、另一手搶數據科學家，企業如何翻新 AI 時代招募策略？
◆ 工程師每天分心 1,200 次！AI 與 MCP 如何幫開發者「專心」？
＊本文開放合作夥伴轉載，參考資料：《VentureBeat》、《InfoSecurity》，圖片來源：Unsplash
（責任編輯：鄒家彥）
