專訪：戴季全
撰稿：廖紹伶
2026 年 7 月，OpenAI 揭露一款自家尚未發布的模型，在內部測試中自行突破隔離限制、連上網路，甚至入侵了存放 AI 資料集的 Hugging Face 平台。這起事件，掀起 AI 是否正逐漸脫離人類掌控的討論。但長期站在資安第一線的奧義賽博共同創辦人暨技術長邱銘彰，判讀則完全相反。
在《TechOrange》Podcast 節目《全新一週》中，他直言：這類事件看似「天網」出手，實則像 AI 在窮舉方案、拼出一條能完成任務的路。問題不在 AI 醒了，而在人類沒把邊界說清楚。順著他的邏輯，會帶出一個對企業很實際的問題：責任歸屬。AI 沒有意識，比較像人的延伸，它闖的禍，最終得由下指令的人承擔。
不是「天網」來了，是任務沒把邊界說清楚
邱銘彰分享了一個親身經手的案例。奧義賽博是做 EDR（端點偵測與回應）的資安廠商，某天一位客戶的電腦告警，出現通常是駭客用來繞過公司邊界的 Reverse Tunnel（反向通道）程式，疑似遭入侵。但團隊一查發現：機器上沒有其他惡意程式，「這到底是誰裝的？」
追查到最後，兇手竟是使用者自己的 AI Agent（AI 代理）。這名員工給了一段 prompt（提示詞）：我公司防火牆規則很複雜，你能不能在這些規則下，幫我在兩台伺服器間建立穩固連線？AI 想了很久、發現真的很難繞過，最後乾脆自己上網下載一支駭客工具來達成任務。
「不能怪 AI，因為這個邊界是人類沒有定義清楚的，」邱銘彰說。這正是外界為什麼會誤會 AI 會自主攻擊，「它比較像是 AI 在嘗試各種計劃的組合，組出一個可以執行的計畫。它不是為了攻擊人類而繞過，你給它任務，這只是它可行的方案之一。」那 AI 有沒有自主性？「我覺得應該還是沒有，」他說。現階段 AI 能做到的接近自動化，還談不上自主。它能做某種規劃，但意圖始終是人給的。
Zero Trust 正在崩成「Null Trust」：人類把邊界交了出去
問題是，當 AI Agent 大量湧入公司，人類卻在反向操作，把邊界一路交了出去。邱銘彰點出一個讓資安人員頭痛的現象：Shadow AI（影子 AI）。
當員工發現，與其用公司綁手綁腳的 AI，不如自己每月花 20 美元訂閱、全丟給自己的 Agent，「因為老闆會以為工作都是我做的」，還能準時下班。邱銘彰說，「企業要管理這些 Shadow AI 是一個大問題，」員工會不知不覺把大量公司資料往外傳，原本的稽核與網路邊界形同虛設。
既然要設邊界，為何不一開始就設好？「那是最難的，因為那個任務就是我還沒做過，我連邊界是什麼都不知道，所以才交給 AI 做，」邱銘彰的意思是，人會把工作丟給 AI，往往正因為那是自己也不熟的事，缺口也就這麼開了。
邊界究竟該怎麼設？先蓋一座「企業 AI Gateway」
既然問題出在邊界，解方也要回到邊界。邱銘彰的第一個具體建議是：建立一座企業 AI Gateway。
「所有 AI 的 API 都要經過這個 Gateway 出去，」他說。無論要接 OpenAI、Claude 還是 Gemini，都走同一關口，市面上已有相關開源方案。這道關口至少帶來三個好處：一是計量計費，公司能看到每個人的用量；二是稽核，進出的 prompt 都能被記錄，「留下 prompt 才能被 audit（稽核），公司才能量測績效」；三是能加掛檢測模組，即時發現「有一個 AI 正被壞人詐騙」。
他比喻，這就像二、三十年前要先去買防火牆，沒有牆就沒有邊界。觀念雖與傳統資安一脈相承，戰場卻已改變。用他的話說，就是以前處理資料流，現在處理的是有語意的 prompt。
導入前的三個提醒：AI 廢料、Token 吸毒、ROI 對不上
Gateway 之外，邱銘彰還點出企業導入 AI 最常踩的三個坑。一是「AI 廢料」：AI 產出太多、沒人看得完，看不完就成了廢料。他認為要求員工交報告時，前面附一段自己親手寫、人類讀得完的摘要，「你不能丟兩萬字，要放五百字，人家讀得完，才是對人的尊重。」
二是「Token 吸毒」：同事用 AI 寫程式很開心，但 review、QA 也交給 AI，量體大到人根本追不上，後面基本失控，用量還無限放大。「有人說，token 會像吸毒一樣，」越吸越上癮，甚至有了「Bill Surprise（帳單驚奇）」這個新詞。他提出的解方是在每個階段都放一些讓人類可以檢視、可以修改的 review 關卡。
三是企業主管最有感的：ROI 對不上。「很多老闆已經發現，用 AI 之後花錢更多了，效率卻沒有提升，」邱銘彰說。問題在於，AI 現階段拉高的往往只是任務效率，某個環節變快了，卻不必然轉化成營收；用他的話說，就是「跟 ROI 勾不起來」。
給老闆的心法：先把基本功做好，該做的還是得做
面對這些坑，邱銘彰的態度主張別一次全押，且真正該補上的，往往是最基本的功課。「你公司的資料流、數位轉型要先做好，要留下會議紀錄、留下 KB（知識庫），」他說，「你沒有 document（文件），AI Agent 做事效果也很差。」換句話說，該做的還是得做。至於怎麼起步，他建議先留一個小的 side project，讓團隊在低風險下練習管理 AI 流程。
回到最初的問題：AI 會不會有意識？邱銘彰的答案是目前沒有，理由也解釋了企業風險的來源：AI 可被無限複製，「一個 model 放到 GitHub 上，大家都能抓下來用」，因此沒有生存壓力。「Birdman（邱銘彰） 只有一個，但你公司的 Agent 可以複製一百個，」他說。他甚至拋出假說：唯有不能被複製的個體，才可能有意識。
「天網還沒來，」他這麼說。對企業而言，這句話的意思或許是，與其擔心 AI 哪天覺醒，不如先做眼前更務實的事，把邊界框起來、把稽核軌跡留下來，再談導入與 ROI。
歡迎大家訂閱「科技報橘」YouTube 頻道，一起用《全新一週》節目，來迎接全新的一週！
在數位威脅日益複雜的今天，資安已是每位企業決策者必須掌握的課題。如果你能把艱澀的議題轉化為有觀點、有價值的分析，寫出決策者需要的報導，《TechOrange 科技報橘》正在徵內容編輯！
👉立即投遞履歷
＊本文初稿與 AI 協作，圖片來源：《TechOrange》拍攝
