Slack AI 作為一款功能強大的 AI 助理，能為使用者提供諸多便利，例如總結長對話、回答問題等。然而，近期卻爆出一個嚴重的安全漏洞：「提示注入」（prompt injection，是將文字提示輸入 LLM 系統，以觸發意外或未經授權的操作）。這意味著駭客可以透過巧妙設計的提示，誘使 Slack AI 從私人頻道中提取敏感資訊，例如 API 金鑰等。
提示注入：AI 的軟肋
生成式 AI 模型仰賴使用者提供的提示來生成回應。提示注入攻擊就是利用這個機制，透過修改系統提示，讓 AI 模型產生不符合預期的輸出。在 Slack AI 的案例中，駭客可以利用此漏洞，讓 AI 從公共頻道中搜尋包含關鍵字的訊息，並將這些訊息呈現給使用者，進而達到竊取敏感資訊的目的。
Slack 的回應與資安專家的擔憂
面對這個安全漏洞，Slack 的回應是：工作區的所有成員都可以搜索和查看發佈到公共頻道的消息。然而，安全公司 PromptArmor 認為，Slack 對於提示注入的風險認識不足。他們指出，Slack 允許 AI 訪問私人頻道和檔案，這無疑增加了系統被攻擊的風險。
潛在的危害與防範措施
Slack AI 的這個漏洞可能導致嚴重的後果，例如企業機密外洩、個人資料被盜等。為了降低風險，使用者可以採取以下措施：限制 Slack AI 的訪問權限： 避免讓 Slack AI 訪問包含敏感資訊的頻道或檔案；定期檢查 Slack AI 的設定： 確保 AI 的設定符合安全要求；提高對釣魚攻擊的警惕： 不要輕易點擊來自不明來源的連結或下載不明檔案。
＊本文開放合作夥伴轉載，資料來源：《The Register》，首圖來源：Unsplash。
