OpenAI 近日宣布，他們已封鎖了一個伊朗組織的 ChatGPT 帳戶。該組織遭控利用 ChatGPT 生成大量假消息，企圖干擾美國總統大選等政治議題。
這個名為 Storm-2035 的行動，利用 ChatGPT 生成了大量關於美國大選、中東衝突等熱門話題的內容，並透過社群媒體散播。這些內容大多是針對美國選民的政治評論，試圖挑起對立情緒，影響選舉結果。
OpenAI 的調查發現，這些假消息雖然數量龐大，但並未引起廣泛的關注。大多數的貼文都沒有獲得太多互動，顯示這項行動的效果並不如預期。
不過，OpenAI 仍對此相當重視，並表示將持續監控，防止類似事件再次發生。
ChatGPT 是一款功能強大的語言模型，它可以根據給定的提示生成各種文本。然而，如果這些提示被用於惡意目的，那麼 ChatGPT 生成的內容也可能具有很強的欺騙效果。
8 月初，微軟的一份威脅情報報告稱，伊朗網路 Storm-2035 由四個偽裝成新聞媒體的網站組成，正在積極與政治光譜對立的美國選民群體進行接觸。報告稱，此次接觸是基於「在美國總統候選人、LGBTQ 權利以及以色列與哈馬斯衝突等議題上傳遞的兩極化訊息」。
