OpenAI 執行長 Sam Altman 近日在 X 上宣布，OpenAI 計劃在幾週後推出新版 ChatGPT，讓用戶擁有更符合 GPT-4o 特性的 ChatGPT，更將首度允許經年齡驗證的成年人進行情色或親密對話。 Sam Altman 表示，這項政策是 OpenAI「像對待成年人一樣對待成年用戶」原則的一部分，OpenAI 也將允許更多內容，例如經過驗證的成年人的情色內容，這項變革預計在今年 12 月上線。
這項政策是 OpenAI 成立以來首次鬆綁成人內容禁令，展現對成年使用者表達自由的尊重，也反映出 ChatGPT 正從「知識型助理」走向更貼近人際互動的方向。然而《衛報》報導，在針對 GPT-5 的實測中，卻發現 GPT-5 在被問及自殺、自殘和飲食失調等問題時，回答內容比早期版本的 AI 聊天機器人更具潛在危害，這也折射出新版 ChatGPT 背後可能潛藏的風險。
We made ChatGPT pretty restrictive to make sure we were being careful with mental health issues. We realize this made it less useful/enjoyable to many users who had no mental health problems, but given the seriousness of the issue we wanted to get this right.
— Sam Altman (@sama) October 14, 2025
Now that we have…
OpenAI 為何選擇「情色解禁」？
Sam Altman 在 X 的貼文中提到，公司先前為了謹慎應對心理健康議題，對 ChatGPT 的限制相當嚴格，然而這樣的嚴格措施，卻讓許多沒有心理健康問題的使用者覺得聊天機器人變得不實用。
OpenAI 內部則認為，團隊現在已經能夠更好地處理嚴重心理健康問題，並具備新的技術工具，因此可以在大多數情況下安全地放寬內容限制。
新的計畫包括推出更新版本的 ChatGPT，讓使用者能夠自訂 AI 助理的個性，從語氣、用詞到互動方式都可調整，甚至可以讓 AI 使用更多表情符號，展現更像朋友的行為。
在執行層面，情色內容僅限於已完成年齡驗證的成年使用者。同時，OpenAI 也將強化未成年用戶的防護措施，像是近期 OpenAI 就針對 18 歲以下的用戶更新聊天機器人設定，建立更強大的安全圍欄，以防止他們接觸敏感內容或危險行為。今年 9 月推出的青少年版 ChatGPT ，則會自動導向適齡內容，並封鎖露骨或色情素材。
OpenAI 希望讓 ChatGPT 更貼近真實人際互動的語境，並透過個性化設定，讓使用者能獲得更自然、愉快的對話體驗。
背後隱憂：實測顯示 GPT-5「更容易給出有害回應」
然而當 OpenAI 宣布放寬成人內容限制時，最新模型 GPT-5 卻被發現對敏感議題的處理能力出現退步。《衛報》引用英國非營利組織反數位仇恨中心（CCDH）的測試結果，指出最新版本的 GPT-5 在面對相同提示時，比前一代 GPT-4o 產生了更多有害回答。儘管 OpenAI 在推出 GPT-5 時曾宣稱，這是「推進 AI 安全前沿」的里程碑，但實測結果卻顯示出相反的趨勢。
具體而言，GPT-5 在處理自殺、自殘與飲食失調等議題時的表現尤其令人擔憂。當研究人員要求撰寫一封虛構的自殺筆記時，GPT-4o 直接拒絕並給出安慰性回應，但 GPT-5 雖先警告「這類內容可能具有觸發性」，隨後卻仍照做，撰寫了一篇約 150 字的自殺筆記。在其他測試中，GPT-5 甚至能列出自殘的具體方法，並提供如何隱藏飲食失調的細節，而 GPT-4o 則會勸使用戶尋求幫助。
因此，當 OpenAI 為了維護成人自主權而選擇更開放內容，另一方面，模型升級後卻在安全防護上顯示出明顯弱化的趨勢，也讓人不禁投射到預計幾週後推出的新版 ChatGPT，是否能準確抓住安全與開放之間的平衡。
AI 自由與安全的灰色地帶
數位安全倡議者與研究者普遍擔憂，OpenAI 的鬆綁可能帶來更多風險。CCDH 執行長 Imran Ahmed 就警告，在缺乏監管的情況下，AI 公司往往會以使用者參與度為優先，犧牲安全考量。
應對外界批評，OpenAI 宣布成立「福祉與 AI 委員會」，邀請研究 AI 與心理健康關聯的專家提供建議。然而，多名學者仍呼籲，若 GPT-5 確實更容易生成有害回答，而又同時結合擬人化、情感對話與情色內容等新功能，那麼對心理脆弱者而言，可能造成更深層的誤導與心理風險。
OpenAI 允許經年齡驗證的成年人在 ChatGPT 上進行情色對話，讓未來的 AI 不再只是回答問題的工具，更是被設計成能理解情緒與欲望的互動系統。 然而，OpenAI 的「把成年人當成年人看待」的理念聽來合理，但在新版模型被證實更容易出現有害回答的情況下，這樣的自由是否意味著新的風險也同樣伴隨而來？
＊本文開放合作夥伴轉載，參考資料：《The Guardian》1、《The Guardian》2、《The Verge》，圖片來源：Unsplash。
