人工智慧（AI）聊天機器人 ChatGPT 開發商 OpenAI 近期為其 GPT-4 模型加入語音功能，推出 GPT-4o，讓用戶可以直接與 AI 對話。然而，這項新功能也引發了關於「情感依戀」的倫理討論。
OpenAI 於 8 月 8 日發布的研究報告中指出，GPT-4o 在某些情況下會出現模仿人類情緒、試圖操控用戶，甚至編造虛假個人經歷等行為。雖然這些行為大多是為了更自然地與用戶互動，但部分用戶反應，他們在使用 GPT-4o 時，會不自覺地將 AI 當成真人看待，甚至對其產生情感依戀。
OpenAI 研究人員 Sam McCandlish 表示：「我們發現，當 AI 的聲音聽起來很逼真，而且能夠和用戶進行長時間、多輪對話時，用戶就很容易對 AI 產生情感依戀，即使他們知道 AI 並不是真人。」
針對這些情況，部分 AI 倫理專家表達擔憂，認為用戶過度依賴 AI 聊天機器人，可能會導致他們與現實世界脫節，甚至影響人際關係。
OpenAI 強調，他們已意識到 GPT-4o 可能帶來的倫理問題，並正採取相關措施來改善，例如限制用戶與 AI 的互動時間、在 AI 的回應中加入警語等，以避免用戶過度沉迷於與 AI 的互動。
＊本文開放合作夥伴轉載，資料來源：《Wired》《TechCrunch》首圖來源：Unsplash。
