快手新模型 Kling 會審查政治敏感話題
中國北京的快手公司推出了一款功能強大的新型影片生成 AI 模型 Kling，但這個模型似乎會審查被中國政府視為政治敏感的話題。Kling 模型在今年稍早開放給有中國手機號碼的用戶使用，現在只要提供 Email 就能註冊使用。用戶可以輸入提示，生成 5 秒鐘的影片，這些 720p 影片大約需要一兩分鐘生成，而且還能模擬像是樹葉飄動和流水等等的物理效果。
中國政府要求 AI 模型回應符合「社會主義核心價值觀」
不過，如果你輸入「中國的民主」、「習近平走在路上」和「天安門廣場抗議」等主題，Kling 就不會乖乖聽話，它會直接給你一個不明確的錯誤訊息，拒絕生成影片。這種過濾似乎只發生在輸入提示的階段。舉例來說，只要提示裡面沒有提到習近平的名字，Kling 還是可以生成習近平肖像的動畫。
中國的嚴格政策恐阻礙 AI 發展
CAC 甚至提議建立一份黑名單，列出不能用來訓練 AI 模型的資料來源。想要送審的 AI 公司，必須準備好幾萬個問題，來測試他們的 AI 模型是不是只會給出「安全」的答案。
這些嚴格的政策可能會阻礙中國 AI 的發展。因為這樣一來，不只得花時間清除資料庫裡所有政治敏感的資訊，還得投入大量時間精力，在 AI 模型裡面建立意識形態的防火牆，但這些防火牆還是有可能會失效。結果出現了兩種 AI 模型：一種是被嚴格過濾的，另一種則是相對自由的。
＊本文開放合作夥伴轉載，資料來源：《TechCrunch》首圖來源：Unsplash。
