隨著 AI 技術的發展，AI 色情生成器正變得越來越先進，這也帶來了更多的道德和法律問題。以 Unstable Diffusion 為例，這個平台使用 AI 模型根據用戶提示生成成人內容，擁有超過 35 萬用戶，每天生成超過 50 萬張圖片。儘管面臨來自 Kickstarter 和 Patreon 的封禁，Unstable Diffusion 仍然成功從捐助者那裡籌集了超過 26000 美元，並啟動了一個全功能網站。
內容審查與道德問題
Unstable Diffusion 強調個性化設置，用戶可以調整生成圖片的色彩和藝術風格，如數位藝術、照片、動漫等。平台聲稱已經建立了一個強大的內容審查系統，以避免法律問題，禁止生成涉及名人深偽圖像和未成年人的色情內容。然而，該平台的審查系統仍然存在漏洞，有時會生成違反政策的內容。
AI 色情生成器也引發了有關藝術家權利的爭議。許多 AI 模型是在未經創作者同意的情況下，使用網路上的藝術作品進行訓練。這導致許多藝術家對 AI 模仿其風格卻未給予適當的信用和報酬提出異議，甚至提起訴訟。
此外，儘管 Unstable Diffusion 希望轉型為軟體即服務（SaaS）業務，提供一個可以自由表達藝術的平台，但由於其成人內容和涉及藝術家同意和補償的問題，該平台難以獲得傳統風險投資。
隨著 AI 色情生成器進入主流市場，相關的倫理問題和現實影響越來越多，包括非自願的深偽圖像和涉及兒童的非法內容。許多州已經制定法律來對抗深偽色情，國會也在努力將非自願生成的 AI 色情內容定為非法。
在這樣的背景下，Unstable Diffusion 和其他類似平台面臨著如何在推動技術進步與確保道德和法律合規之間取得平衡的挑戰。這些問題不僅影響到平台的未來發展，也對整個 AI 技術的應用提出了嚴峻的考驗。
＊本文開放合作夥伴轉載，資料來源：《TechCrunch》首圖來源：《Unstable Diffusion》
