Google 的 AI 聊天機器人 Gemini 曾因生成帶有種族偏見的圖像而引發爭議，並暫停了相關功能。 經過數月的調整，Google 宣稱已修復此問題，並為部分付費用戶重新啟用圖像生成功能。然而，這項功能仍存在一些限制，且修復過程也引發了人們對 AI 倫理和透明度的關注。
Imagen 3：更精準的圖像生成模型
為了改善圖像生成的品質和準確性，Google 開發了新的圖像生成模型 Imagen 3。這個模型透過更豐富的訓練資料、嚴格的數據過濾以及人工審核，有效降低了生成偏見圖像的可能性。此外，Google 還為 Imagen 3 導入了 SynthID 技術，為生成的圖像添加不可見的水印，以識別深度偽造圖像。
Gems 功能：AI 成為你的專屬助手
除了圖像生成，Google 還推出了 Gems 功能，讓 AI 能夠扮演不同角色，如學習教練、職業指南等，協助用戶完成各種任務。用戶可以自定義 Gems 的功能，將之設計為個人專屬的 AI 助手。
存在隱憂：透明度不足與偏見風險
儘管 Google 在改善 Gemini 的圖像生成能力方面取得了進展，但仍存在一些隱憂。首先，Google 對於訓練數據的細節披露不足，引發了外界對於模型偏見的擔憂。其次，雖然 SynthID技術可以識別深度偽造圖像，但效果仍有待進一步驗證。
功能限制與未來展望
目前，Gemini的圖像生成功能僅限於部分付費用戶，且僅支援英文。Google 表示，未來將逐步擴大測試範圍。此外，Google 暫不開放用戶分享自訂的 Gems。
＊本文開放合作夥伴轉載，資料來源：《TechCrunch》，首圖來源：Google。
