馬斯克（Elon Musk）旗下的人工智慧公司 xAI，近日推出 Grok-2 和 Grok-2 mini 兩款全新 AI 模型與聊天機器人，它們不僅擁有升級版的文字聊天性能，甚至還支援生成 AI 圖片，但對關鍵字毫無設限的結果，就是產出一堆令人啼笑皆非的虛假 AI 影像。
xAI 所推出的 Grok-2 聊天機器人，全新導入了由 Black Forest Lab 所開發的 Flux 1 AI 圖片生成模型，並且允許使用者直接將 AI 所生成的照片，直接發表到 X 社群平台上；但是，官方似乎沒有為這項功能設下任何限制，導致許多瘋狂的 AI 圖開始在社交網路上氾濫成災。
舉例來說，有網友開始生成美國總統參選人川普、前美國總統歐巴馬等知名政治人物，隨意拿起槍枝掃射群眾，或者服用非法毒品的擬真照片；甚至還有另一名總統參選人賀錦麗懷孕的 AI 影像；由於這些 AI 圖所呈現的真實度極高，外界開始擔心這將加劇美國大選期間的假消息傳播。
馬斯克所擁有的 xAI 於聲明中表示，他們很高興能夠發表 Grok-2 的早期預覽版，給予使用者親身體驗；Grok-2 比起 Grok-1.5 跨出了重要的一步，無論是在聊天、程式碼撰寫或邏輯推理方面，全都具備最為前沿的功能。
至於另一款 AI 聊天機器人 Grok-2 mini，目前定位則是 Grok-2「小而強大的兄弟」，目標是在反應速度和答案品質之間得到平衡。
xAI 未正面回答 AI 保護措施是否失效
只不過，即便 xAI 不斷強調 Grok-2 的強大與優勢，但面對媒體追問 Grok-2 的 AI 圖像生成功能是否設計了濫用護欄，或者保護限制是否失效等問題時，xAI 卻從來沒有給出正面回答。
同時國外媒體也發現，由 Grok-2 所生成的 AI 圖像，似乎也沒有透過任何形式主動進行標記，明確指出它們是由人工智慧所生成，即便 X 曾經承諾過，他們會於平台上提出相關解決方案。
目前 xAI 僅表示，公司計劃為 X 平台的各項 AI 功能，陸續改採 Grok-2 和 Grok-2 mini 進行部署，包含改進後的搜尋引擎、貼文分析和留言回覆等等。
Grok-2 和 Grok-2 mini 目前只在 X 上提供測試版，存取權限仍限於 Premium 和 Premium Plus 訂閱者，這兩種模型預期會在本月稍晚，透過 AI 開發人員的企業 API 另外提供。
【推薦閱讀】
◆ 馬斯克硬凹！轉發賀錦麗說拜登老年癡呆 AI 假影片，還扯詼諧仿作完全合法
＊本文開放合作夥伴轉載，資料來源：《The Verge》、《TechCrunch》。首圖來源：X
