由 Google 和亞馬遜投資的 AI 新創公司 Anthropic 於 10 月 22 日發布了兩款升級版 AI 模型，以及一項可自動執行電腦任務的新功能「電腦使用」（Computer Use），讓 AI 發展邁向 AI 代理人（AI agent）時代，但也引發了安全性的疑慮。
電腦使用功能：自動執行電腦任務，但仍有錯誤率
Anthropic 首席科學家 Jared Kaplan 表示，新的「電腦使用」功能可以告訴 AI 「滑鼠要移到哪裡、要點擊哪裡、要輸入什麼」，讓 AI 能完成複雜的電腦任務，例如編寫網站程式碼、規劃行程等。
目前，電腦使用功能僅限於新版 Claude 3.5 Sonnet 模型，並設有安全防護措施，以防止其被用於垃圾郵件、詐騙和與選舉相關的濫用行為。但 Kaplan 也坦言，AI 仍然會犯錯。
Anthropic 推出三種版本的 Claude AI 模型
Anthropic 為軟體開發人員提供三種版本的 Claude AI 模型：Sonnet、Haiku 和 Opus，價格依其效能而有所不同。這次更新的是中階模型 Sonnet 和最便宜的模型 Haiku。
AI 代理人市場競爭激烈，Anthropic 強調安全性
Anthropic 聲稱，新的 3.5 版 Sonnet 是一個更強大、更穩健的模型，在編碼任務上的表現甚至優於 OpenAI 的旗艦模型 GPT-4。儘管沒有經過明確的訓練，但升級後的 3.5 版 Sonnet 在遇到障礙時會自我修正並重試任務。
Anthropic 也表示，他們已採取措施來防止濫用，例如不在用戶的螢幕截圖和提示上訓練新的 3.5 版 Sonnet，並防止模型在訓練期間存取網路。
AI 代理人潛在風險：安全性和道德問題
儘管 Anthropic 強調安全性，但 AI 代理人仍存在潛在風險。研究顯示，即使沒有電腦使用功能的 AI 模型，也可能被誘導進行有害的「多步驟代理人行為」，例如從暗網訂購假護照。
Anthropic 承認，升級後的 3.5 版 Sonnet 在滾動和縮放等基本操作上仍有困難，並且可能會因為截取螢幕截圖的方式而錯過「短暫的」動作和通知。
Anthropic 推出更便宜的 Haiku 模型
除了升級版的 3.5 版 Sonnet 模型之外，Anthropic 也宣布將推出更新版的 Haiku 模型，這是其 Claude 系列中最便宜、效率最高的模型。預計在未來幾週內推出的 Claude 3.5 Haiku，在某些基準測試中的效能將與 Claude 3 Opus 相當，但成本和速度與 Claude 3 Haiku 相同。
Anthropic 的 AI 代理人技術展現了 AI 發展的潛力，但也提醒人們關注 AI 安全性和道德問題。
【下載 TechOrange 2024 資安趨勢報告】
穩定！精準！互信！找回企業與資安防護的互相信任
>> 免費下載報告看完整分析 <<
＊本文開放合作夥伴轉載，資料來源：《Reuters》、《TechCrunch》首圖來源：Unsplash。
