有「AI 教父」之稱、去年獲得諾貝爾物理學獎的電腦科學家 Geoffrey E. Hinton，雖然相信 AI 將改變教育和醫學，並可能解決氣候變遷問題，但他對 AI 的快速發展也感到越來越擔憂。Hinton 近期接受外媒《CBS》採訪，除了提到 AI 帶來的風險，也強調安全開發 AI 的重要性。
AI 代理時代來臨，Hinton：AGI 更可能在 10 年內出現
Hinton 指出，過去 2 年來，AI 的發展速度比他預期得還快，尤其是具備行動能力的「AI 代理（Agent）」出現，比起只能回答問題的 AI 更具有危險性。針對能理解或學習人類能做的任何任務的 AGI（Artificial General Intelligence，通用人工智慧），Hinton 仍保持原先預測，認為從現在起大約 4 到 19 年內，有很高的機率會實現 AGI。但他補充，相比兩年前，他現在認為「10 年內達成」的可能性變得更高了。
AI 末日論者認為，當 AI 變得比人類更聰明，最終可能會毀滅人類、接管世界。Hinton 同意大多數專家認為 AI 毀滅人類的可能性大於 1%、小於 99%，而他個人認為，AI 接管世界的機率約為 10% 到 20%。但 Hinton 也強調，即使 AI 不會接管世界，壞人也可能運用來做壞事，例如進行大規模監控、發展自主致命武器。那麼，該如何應對這些 AI 帶來的威脅？
該如何做好 AI 安全？Hinton 點名 Anthropic 表現相對佳
Hinton 的看法是，必須進行嚴肅的 AI 監管，進一步區分壞人如何利用 AI，以及 AI 本身失控的風險。針對後者，他表示，目前還不知道該如何有效應對，但必須努力嘗試。因此，他呼籲大眾向政府施壓，要求 AI 公司更安全地開發 AI。
「更安全地開發」意味著投入更多的資源於安全研究，Hinton 認為，AI 公司應該將至少三分一的運算資源用於 AI 安全研究，然而實際情況遠非如此，他對於許多科技公司的做法並不滿意。不過訪談中，他表示，Anthropic 是目前最關心 AI 安全的公司，但他也擔心，由於 Anthropic 資金來自大型企業，可能會被迫比預期更快地發布產品。
Hinton 也反對科技公司公開 AI 模型的權重。目前，Meta 已經發表權重，而 OpenAI 最近宣布即將發布權重，他表示，這些科技公司不該這麼做，因為這會消除網路犯罪份子使用 AI 的障礙──AI 模型的成本要數億美元，但有了權重，只要數百萬美元就進行微調（fine-tune）做任何事。
Hinton 在《CBS》的訪談中說明，他認為「開放大型 AI 模型的權重（weights）」和「傳統開源軟體（open source）」有本質上的不同。開源軟體是公開程式碼，大家可以查看、發現漏洞、修改、修正錯誤；開放權重則是直接把大型 AI 模型訓練好的「結果」（權重參數）釋出，但這些權重很少有人能看懂或檢查細節，反而被有心人士利用。
Hinton 警告，大家對於 AI 風險的認識仍然不足，「人們還沒有意識到、還沒有明白接下來會發生什麼。」
【推薦閱讀】
◆ 企業導入 AI 為何須重新思考資安？「5 大情境」解析最常忽略的風險
＊本文部分初稿由 AI 生成，經《TechOrange》編撰，資料來源：《CBS》1、《CBS》2，首圖來源：Collision Conf，CC BY 2.0。
