Anthropic 執行長 Dario Amodei 近日在社群媒體 X 發文，回應投資人 Gavin Baker 對其 AI 監管立場及 AI 風險溝通方式的質疑。他表示，監管並不必然導致 AI 權力集中，關鍵在於制度如何設計，公平、客觀的制度反而有機會制衡企業的影響力，讓權力更加分散。對於外界認為他過度強調 AI 風險、加深大眾對 AI 的負面印象，Dario Amodei 則表示，真正的問題並非訊息傳遞，而是AI 產業與大眾之間日益加深的信任危機。
Anthropic 執行長談 AI 監管：監管與權力分散並非二選一
談到 AI 監管，Dario Amodei 認為，「監管會讓權力集中在少數企業與政治人物手中」與「將 AI 權力廣泛分散」並非只能二選一。他以法院為例，指出正式的司法制度雖然有時給人刻板、菁英化的印象，但相較於群眾私刑，更能保障弱勢者的權利。理想情況下，制度應讓權力建立在規則與原則之上，而非掌握在特定個人手中，進一步分散權力。
這也是 Anthropic 在提出 AI 政策建議時特別謹慎的原因。Dario Amodei 舉例，Anthropic 支持的加州 SB53，以及公司對其態度較為保留的 SB1047，都將營收或模型訓練成本低於特定門檻的企業排除在規範之外。Anthropic 目前在美國 AI 標準與創新中心（Center for AI Standards and Innovation，CAISI）及白宮倡議的測試機制，也主張對前沿模型採取比非前沿模型更嚴格的測試標準。而針對「Pacing the Frontier」公開信，Dario Amodei 表示，Anthropic 所偏好的做法，是調節最先進模型的發展速度，同時不限制正在追趕的競爭者。
Dario Amodei 提及，AI 本身就具有容易造成權力集中的特性，原因與監管無關，而是來自擴展法則所帶來的影響。開放權重模型雖能在一定程度上分散權力，但仍不足以徹底解決問題，因為大量運算資源與晶片依然掌握在少數業者手中。因此，他認為 AI 監管應同時達成幾項目標：降低 AI 帶來的網路安全、生物安全及 AI 對齊風險，從制度上限制前沿 AI 公司的影響力，同時為開放權重模型保留發展空間，並針對這類模型自身的風險建立相應規範。
AI 將加速藥物研發？Anthropic 執行長從父親的遺憾到推動 FDA 改革
關於近期美國的 AI 監管走向，Dario Amodei 表示，據報川普政府正在採取的方向，包括要求前沿模型在部署前接受測試，以及在開放權重模型接近前沿水準時進行測試，他對此都相當支持。此外，他也支持 Google DeepMind 執行長 Demis Hassabis 提出類似 FINRA 機構的構想，推動模型安全審查。
對於外界認為他談論 AI 時過度強調風險，Dario Amodei 指出，自己其實一直試圖兼顧 AI 的風險與潛在效益，除了分別撰文討論兩者，也會在談論風險的公開訪談中，強調 AI 可能帶來的巨大效益，以及可以如何降低相關風險。他以自己撰寫的《Machines of Loving Grace》為例，指出當初動筆的原因，就是認為 AI 產業沒有充分展現這項技術可能為世界帶來的正面改變。文章大篇幅探討 AI 在醫療與生物學領域的潛力，包括在未來約 5 至 10 年內，治癒大多數人類疾病可能成為現實。
他近期發表的《Policy on the AI Exponential》則聚焦於如何調整 FDA 的審查流程，避免 AI 加速藥物研發後，大量新藥卡在漫長的監管程序。這對 Dario Amodei 而言並非抽象的政策問題：他的父親在直接作用型抗病毒藥物 sofosbuvir 問世前幾年因 C 型肝炎去世，而這款藥物後來能治癒約 95% 的患者。
Dario Amodei 也承認，目前大眾確實普遍對 AI 抱持負面看法，但他不認為這是自己或其他 AI 領導者持續警告 AI 風險所造成。他認為，背後更深層的原因是「信任危機」。長期以來，民眾對企業、政府及科技產業缺乏信任，往往懷疑這些機構又在想辦法損害自身利益；這種不信任已經累積數十年，而 AI 只是這個問題最新的一種表現。
因此，他認為，靠一場包裝亮眼、刻意強調 AI 正面形象的行銷活動，並不能真正扭轉大眾的態度。與其不斷宣稱「AI 將治癒癌症」，不如真的把癌症治好。Dario Amodei 認為，對 Anthropic 等 AI 公司來說，外界最值得提出的批評其實是：這些公司至今仍未兌現「讓世界受益」的重大承諾。他表示，這才是值得關注的問題，而不是把焦點放在 AI 產業該如何包裝訊息或改善行銷。
Anthropic 目前也正努力改善這一點，公司擴大在生物學與醫學領域的投入，希望未來幾年能取得重大成果，甚至在未來幾個月內看到初步進展。Dario Amodei 表示，等到公司真正做出成果，全世界都會知道；但在此之前，他不願做出空泛的承諾，也因此仍會選擇坦率談論 AI 真實存在的風險，以及應該如何降低這些風險。
＊本文開放合作夥伴轉載，資料來源：X·Dario Amodei、《Business Insider》，圖片來源：Anthropic。
