當 AI 技術的發展速度超越了人類的預期時，它帶來的不僅僅是便利和創新，還有一些潛在風險。近期，Google DeepMind 聯合創始人 Mustafa Suleyman 對外發出警告，指出 AI 技術在某些情境下，可能被用於製造合成病毒，進一步引發大規模流行病。
在專門訪問領域專家的《The Diary of a CEO》 Podcast 節目中，Suleyman 進一步解釋了他的擔憂。他提到，當 AI 技術落入有心人士手中，他們可能會利用這項技術來生成病原體，並將其用於實際實驗中。這種合成的流行病，不僅具有高度傳染性，還可能對人類造成致命威脅。如果這種情況真的發生，我們將面臨一個前所未有的生存危機。
AI 監管是不是也要限制「設計病原體」？ Google 前高層這樣表示
雖近期於美國舉行的 AI 監管會議（又稱 AI 論壇）上，科技巨頭領袖與參議員並未涉及到 AI 引發的「生化危機」這一議題，但類似問題卻已被行業人士跟專家提出。
Google DeepMind 聯合創始人 Mustafa Suleyman 在 Podcast 訪談中提到，我們應該對先進的 AI 技術和運行此類模型的產品進行嚴格限制，就像我們對待炭疽病那樣。Suleyman 再三強調，考慮到這類病原體在過去對人類造成巨大傷害，我們更應該謹慎地對待這些技術，並制定相應的使用限制。
（按：炭疽為一種由炭疽桿菌引起的急性傳染病，初時症狀與一般流感病毒類似，隨著感染時間增長會迅速惡化，最終導致嚴重呼吸困難與休克，因此多數時候不易被患者本人或家人發現。）
掌握 AI 趨勢 & 活動資訊一點都不難！
訂閱電子報，每週四一起《AI TOgether》
感謝訂閱！隨時注意信箱的最新資訊
AI 引發病毒危機不是為危言聳聽，連大學生都有可能做到
根據一項由麻省理工學院發起的研究中，發現 AI 生成病原體解答可能連非專業學者都有機會引發大規模流行病。研究人員要求大學生測試 AI 聊天機器人，震驚的是，聊天機器人在短短一小時內就提出了四種潛在的大流行病原體。更令人擔憂的是，它甚至建議學生使用天花病毒來散播，其主要理由是目前沒有天花疫苗，因此傳播速度將會非常迅速。
隨著開源大型語言模型的興起，這種技術濫用風險也可能隨之增加。因為這些模型可以在完全沒有人為監督的情況下運作，並提供各種專業知識。事實上，有些專家認為，由 AI 輔助的生化攻擊風險甚至超過了核武器。因為病原體資料可以輕易從 AI 獲得，而核武器原材料則受到嚴格監控。這些觀點與 Suleyman 的擔憂相呼應。
AI 技術如同水一般，它可以載舟，也可以覆舟。新工具出現並不意味著它本身有問題，真正挑戰在於人類該如何善用這些工具。提醒我們在追求技術進步同時，也要確保這些技術不會被濫用，以免因病毒再度爆發，引發難以想像的局面，這下除了有可能要「封城」，更有機會對人類造成嚴重的生命威脅。
＊本文開放合作夥伴轉載，資料來源：《Independent》、《Axios》、《Insider》、《Science.org》。首圖來源：取自《The Diary of a CEO》 Youtube 。
