隨著 AI 技術快速發展，AI 帶來的風險也日益受到關注。為此，麻省理工學院（MIT）研究團隊開發了一款 AI 風險資料庫，為 AI 監管提供更科學的依據。
多元廣泛的 AI 風險
我們常聽到 AI 可能帶來的資安威脅，但 AI 的風險範圍遠超過我們的想像。從考試評分到履歷篩選，AI 在各個領域的應用都可能產生意想不到的風險。例如，AI 可能導致歧視、傳播假訊息、掌控重要基礎建設等。
MIT AI 風險資料庫：全面且可擴展
MIT 的 AI 風險資料庫的 AI 風險多達 700 多個，MIT 也對這些風險進行了細緻的分類，允許研究人員、政策制定者和業界人士能夠更全面地了解 AI 風險的複雜度。MIT 研究員 Peter Slattery 表示：「這是一次嚴格管理和分析 AI 風險的嘗試。我們將這些風險納入一個可公開閱覽的、可擴展的、全面分類的風險資料庫，任何人都可以複製和使用，內容將持續更新。」
填補風險評估的空白
為了建立這個儲存庫，MIT 與昆士蘭大學、非營利生命未來研究所、魯汶大學和人工智慧新創公司 Harmony Intelligence 合作，搜尋學術資料庫，檢索了數千份與人工智慧風險評估相關的文件。
研究人員發現，第三方治理框架比其他框架更頻繁地提到某些風險。例如，超過 70% 的框架都涵蓋人工智慧的隱私和安全影響，而只有 44% 的框架涵蓋錯誤訊息。雖然超過 50% 的框架都討論了 AI 可能造成的歧視和歪曲事實，但只有 12% 的人談到了「資訊生態系統的污染」，也就是日益增加的 AI 生成垃圾郵件。
Slattery 表示，過往利用這些現有框架來制定風險政策者，可能就會錯過某些風險的存在。現在有了更全面的資料庫，有望提供一個更加統一的基礎和標準，加強 AI 監管的力度和精準度。
挑戰與展望
儘管 MIT 的 AI 風險資料庫具有重要意義，但要實現有效的 AI 監管，仍有許多挑戰需要克服。例如，如何對 AI 風險進行定量評估？如何平衡創新和安全？這些都是需要深入研究的問題。
＊本文開放合作夥伴轉載，資料來源：《TechCrunch》，首圖來源：Unsplash。
