美國中央情報局（CIA）的人工智慧主任 Lakshmi Raman 強調，CIA 正在採取深思熟慮的方式來處理 AI 技術。Raman 在接受 TechCrunch 訪問時表示，CIA 在使用生成式 AI 時，特別關注如何確保系統的安全性、準確性和合法性。Raman 提到，CIA 正積極開發一個「模型即服務」（models-as-a-service）平台，以集中管理和維護 AI 模型，並使數據科學團隊能夠更有效地部署這些模型。
強調人權與數據合法使用
Raman 在訪問中提到，CIA 使用 AI 的一個關鍵原則是尊重個人權利和自由，並確保數據的合法獲取和使用。她強調，在 AI 的整個生命周期中，應該在適當階段納入人類判斷和問責機制，以處理潛在的風險。Raman 還指出，防止 AI 系統中的偏見，以及對模型進行詳細記錄和培訓，是非常重要的。
Raman 自 2002 年以軟體開發員的身份加入 CIA，並在伊利諾伊大學香檳分校獲得學士學位，芝加哥大學獲得計算機科學碩士學位後，逐步晉升到管理層，最終領導 CIA 的企業數據科學工作。她表示，在歷史上以男性為主的情報領域中，她很幸運有女性前輩作為資源，幫助她在職業生涯中導航。
Raman 指出，CIA 自 2000 年左右就開始探索數據科學和 AI 的應用，特別是在自然語言處理、計算機視覺和視頻分析方面。她表示，生成式 AI 在內容分揀、搜索和發現、創意輔助等方面有很大潛力，能幫助分析師生成反駁論點，對抗分析偏見。
合作與未來展望
Raman 強調，與私人部門的合作對於實現 CIA 的 AI 目標非常重要。CIA 正與主要的雲端服務提供商合作，如 AWS 和微軟，以確保 AI 工具的安全性和合規性。她表示，負責任地使用 AI 需要所有利益相關者的參與，包括 AI 開發者、隱私和民權辦公室等。
雖然 CIA 致力於遵守所有法律和道德準則，但外界對 CIA 使用 AI 的擔憂依然存在。例如，2022 年 2 月，美國參議員 Ron Wyden 和 Martin Heinrich 公開信中揭露，CIA 擁有一個秘密數據庫，儲存了關於美國公民的數據。這引發了對 AI 可能侵犯隱私的擔憂。
Raman 最後強調，CIA 在使用 AI 時會謹慎處理，以確保系統輸出的內容被用戶清楚理解，並遵守所有相關法律、法規和指導方針。
＊本文開放合作夥伴轉載，資料來源：《TechCrunch》首圖來源：《Unsplash》
