美國的一個研究團隊開發了一種技術，能將 AI 處理所需的能耗至少降低一千倍。這項技術由明尼蘇達大學雙城分校的工程研究團隊展示，他們在「自然」期刊的 npj Unconventional Computing 上發表了這項技術的同行評審論文。基本上，他們在現有的 AI 計算過程中創造了一條捷徑，大大減少了任務的能量需求。
CRAM 技術的突破與現有技術的區別
在目前的 AI 計算中，資料在處理單元（邏輯）和存儲單元（內存/存儲）之間不斷傳輸。據研究顯示，這種不斷的資訊來回傳輸消耗的能量可能是計算過程中能量消耗的 200 倍。為了解決這個問題，研究團隊轉向了計算隨機存取記憶體（CRAM）。他們開發的 CRAM 將高密度、可重構的自旋電子內存計算基質置於內存單元中，這與現有的如三星 PIM 技術有所不同，後者將處理計算單元（PCU）放置在內存核心內，但資料仍需在內存單元和 PCU 之間傳輸。
使用 CRAM 技術，資料不會離開內存，而是在計算機的內存陣列內進行處理。據研究團隊表示，這使運行 AI 計算應用程序的系統能量消耗比現代解決方案提高了「大約1000倍」。
CRAM 技術的效能測試和未來展望
其他示例表明，CRAM 技術有可能實現更大的節能和更快的處理速度。在一次測試中，執行 MNIST 手寫數字分類任務時，CRAM 比使用 16nm 技術節點的近內存處理系統節能 2500 倍，速度快 1700 倍。該任務用於訓練 AI 系統識別手寫。
這項工作的重要性不容忽視。最近的報告顯示，AI 工作負載已經消耗了幾乎與2021年整個賽普勒斯國家相同的電量。2023年的總能耗達到 4.3 GW，預計未來幾年將以26%到36%的速度增長。Arm 公司 CEO 最近表示，到 2030年，AI 可能會消耗美國所有能源的四分之一。
該論文的第一作者、明尼蘇達大學電氣與計算機工程系博士後研究員楊律（Yang Lv）及其研究團隊已經基於這項新技術申請了多項專利。他們計劃與半導體行業的領導者合作，包括明尼蘇達的公司，進行大規模展示並生產硬件，以提高 AI 功能並使其更高效。
＊本文開放合作夥伴轉載，資料來源：《Tom’s Hardware》首圖來源：《Unsplash》
