記憶體為中心的人工智能晶片開發商 SK hynix 與 TetraMem 展示了一款新型記憶體中心處理器，該處理器能夠在記憶體內部直接進行人工智能計算，旨在減少能源使用並降低因數據在處理器與記憶體之間傳輸而造成的瓶頸。兩家公司宣佈完成了一項以類比內存計算（A-IMC）系統單晶片（SoC）為中心的技術合作。其研究顯示，記憶體可以承擔部分計算工作負載，而不僅僅是儲存數據。
該原型使用基於記憶阻變器的內存計算來高效執行深度卷積，這是一種在許多人工智能推斷模型中使用的關鍵操作。通過在存儲人工智能模型權重的地方處理數據，這種架構減少了在記憶體與處理器之間重複傳輸信息的需求。
該方法針對現代人工智能硬件面臨的最大挑戰之一。隨著人工智能模型從數十億參數增長到數萬億參數，數據移動已成為計算系統內部的主要能耗、延遲及熱量生成來源。傳統的人工智能晶片不斷在計算單元和記憶體之間移動數據，消耗時間與能量。類比內存計算改變了這一工作流程，通過在記憶體陣列內部直接執行矩陣計算來減少不必要的數據傳輸。此次聯合專案結合了 TetraMem 的類比內存計算平台與 SK hynix 在先進記憶體技術方面的專業知識。
兩家公司還將新興記憶體設備、電路設計、人工智能架構、軟件及系統優化整合為一個單一半導體平台。
SK hynix 與 TetraMem 的合作推動人工智能計算技術的發展
「我們很榮幸能與 SK hynix 一同慶祝這一重要里程碑。」TetraMem 的首席執行官及共同創辦人 Glenn Ge 表示。「這一成就展示了在半導體生態系統中緊密合作所能達成的成果。」根據這些公司的説法，這項工作超越了類比內存計算概念的驗證，展示了一個實用的人工智能系統單晶片，該晶片整合了多層硬件及軟件工程。隨著人工智能工作負載的增加，對晶片製造商提高能效而不犧牲性能的壓力也日益增加。
記憶體為中心的計算已成為一種可能的解決方案，因為數據移動往往消耗的能量超過了計算本身。
「我們相信記憶體為中心的計算與類比內存計算將成為解決未來人工智能能效與熱量挑戰的日益重要技術，我們期待與 SK hynix 繼續合作。」Ge 表示。該專案對 SK hynix 來説是一個戰略性舉措，超越了傳統記憶體製造，向先進計算架構邁進。儘管該公司是動態隨機存取記憶體（DRAM）及高帶寬記憶體（HBM）的主要生產商，這些記憶體用於標準人工智能系統，但該原型向神經形態方法轉變。
「我們很高興看到這次合作的成功結果及來自《先進智能系統》的認可。」SK hynix 副總裁 Soo Gil Kim 表示。「這個專案展示了探索創新記憶體技術及未來人工智能系統新計算架構的價值。」
該研究論文也被選為期刊的封面文章，突顯了其對下一代人工智能硬件的技術貢獻。這兩家公司表示，計劃繼續在記憶體技術、計算架構及系統整合方面進行合作，以支持未來的人工智能基礎設施。該研究《基於記憶阻變器的內存計算 SoC 及其高效的深度卷積》已發表於《先進智能系統》上。
項目 規格 處理器/SoC 類比內存計算（A-IMC）系統單晶片 記憶體技術 基於記憶阻變器的內存計算