- Montage Technology 推出 CXL 3.2 記憶體擴展控制器以解決內存限制問題。
- 該控制器能夠擴展伺服器的內存池,提高人工智能基礎設施的靈活性。
- MXC 晶片支持最新的 CXL 3.2 規範,兼容多種部署格式。
- 未來數據中心可能將內存視為共享資源,提升資源利用效率。
隨著人工智能模型越來越大,以及雲端平台處理的數據量日益增加,一個日益突出的挑戰便是內存。當前的伺服器只能使用與其處理器物理連接的內存,這對其能夠高效處理的數據量形成了嚴格的限制。AMD 企業人工智能解決方案專家 Amit Goel 表示:「人工智能和數據中心工作負載正在推動系統架構的持續演變,使內存成為性能和擴展性的關鍵因素。」擴展內存往往意味著需要增加更多伺服器,這不僅增加成本,還可能導致珍貴資源未能得到有效利用。
Montage Technology 表示,該公司已在試產一款名為 Compute Express Link (CXL) 3.2 內存擴展控制器 (MXC) 晶片,朝著解決這一問題邁出了重要一步。
CXL 3.2 控制器的功能
簡單來説,該晶片充當處理器和外部內存之間的橋樑,允許伺服器利用更大的內存池,而不僅僅依賴安裝在 CPU 旁邊的內存。這將使未來的人工智能基礎設施更加靈活、具擴展性和高效。現代人工智能應用程序,包括大型語言模型和科學模擬,需求巨量快速內存來存儲數據及執行計算。儘管處理器能力不斷增強,內存容量卻因傳統伺服器設計將內存與 CPU 緊密耦合而無法跟上。」Intel 計算技術專家及首席 I/O 架構師 Debendra Das Sharma 表示,行業一直在通過 Compute Express Link (CXL)
來解決這一限制,CXL 是一個開放標準,允許處理器、內存和加速器通過高速 PCI Express 連接進行通信。
早期的 CXL 產品展示了內存擴展的潛力,但 Montage 的控制器是基於最新的 CXL 3.2 規範,增加了對更先進功能的支持,例如內存池和分層內存架構。MXC 晶片並不直接存儲數據,而是作為伺服器處理器與外部 DDR5 內存之間的智能橋樑。該控制器符合 CXL Type 3,支持 CXL.mem 和 CXL.io 協議,並兼容 PCIe 6.x,數據傳輸速度高達 64 GT/s(每秒十億次傳輸)。
它集成了兩個支持高達 8000 MT/s(每秒百萬次傳輸)內存的 DDR5 內存控制器。當處理器請求數據時,該晶片能夠立即將 CXL 內存請求轉換為 DDR5 指令,迅速檢索所需信息並實時返回。
提高數據中心兼容性
這使得伺服器能夠訪問比通常情況下可用的更大內存容量。該晶片還集成了 PCIe 6.x 和 DDR5 物理接口、雙 RISC-V 處理器子系統及管理接口。它支持多種部署格式,包括 PCIe 插卡(AICs)和企業及數據中心標準形狀因子(EDSFF)模塊,使內存擴展、資源池化及分層內存系統能夠更加高效地利用硬件,以應對高強度的工作負載。Montage 表示,該控制器已經集成到 Samsung 和 SK hynix 的下一代 CXL 產品中,並完成了初步的驗證。
該公司還設計了與基於 Intel Xeon 和 AMD EPYC 處理器的主要伺服器平台兼容的晶片,從而提高現有數據中心基礎設施的兼容性。Samsung Electronics 記憶體產品規劃副總裁 Jangseok Choi 表示:「CXL 3.2 MXC 與 DDR5 內存技術的結合為數據中心客户提供了一種平衡性能和容量的解決方案。」Montage 還提供了軟件開發工具包(SDK)和測試工具,以幫助硬件製造商評估兼容性並將控制器整合到未來產品中。
MXC 控制器仍在試產階段,因此其在現實世界中的影響將取決於更廣泛的行業採用及進一步的驗證。
未來內存管理的轉變
儘管如此,這突顯出計算領域日益增長的轉變,即未來人工智能的性能將不僅依賴於更快的處理器,還將依賴於更智能的內存管理方式。如果像 CXL 3.2 這樣的技術得到廣泛採用,未來的數據中心可能會將內存視為共享資源,而不是每個伺服器內部的固定組件,這將使人工智能系統能夠更高效地擴展,同時更好地利用現有硬件。
項目 規格 數據傳輸速度 高達 64 GT/s DDR5 內存控制器速度 高達 8000 MT/s
CXL 3.2 對人工智能基礎設施的影響
Montage Technology 的 CXL 3.2 記憶體擴展控制器標誌著伺服器內存管理的一個重要進步。隨著人工智能應用的需求不斷上升,傳統伺服器設計的內存限制已成為瓶頸。這款控制器的推出不僅能夠擴展內存容量,還能提高數據中心的資源利用效率,為未來的人工智能基礎設施提供更靈活的解決方案。若此技術獲得廣泛應用,將可能改變數據中心內存的使用方式,進一步促進計算能力的提升。

