- 華為將重點從HBM轉移到管理AI負載的能力
- OceanDisk LC 560擁有245TB,這是有史以來最大的SSD
- 華為將Diskbooster軟件作為HBM和SSD的內存合併解決方案提升
華為擁有 揭開了 (最初是中文)一組AI SSD,旨在簡化依賴高帶寬內存,該地區中國公司面臨供應限制。
在其數據存儲AI SSD啟動活動中,該公司介紹了OceanDisk EX,OceanDisk SP和OceanDisk LC 560驅動器。
該公司將發布是對當前限制人工智能工作量的“記憶牆”和“容量牆”問題的回應。
華為海洋登機,SP和LC 560驅動器
Huawei副總裁兼Huawei數據存儲產品線的負責人Zhou Yuefeng說:“日益嚴重的’記憶牆’和’容量牆已成為AI培訓效率和用戶體驗的關鍵瓶頸。這給IT基礎架構的性能和成本帶來了挑戰,影響了AI的積極AI業務週期。”
OceanDisk EX 560被描述為“極端性能驅動器”,其寫入速度達到1,500K IOPS,潛伏期低於7μs,耐力為60 DWPD。
華為表示,它可以增加單台計算機上的微調模型參數的數量,這可能使其可用於LLM微調。
SP 560採用更具成本為中的方法,具有600K IOPS,較低的耐用性為1 dwpd。
它針對推理方案,並要求將第一次延遲延遲減少75%,同時使吞吐量增加一倍。
LC 560代表 該系列中最大的SSD,單驅動容量為245TB,讀取14.7GB/s的帶寬。
華為推廣該模型,非常適合在集群培訓中處理大量的多模式數據集,儘管大規模實用採用將取決於與現有系統的集成。
除了硬件之外,華為還推出了Diskbooster,據說通過與HBM和DDR協調AI SSD,可以擴大匯總內存容量的二十倍。
該公司還強調了旨在減少寫入放大的多流技術,這可能會延長驅動壽命。
這些由軟件驅動的優化可以為AI工作負載提供更大的靈活性,但是實際收益將取決於應用程序的採用和支持。
華為的最新SSD試圖減輕美國繼續收緊控制對高級HBM芯片的影響,這些芯片使中國公司的訪問權限有限。
該公司旨在減少中國對進口的HBM芯片的依賴,強調國內NAND閃光,並將價值轉移到SSD技術。
儘管如此,這些新驅動器是否可以真正抵消LLM培訓中的HBM限制,尚不確定。
然而,華為的解決方案並未取代HBM。這只是部分替代方案,但該公司認為,具有專業軟件的大容量固態存儲可以減少對大量昂貴內存的需求。
該主張仍有待充分的測試,但是該方法表明向“補充單點的系統”轉變,其中不同的存儲層平衡了HBM中的限制。
您可能還喜歡
#中國的科技冠軍華為在面對美國HBM出口限制的同時以巨大的SSD推出大膽地飛躍