輝達著手固態硬碟擴充虛擬顯存技術,凸顯大型語言模型發展受制於高頻寬記憶體產能的硬體瓶頸。
輝達傳出因應高頻寬記憶體短缺,內部評估調降次世代 Rubin Ultra GPU 的 HBM 容量配置,突顯 AI 算力擴張與記憶體產能之間的物理與商業拉扯。