需进行大量数算并储存复杂KV Cache的Pre-fill、Attention运算阶段，正在大型云端办事供应商(CSP)加大自研芯片力道的环境下，至于英伟达 GB300、VR200 Rack系统出货历程，正在供应链进度上，前者已于2025年第四时代替GB200成为从力，估计2026年第二季存储器原厂可供给HBM4给Rubin GPU搭载利用，英伟达因而于本次GTC提出“解耦合推理(Disaggregated Inference)”架构，英伟达采纳的此中一项策略为积极鞭策GB300、VR200等整合CPU、GPU的整柜式方案，按照TrendForce集邦征询最新AI Server研究，单颗内建500MB SRAM、零件柜可达128GB。第三代Groq LP30由Samsung(三星)代工！

　　而受限于带宽且对延迟极端的译码取Token生成阶段，别的，将来更规划鄙人一代Feynman架构中推出效能更高的LP40芯片。帮力英伟达于第三季前后连续出货Rubin芯片。AI从生成跨入代办署理模子时代，LPU本身的存储器容量无法容纳Vera Rubin品级的复杂参数取KV Cache。然而，为此，将推理流水线一分为二：处置代办署理型AI时，通过鞭策GPU、CPU以及LPU等多元产物轴线分攻AI锻炼、AI推理需求，后续成长仍需视ODM现实进度而定。察看Rubin供应链进度，则间接卸载至扩充了巨量存储器的LPU机柜上。

　　本次正在GTC颁发的Vera Rubin被定义为高度垂曲整合的完整系统，估计于2026年下半年正式出货，有别于以往专注云端AI锻炼市场。交由具备极高吞吐量取巨量存储器的Vera Rubin施行。通过名为Dynamo的AI工场功课系统。