高通正式推出 AI200 與 AI250 兩款數(shù)據(jù)中心加速器,產(chǎn)品核心聚焦內(nèi)存容量與數(shù)據(jù)傳輸效率。其中,AI200 加速器卡支持高達 768GB LPDDR 內(nèi)存,可減少大型語言模型與多模態(tài)模型運行所需的硬件部件數(shù)量,同時避免頻繁的卡外數(shù)據(jù)傳輸。

高通 CEO Cristiano Amon 表示:" 高通推出基于 AI200 與 AI250 芯片的加速器卡及整機柜產(chǎn)品,為數(shù)據(jù)中心 AI 工作負載提供行業(yè)領(lǐng)先的機柜級推理性能與內(nèi)存效率。"

各廠商數(shù)據(jù)中心芯片內(nèi)存規(guī)格對比
AMD Instinct MI350X:288GB HBM3e 內(nèi)存,帶寬 8TB/s;其繼任型號 MI400 最高將支持 432GB 內(nèi)存
NVIDIA B200 系列:單 GPU 約 180GB HBM3e 內(nèi)存
Intel Gaudi 3:128GB HBM2e 內(nèi)存
從上述數(shù)據(jù)可見,高通的產(chǎn)品定位并非以 HBM 內(nèi)存容量為競爭點,而是以單卡總內(nèi)存容量形成差異化優(yōu)勢。