AMD MI355X AI显卡实测:288GB显存碾压NVIDIA B200,软件优化弥补互联短板

AI云服务商Zyphra发布AMD旗舰AI显卡MI355X实测报告,对比NVIDIA B200。MI355X凭借288GB大显存碾压B200的180GB,但互联带宽处于劣势。通过张量序列并行与树状注意力算法优化,长文本吞吐量逼近B200。Zyphra计划基于该架构支持1.6万亿参数模型部署。

AI云服务商Zyphra发布AMD旗舰AI显卡MI355X实测报告,对比NVIDIA B200。MI355X凭借288GB大显存碾压B200的180GB,但互联带宽处于劣势。通过张量序列并行与树状注意力算法优化,长文本吞吐量逼近B200。Zyphra计划基于该架构支持1.6万亿参数模型部署。