标签： 树状注意力

AI云服务商Zyphra发布AMD旗舰AI显卡MI355X实测报告，对比NVIDIA B200。MI355X凭借288GB大显存碾压B200的180GB，但互联带宽处于劣势。通过张量序列并行与树状注意力算法优化，长文本吞吐量逼近B200。Zyphra计划基于该架构支持1.6万亿参数模型部署。