投资银行Evercore ISI发布的最新AI渠道调研报告显示，一线AI工程师对NVIDIA GPU的评估标准正在发生变化。由于功耗和散热成本持续攀升，超大规模数据中心正在加速转向自研定制ASIC和替代加速器方案。报告预测，到2028年NVIDIA在AI推理市场的份额可能下降至50%。
当前AI行业工作负载中约95%已被推理需求占据。AI工程师的芯片采购标准已从追求最大吞吐量和带宽，全面转向每Token成本、投资回报率、电力消耗、散热效率和整体利用率等指标。NVIDIA此前宣称的35倍性能提升并未在工程团队中引起预期反响。
摩根士丹利此前的报告指出，建造基于NVIDIA Blackwell GPU的数据中心成本约为定制AI芯片方案的两倍，但其每瓦性能高出最多八倍。不过行业普遍认为NVIDIA约70%的毛利率偏高，促使越来越多的云服务商和大型科技公司选择自研芯片（如Google TPU、AWS Trainium、Microsoft Maia等）来降低长期运营成本。分析师表示，随着AI推理需求占比持续走高，芯片成本效率将成为比绝对性能更关键的竞争因素。
