商汤科技发布AI原生云实践方案,通过大装置平台重构算力集群架构,以应对大模型时代的算力需求挑战。
传统云计算架构面向通用负载设计,难以高效支撑AI训练和推理任务。商汤大装置采用AI原生理念,从芯片、网络到软件栈进行全栈优化,实现算力资源的高效调度和利用。
该架构已在商汤自身大模型训练中验证,可支持千亿参数模型的分布式训练。商汤表示将向行业开放相关能力,助力AI基础设施升级。
商汤科技发布AI原生云实践方案,通过大装置平台重构算力集群架构,以应对大模型时代的算力需求挑战。
传统云计算架构面向通用负载设计,难以高效支撑AI训练和推理任务。商汤大装置采用AI原生理念,从芯片、网络到软件栈进行全栈优化,实现算力资源的高效调度和利用。
该架构已在商汤自身大模型训练中验证,可支持千亿参数模型的分布式训练。商汤表示将向行业开放相关能力,助力AI基础设施升级。