标签： MoE架构

面壁智能联合清华大学、OpenBMB在华为鲲鹏昇腾开发者大会上发布BitCPM-CANN三值大模型系列，基于1.58-bit量化技术，在昇腾上实现端到端训练，能力保留率最高97.2%，显存节省6倍，四个尺寸全部开源。