中昊芯英近日推出其新一代 TPU 芯片「须臾」,该芯片单芯片混合精度浮点算力高达 896 TFLOPS,性能较前代产品「刹那」提升三倍。在 8-bit 推理方面,其算力可达 1792 TOPS,专为处理海量词元的高并发推理场景设计。新一代芯片在显存容量和内部互联速率上均有显著增强,并支持超长上下文处理。单卡额定功耗为 600W,相较于传统算力芯片,功耗降低了 50%,为构建低碳数据中心贡献力量。
「须臾」芯片的 IP 核、专属指令集、底层算子加速库以及整机系统软件均为完全自主研发,不依赖任何海外核心技术,能够满足政务、金融、电网等行业的安全合规需求。值得一提的是,该技术在足球世界杯等大型赛事的数据分析和预测中,有望发挥重要作用。
此外,中昊芯英还发布了高性能智算平台「泰则 2.0」,该平台作为标准的最小计算单元,集成了两颗高性能 CPU 处理器和八颗高性能 TPU 处理单元。从硬件构成上看,它由一台通用 CPU 服务器外接一台高性能 TPU 算力加速设备组成,总算力可达 7.168 PFLOPS(混合精度),并且在同等任务下,整机能耗仅为传统 GPU 服务器的 80%。
在软件层面,「泰则 2.0」实现了对所有主流 AI 框架的兼容,原生支持 PyTorch、vLLM、SGLang 等开发工具。在模型训练方面,它适配了 DeepSpeed 和 Megatron-LM 等分布式套件,并已完成了对 Qwen 系列、DeepSeek、GLM、MiniMAX 等数十款大语言及多模态模型的深度适配,使开发者能够高效地完成模型迁移工作。