2025世界人工智能大会(WAIC 2025)现场,金年会官方网站入口科技联合算能重磅发布并展出行业内首个国产TPU正交架构超节点—AS9000系列正交架构128 AI超节点,以全新架构设计重塑国产智算底座。
该产品通过计算节点与交换节点正交耦合技术,创新性消除内部线缆连接,突破传统架构物理限制,实现超高密度算力整合与超大容量Scale Up扩展能力,显著降低AI芯片间通信时延,赋能推理效能跃升。同时,该产品在硬件层面深度集成国产CPU芯片与算能TPU芯片,采用风液混合散热方案,核心算力模块液冷高效降温,构建国产算力新引擎,为持续高性能输出提供坚实保障。
产品介绍
作为面向下一代人工智能计算平台的高性能解决方案, AS9000系列正交架构128 AI超节点集成128颗AI算力芯片和多达8T的显存空间,实现万亿级参数大模型的本地化部署,提供超强推理性能。该方案通过硬件级算力整合与算法协同,为金融、证券、能源等关键行业央国企提供超强推理性能的本地一体化部署能力,助力客户在复杂场景中高效驾驭AI应用,构建高可靠智能化转型新范式。
核心优势
• 支持单机部署万亿级参数规模大模型,支持未来更大参数规模模型
• Deepseek-R1推理输出吞吐率可达6000-8000 token/s
• 更低单位算力成本,更高算力密度
• Scale Up灵活组网,可通过配置交换板数量,实现互联带宽灵活配置
• Scale Up组网连接无需光模块和线缆连接,降低连接成本并有效降低故障率
• 正交连接,缩短互联路径,降低网络链路时延
• 支持多机 Scale Out,灵活扩展不同规模
• 一台物理机集成所有组件,高度一体化
• TPU-CPU 解耦,灵活配置比例
• 支持灵活扩展存储
• 支持内部 Serdes 接口升级到 224Gbps,未来可实现更高速率端口互联
产品配置
产品型号 | AS9000 | |
智算节点数量 | 8 个 | |
智算节点配置 | 16 个 TPU | |
通算节点数量 | 1个 | |
交换节点数量 | 最多 6 块 | |
TPU数量 | 每智算节点支持 16 颗,整机最大支持 128 颗 | |
显存容量 | 单节点 1TB,整机 8TB | |
存储容量 | 整机 34 个 2.5 寸可插拔硬盘槽,支持 NVME SSD | |
算力格式支持 | FP32/TF32/FP16/BF16/FP8/INT8等 | |
设备功耗 | 最大 16KW,典型 9.6KW(LLM推理场景下) | |
尺寸 | 17U | |
推理性能 | 模型名称 | DeepSeek-R1 |
参数 | 671B | |
数据精度 | FP8 | |
输出吞吐 token/s | 6000–8000 | |
并发数 | 128 |
联系金年会官方网站入口
欢迎垂询并获取
行业定制化 AI 解决方案咨询
算力成本测算与 POC 测试支持
公司官网: junjiegg.com
联系热线: 021-61002300
封面配图来源于官方发布,如有不妥,请联系删除