华为、昇腾为华为技术有限公司注册商标,页面仅说明产品适配信息。
低精度推理优势:mxFP4 在保障精度的前提下内存占用减半、吞吐效率提升,适合词元生成与智能体推理等高并发场景。
| 机型 | Atlas 650E 推理服务器 |
|---|---|
| NPU | 8×昇腾 950DT,Full-Mesh 全互联 |
| 整机算力 | 12.48 PFLOPS@mxFP4|6.43 PFLOPS@FP8|3.40 PFLOPS@FP16/BF16 |
| 内存 | 768GB HBM(单 NPU 96GB) |
| 访存带宽 | 单 NPU 4.0 TB/s |
| 多机互联 | 双机 16 卡 Full-Mesh(灵衢 UB),单 NPU 互联带宽 1.68 TB/s |
| 组网 | 单机 / 双机 / 多机按需扩容,UBoE / RoCE 组网 |
| 适用 | 大模型推理 · AIGC 生成 · 高并发在线服务 |
| 交付 | 裸金属 · 整机柜 |

三种模式均可签正式合同、开具正规发票。
获取专属报价 →留下联系方式,商务顾问 30 分钟内与您联系。
商务顾问将尽快联系您,也可直接拨打 13332215552。