关于NF5488M6
NF5488M6率先支持英特尔新发布的两款Icelake处理器和NVIDIA A100 GPU款,在4U空间内通过NVSwitch完全互联。通过自主研发的优化通道压缩和多GPU轮询调度算法,配备领先的AI计算资源调度平台AIStation,充分释放强大的AI计算性能。
NF5488M6是业内唯一实现CPU和GPU之间PCI-E重定时器自由通道的AI服务器,大大降低了通信延迟。两个最先进的英特尔IceLake处理器和八个A100 GPU可以提供强大的AI计算能力。高达10TB rdimm/l rdimm/bar low pass DDR 4 3200 mt/s内存为系统提供稳定快速的数据吞吐量,8颗NVMe SSD实现CPU直通设计,进一步降低I/O延迟。
NF5488M6配备4个200Gb/s Infiniband网卡,支持多节点线性扩展,通过GPU Direct RDMA实现大规模集群的高质量互联,打造强大的AI计算能力。
NF5488M6聚合波出色的AI软、硬协同优化能力,不仅通过硬件性能的精细校准和综合优化,打造了超强的AI性能,而且结合GPU硬件拓扑,在软件层面优化了多个GPU的轮询调度,使得单卡和多卡的性能可以近似线性扩展。配置Inspur领先的计算能力资源管理平台AIStation和NF5488M6,实现生产调度一站式计算能力平台,可全面释放AI计算能力。
浪潮NF5488M6支持业界最成熟、最广泛的AI开发生态,完美支持TensorFlow、PyTorch、MXnet、Flying Paddle等主流深度学习框架。
另外,NF5488M6结合GPU张量核心单元的计算特性,通过自主开发的通道压缩算法,可以成功优化模型性能,在不损失精度的情况下显著提高AI训练性能。
另外,NF5488M6结合GPU张量核心单元的计算特性,通过自主开发的通道压缩算法,可以成功优化模型性能,在不损失精度的情况下显著提高AI训练性能。