APP下载

宁畅:1 度电, 实现百万次 AI 推理计算!

消息来源:baojiabao.com 作者: 发布时间:2024-06-14

报价宝综合消息宁畅:1 度电, 实现百万次 AI 推理计算!

1 度电可实现多少次 AI 推理计算? 宁畅的答案是: 上百万次!

11 月 4 日,2022 云栖大会上,宁畅公司首席技术官赵雷介绍,依托"全系统定制液冷服务器方案",宁畅可让 1 度电能实现上百万次的 AI 模型推理计算,让高能耗 AI 产业顺应"低碳"政策要求。

伴随 AI 产业高速发展,数据中心建设迎来热潮,但对更高算力的需求,也给数据中心行业带来能耗难题,伴随多项政策出台,降低 PUE (数据中心能源效率指标) 成为 IT 企业追求目标。

2022 云栖大会上,宁畅首席技术官赵雷在远程分享《场景化绿色算力发展与实践》报告时表示,宁畅"全系统定制液冷方案"不仅可让数据中心 PUE 值降低至 1.2 以下,还可满足服务器单芯片 500W 功耗的散热,让单机柜功率得到提升并节省部署空间 80%, 噪音低于 50 分贝。

2022 云栖大会宁畅报告现场

"通过总负载 10MW 的数据机房来看,采用宁畅液冷方案,相比传统风冷模式,其年均节省电费可高达 1580 万元,节省的电能,每 1 度都可进行数百万次 AI 推理计算。"

赵雷介绍基于 MLPerf-training2.0、MLPerf-inference2.1 人工智能测试标准,宁畅新款液冷服务器,仅 1 度电就可实现 16870314 次目标识别分类、435343 次重量级目标分析,能效比位列行业头部。

2022 年 9 月,在国际权威 AI 性能基准测试平台 MLPerf 的最新推理 (Inference 2.1) 结果中,宁畅两款液冷服务器共获得 13 项的第一成绩,该成绩背后是每秒可完成 679915 个样本处理的世界顶级性能。

另据 IDC 最新发布的《2022 上年度 (H2) 中国加速计算服务器市场分析报告》显示,宁畅 (Nettrix) 已位列中国区加速服务器市场第二名。

如今,宁畅作为智能算力定制专家,已承接定制化服务器项目近千个,其中液冷方案众多。

2022-12-21 18:19:33

相关文章