韩企DeepX流片DX-M2 五瓦跑大模型
报价宝综合消息韩企DeepX流片DX-M2 五瓦跑大模型
韩国边缘AI芯片创企DeepX完成第二代AI加速器DX-M2的流片。这块芯片瞄准机器人、无人机等电池供电设备,号称能在不到5瓦的功耗下本地运行最大1000亿参数的大语言模型。

按官方参数,DX-M2可运行200亿至1000亿参数的模型(激活参数约30亿至200亿),生成速度视模型为每秒10到30个词元。内存带宽从一代的50GB/s提升到150GB/s,工艺升级到2纳米,NPU能效连翻两倍,总算力达到80 TOPS。
最大的看点是与三星合作引入的LPDDR5x处理器内存(PIM)技术:把最耗时的矩阵向量运算直接搬进内存芯片执行。仿真显示,对Llama3.1-8B模型,DX-M2搭配PIM内存的生成速度可达单独使用的6.7倍,代价是整体功耗增加2.7倍。
时间表方面,DX-M2样品预计2027年3月提供,同年秋季量产。第三代DX-M3计划2028年推出,改用芯粒架构并支持LPDDR6 PIM标准。
商业化方面,一代DX-M1已进入量产,累计收到超过100笔采购订单,客户覆盖无人机、机器人、智慧工厂、安防、医疗与国防等领域,现代汽车集团机器人实验室已在其平台上采用DX-M1。公司还与英特尔合作接入OpenVINO生态,并与AMD探讨联合开发机器人平台。
创始人兼首席执行官Lokwon Kim认为,AI算力将像CPU一样从数据中心走向边缘:如果百亿参数级模型都能在设备端运行,AI数据中心的流量可以削减80%以上。在数据中心电力日益紧张的当下,5瓦芯片讲的正是这个故事。
编译自 EE Times,原标题:"DeepX Tapes Out Second-Gen Chip, Projects 6.7x Performance Gain With LPDDR5x-PIM"