登上达摩院 2023 十大科技趋势榜的【存算一体】究竟是什么？

1 月 11 日，阿里达摩院发布了 2023 十大科技趋势，包括：多模态预训练大模型、Chiplet 模块化设计封装、存算一体、云原生安全、软硬融合云计算体系架构、端网融合的可预期网络、双引擎智能决策、计算光学成像、大规模城市数字孪生以及生成式 AI。

《达摩院 2023 十大科技趋势报告》认为，资本和产业双轮驱动，存算一体芯片将在垂直细分领域迎来规模化商用。

报告指出，存算一体旨在计算单元与存储单元融合，在实现数据存储的同时直接进行计算，以消除数据搬移带来的开销，极大提升运算效率，实现计算存储的高效节能。存算一体非常符合高访存、高并行的人工智能场景计算需求。在产业和资本的驱动下，基于 SRAM，DRAM，Flash 存储介质的产品进入验证期，将优先在低功耗、小算力的端侧如智能家居、可穿戴设备、泛机器人、智能安防等计算场景落地。未来，随着存算一体在面向云端推理的大算力场景落地，可能将带来计算架构的一场革命性变化，推动传统的以计算为中心的架构转变为以数据为中心的架构，并对云计算、人工智能、物联网等产业产生重大影响。

存算一体是一种计算架构

在传统的冯・诺依曼架构中，处理与存储单元是分离的。由于存算分离，AI 计算的数据搬运量非常大，会导致功耗大大增加，也就是存储墙。

此外，不管是传输还是计算工艺本身的限制，能效比已经接近极限。无论是 20W, 75W, 150W 的模组还是 PCIe 板卡，目前能支持的最高算力已经达到了天花板。以 75W 为例，不管是 7nm 工艺或将来会有的更高工艺，150TOPS 到 200TOPS 已经基本封顶，这是存储墙带来的能耗墙导致的。

存储墙还导致了另一个问题 -- 编译墙（生态墙），也可以说是可编程性。由于存算分离，数据搬运容易发生拥塞，尤其是在动态环境下，对数据进行调度和管理其实非常复杂，所以编译器无法在静态可预测的情况下对算子、函数、程序或者网络做整体的优化，只能手动、一个个或者一层层对程序进行优化，包括层与层之间的适配等，耗费了大量时间。

随着人工智能相关的高度数据中心化应用迎来爆发性增长，由传统的冯・诺依曼架构带来的这"三堵墙"弊端愈发凸显。这就要求人们寻找非冯・诺依曼的计算方法，于是就提出了存算一体架构。

华夏芯（北京）通用处理器技术有限公司董事长李科奕表示："存算一体一直是高能效计算的重要技术之一。近年来，万物互联和人工智能的发展加速了存算一体的技术产品化进程，产业界对于存算一体最终的产品形态也在持续探索。未来存内计算产品将以单芯片和 Chiplet 两种形式共存。应用场景的多样性也将从物联网边缘端设备向大算力通用计算领域不断拓展，有望成为 AI 时代主流的计算架构。

基于不同存储介质的存算一体芯片可实现不同大小的算力

根据存储器介质的不同，目前存算一体芯片的主流研发集中在传统易失性存储器，如 SRAM, DRAM, 以及新型非易失性存储器，如 RRAM (ReRAM), PCM, MRAM 与闪存等。应用于存算一体，对于不同应用场景，Flash, SRAM 和以 ReRAM 为代表的新型存储介质各有特长。

Flash 是最早被采用的介质，国外的 Mythic，国内的知存科技等企业最早将 Flash 用于存算一体。该技术和工艺等各方面最成熟，比较适合中小算力存算一体设计。但相比其它介质，性能有数量级的差距，而且工艺上难以突破 40nm，用于大算力芯片会面临许多挑战。

SRAM 的性能优异，而且容易实现 DIY 自主设计，常被学者采用，企业则有国内的苹芯科技。但 SRAM 密度较低、功耗较高，特别是工程实现难，尤其可靠性存在挑战，较适合中小算力存算一体芯片设计，所以苹芯科技最初也是从端侧开始布局存算一体市场。

ReRAM 新型存储介质在密度、性能、功耗和工程实现等方面，综合来说比较平衡，没有短板，比较适合大、中、小各类存算一体芯片，尤其是大算力芯片。国内的亿铸科技就专注于研发基于 ReRAM 的全数字化存算一体 AI 大算力芯片。放眼全球，这种结合与尝试都是非常新的，但其选择不无道理。

相比 MRAM 和 PCRAM 等其它新型存储介质，ReRAM 在密度和可靠性等方面更有优势。比如密度高到一定程度之后，MRAM 和 PCRAM 都会存在相邻单元被"磁"或"热"干扰的微缩性天花板问题。ReRAM 不存在这类问题，可以完全兼容先进 CMOS 工艺。

目前看来，ReRAM 已经做好了准备。英飞凌和台积电正将 ReRAM 引入英飞凌的下一代 AURIX™微控制器； 2021 年也被称为"ReRAM 技术元年"；在 2021 年台积电的年报中，以 ReRAM 为代表的新型存储介质市场份额在持续提升。

更重要的是，AI 市场的驱动会直接带来 ReRAM 在存算一体这一方向的爆发。技术的发展是由应用驱动的，应用促进了市场的发展，市场的发展又会反哺底层的 foundry 不断提升相应的工艺制程。在存算一体这个赛道上，随着人工智能市场规模不断扩大，属于 ReRAM 的市场爆发很快就会到来。