AlphaChip原班人马开源65B编码模型
一家做AI芯片设计的初创公司,顺手交出了一个能干活的通用开源大模型。11月4日,帕洛阿尔托创企Ricursive Intelligence在Hugging Face上发布Ripple-65B Preview:650亿参数、Apache 2.0协议、可免费商用,同时接入Together AI、GMI Cloud、OpenRouter等API平台。

按公司自报数据,该模型从零开始在12万亿token上预训练,在终端编码基准Terminal-Bench 2.1上取得80.52分,略高于Reflection的Beam(80.1),并领先参数量为其15倍以上的Meta Muse Spark Open(76.4)和Thinking Machines的Inkling(63.8);在SWE-bench Pro v2.0 Hard上也排名第一。不过这些成绩目前均为官方自报,尚无第三方复测;在DeepSWE等其他基准上,它反而落后于Meta的模型。
架构上,Ripple-65B反潮流地采用了稠密(dense)设计而非主流的混合专家(MoE):650亿参数在生成每个token时全部参与计算,好处是部署更简单、对本地硬件友好。有意思的是,公司CTO阿扎利娅·米尔霍塞尼(Azalia Mirhoseini)正是2017年提出MoE层的那篇论文的共同作者。
公司背景同样不寻常:CEO安娜·戈尔迪(Anna Goldie)与米尔霍塞尼曾共同参与谷歌用强化学习做芯片布局的AlphaChip项目,相关成果被用于谷歌TPU。Ricursive今年1月完成3亿美元A轮融资,估值40亿美元,投资方包括Lightspeed、英伟达NVentures、红杉与DST Global等。
公司称模型的全部研发与训练成本约3200万美元,只有同类头部开源模型的零头,强化学习阶段仅用140万次rollout。这家公司的主业是AI芯片设计平台,此次开源的只是其内部模型的通用版本——用戈尔迪的话说,算力需求五年内将增长上万倍,答案不能是再多建一万倍的数据中心,而要让芯片设计本身变得更快。
编译自 VentureBeat,原标题:"Ex-Googlers' new Apache 2.0 model Ripple-65B Preview claims the U.S. open coding lead on two major benchmarks"