AI推理创企收购Moondream 自研编译器提速

据The Information报道，AI推理服务商Prime Intellect正在收购一家小而精的初创公司Moondream，目的是在英伟达服务器上运行开源模型时，比竞争对手跑得更快、成本更低。交易条款未披露；Moondream此前仅融资450万美元，团队不足10人，分布在旧金山和西雅图。

Moondream最出名的作品是一款开源多模态视觉语言模型，能解析和理解图像内容，比如识别仓库照片里的货箱或直播画面中的广告。但Prime Intellect联合创始人兼CEO文森特·魏瑟说，这次收购真正看中的，是这支团队编写高性能推理优化软件的能力。

核心是「巨内核」（megakernel）技术：把GPU上大量彼此独立的数学运算合并成一段连续运算，压缩AI推理过程中任务之间GPU的空闲等待。巨内核并非新概念，Together AI等推理服务商都介绍过相关实践，但以往基本靠工程师手工开发；Moondream则自研了一套专用编译器，能为大量模型自动生成巨内核。

魏瑟认为，当前行业高度聚焦文本类AI，而Moondream在图像等非文本模态上的优化经验相当稀缺。他希望把这批人才用于服务机器人AI、能操作电脑的智能体等新客户群体——这些需求目前尚未被其他新云厂商和推理服务商充分覆盖，有望成为Prime Intellect新的收入来源。

Prime Intellect是所谓「新云厂商」（neocloud）阵营的一员，今年7月的一轮股权融资中估值达到10亿美元，当时披露的年化收入已突破1亿美元。不过它的体量仍明显小于头部推理服务商：Fal年化收入超过8亿美元，Together AI超过10亿美元。

在开源模型推理这个竞争白热化的市场里，各家卖的服务正趋于同质，底层优化能力正在成为新的差异化武器。买下Moondream，正是这场「性能军备竞赛」的最新注脚。

编译自 The Information，原标题："Neocloud Prime Intellect Acquires Startup To Speed Up Inference"