Nebius收购Inferize 瞄准GPU闲置浪费

纳斯达克上市的AI云公司Nebius收购了以色列初创公司Inferize。据以色列科技媒体CTech援引消息人士报道,交易金额在1亿至1.5亿美元之间,官方未披露具体条款。Inferize的技术专门解决AI推理中的「GPU闲置税」——也就是模型冷启动、需求波动时,昂贵显卡空转等待的问题。
Inferize今年1月由Guy Bortnikov和Lior Gorbonos创立,两人都来自以色列算力优化公司Granulate的创始团队,后者已于2022年被英特尔收购。这家初创公司此前一直处于隐身状态,仅完成一轮种子融资,团队17人,成立三个月内就拿出了可运行的原型。
冷启动是推理平台的顽疾:新实例上线或需求突增时,模型权重必须先加载完毕才能响应请求,这段时间里分配到的GPU既不出活、也不省钱。为了守住服务水平承诺,平台往往要预留大量冗余算力。Inferize的技术让扩容更贴近实际需求、缩短冷启动时间,从而减少这部分闲置储备,把更多客户请求压进同样的GPU规模里。
Nebius将把Inferize的团队与技术并入其托管推理平台Token Factory。Nebius首席技术官Danila Shtan表示,做好推理不只是GPU快、模型好,整个系统都要能对需求变化做出响应,包括新增产能多快能就绪;Inferize CEO Bortnikov则称,「为需求保持备机运行」是随时可服务所付出的代价,消除这笔成本正是他们要解决的问题。
这笔收购延续了Nebius向软件层延伸的路线:它此前已收购Eigen AI获得模型与内核级优化,引入了Clarifai的核心团队并获得相关授权技术,今年2月还同意以2.75亿美元首期收购智能体搜索公司Tavily。当行业竞争从「抢卡」转向「比拼单位算力产出」,推理效率正在成为AI云厂商的新战场。
编译自 CTech(Calcalist),原标题:"Nasdaq-listed neocloud Nebius acquires Inferize, whose tech helps optimize GPU utilization and reduce AI request costs"