IBM开源Granite Switch模块化模型

据unite.ai报道，IBM于10月15日发布Granite Switch 4.1系列开源模型，包含Granite-Switch-4.1-8B与Granite-Switch-4.1-30B两款，分别基于80亿与300亿参数基座构建，采用Apache 2.0协议、支持128K上下文，同时兼容Transformers与vLLM两种主流推理后端。

这个系列的特别之处在于"一个检查点、多种能力"。每个模型把基座模型与三件套适配器打包在一起：一个负责通用决策的激活式LoRA（aLoRA）、一个来自IBM Guardian安全库、可识别越狱与有害内容等风险的guardian-core安全适配器，还有一个4.7亿参数的英语语音转写编码器Granite Speech 5.0 TurboCTC。

运行机制上，Granite Switch采用所谓粗粒度专家切换：某个适配器在一段连续文本内保持激活，横跨所有解码层；调用方只需在聊天模板里传入适配器名，系统会自动插入控制标记。每个适配器只读基座模型的KV缓存、互不窥探内部状态，且独立开发、独立发布，切换能力不需要改任何代码。

语音路径同样被塞进了同一个端点：输入音频先由内嵌编码器转写，转录文本直接替换上下文中的音频，于是对话、决策、语音理解都在一个模型服务里完成，企业不必单独维护一套语音识别服务。

IBM刻意把Granite Switch与追求"大而全"的闭源决策模型对照——它点名Jev 1.13、Microsoft-Decision-1、GPT-Luna-Decisions与Clef-Flash等通用模型，称guardian-core安全适配器在这类安全决策任务上的平均表现更优。在公开的Decision Index基准快速子集（1068条）上，8B版适配器总分42.9，30B版为50.1。

Granite Switch项目于今年春季启动，配套的Granite Libraries适配器库持续扩充，本次还同步放出若干不带音频模块的preview变体。当行业主流押注MoE超大模型时，IBM给出了相反的答案：把决策、风控这类高频小任务，从昂贵的大模型迁到可自托管、可插拔的开源小模型上。

编译自 unite.ai，原标题："IBM Releases Modular Granite Switch 4.1 Models in 8B and 30B Sizes"