谁来监督AI巨头 独立评估机构走到台前

两个月前，独立AI评估还是这个数万亿美元产业里一个冷清的角落；如今，它们被推到了聚光灯下。据CNBC报道，围绕Anthropic和OpenAI能否一边高速扩张、一边看住自家先进模型的争论愈演愈烈，两家公司都在向METR（模型评估与威胁研究）、Apollo Research、Transluce等少数小型第三方机构寻求支援。

这些评估机构大多以非营利组织形式运作，本职工作是测评模型的能力与风险，在模型行为出格时敲响警钟。在联邦监管长期缺位的背景下，它们的分量被急剧放大：Anthropic CEO阿莫代上月公开承诺把独立评估人员请进公司，OpenAI CEO奥尔特曼随即附议，特朗普总统也对这一构想表示认可。有批评者形容，现状好比让最大的银行自己防范金融危机，或者让药企不经审批就把新药推向市场。

钱是绕不开的话题。「问题一如既往，还是钱。」布朗大学计算机科学教授文卡塔苏布拉马尼安对CNBC说，「谁来为这些机构的工作买单？你需要一个生态，一套可持续的商业模式。」METR过去半年获得约7100万美元资金承诺，远超其2024年全年1360万美元的进账；做行业基准测评的创业公司Vals AI今年从8人扩到约30人，8月还宣布了4000万美元融资。但对比依然悬殊——METR全职员工不足50人，而头部实验室融资数百亿、雇员数千，沃顿商学院教授沃巴赫直言这个生态「现在还不够健壮」。

摩擦已经出现。上周OpenAI以违反敏感信息处理政策为由解雇三名员工，其中两人认为真实原因是他们与第三方评估机构的沟通方式；OpenAI否认这一说法，并在周五回应称，公司「正在积极敲定与第三方安全评估方的合同，细节将在未来几周公布」。

立法层面，加州抢先一步：州长纽森已签署两项涉及独立评估机构的法案，一项建立全美首个「独立核验组织」框架，另一项为AI审计师设立州级注册制度，Anthropic和OpenAI先后表态支持。国会方面，众议员特拉汉与奥伯诺尔特7月提出FRONTIER法案，希望把独立评估写入联邦要求；OpenAI全球事务负责人莱恩曾专程到国会山，表达对该条款的支持。

Fathom智库CEO弗里德曼提醒，如果第三方机构靠大实验室的合同吃饭，迟早会「开始盖橡皮章」。Anthropic自己也承认，派驻评估人员能看什么、如何报告、钱从哪来，目前都没有标准，长期应靠公共资金池或政府拨款解决——把监督者的饭碗从被监督者手里挪开，仍是这场信任工程里最难的一块拼图。

编译自 CNBC，原标题："AI's quiet safety gatekeepers are stepping into the spotlight"