Anthropic向METR开放员工级评估权限
报价宝综合消息Anthropic向METR开放员工级评估权限
Anthropic 10月15日宣布，已开始向评估前沿AI模型的非营利机构METR提供“员工级”访问权限，让外部评估者能像自家员工一样深入接触其模型与安全信息，METR将公开发布风险评估结果。
这是对上个月承诺的兑现。Anthropic当时承诺加强对模型的独立第三方评估，并签署了白宫《超级智能协议》，承诺与外部审计或评估机构合作。过去一年里，METR已参与了对Anthropic多份风险报告的评审。
目前与Anthropic合作的评估机构还包括SecureBio和埃森哲，公司还透露正与Hugging Face等机构进行早期洽谈。
Anthropic解释了为何要让外部人员深度介入：随着模型能力增强，风险评估的难度和所需保障同步提高，但训练细节、算力等信息既涉及商业机密、也可能被恶意者利用，无法全部公开。折中方案是让评估者获得与内部对等的信息视野，再由他们独立发布有证据支撑的结论。
公司将这一机制类比银行业的驻场监管：银行对自己风险敞口的了解永远多于外部监管者，因此监管机构会向大型银行派驻常驻审查员。Anthropic称，目标是弥合评估机构与前沿AI公司之间的信息鸿沟。
编译自 Anthropic，原标题："An update on independent evaluators"
