Anthropic推AI安全法案 高危模型可被叫停
报价宝综合消息Anthropic推AI安全法案 高危模型可被叫停
AI 安全监管的博弈又进入新阶段。据 Politico 报道，OpenAI 的最大对手 Anthropic 正在美国国会兜售一份自拟的 AI 安全法案草案，希望为最强大的前沿模型建立一套「紧急刹车」机制。
草案给出了相当具体的灾难性风险门槛：如果一个模型存在「可预见的迫近风险」，可能造成超过 50 人死亡、或超过 10 亿美元的财产损失，其发布就可以被叫停。这两个数字与加州前不久正式通过的 SB 53 法案对「灾难性风险」的界定几乎一致——Anthropic 显然希望把加州标准搬进联邦法律。
具体机制是：模型的安全性由在商务部注册的「独立评估员」审查，评估费用甚至可以由 AI 公司自己支付。一旦评估员认定存在迫近的灾难性风险，必须在 72 小时内通报商务部，再由商务部向华盛顿特区的法官申请暂停该模型发布。换言之，监管机构并无直接封禁模型的权力，必须拿到法院许可。
这一设计也埋下争议：由被评估企业付钱的评估员能否保持独立，草案没有给出答案。DeepMind 掌门 Hassabis 此前曾建议参照金融业的行业自律机构来设计 AI 监管框架。TechCrunch 指出，各大实验室一边反复警告 AI 可能威胁文明，一边普遍抗拒强制性的政府监管，更倾向于自愿式的内嵌评估员方案。
Anthropic 发言人已向 Politico 确认草案属实，称该法案体现的正是公司一直在联邦层面倡导的「Advanced AI Framework」主张。在 AI 安全立法议题持续升温的背景下，这份草案能否在国会找到支持者，值得持续观察。
编译自 TechCrunch，原标题："Anthropic pitches AI safety bill that may block a model if 50+ people could be killed"
