AI智能体失控风险升温 保险业备战巨额索赔

据英国《金融时报》10月6日报道，保险公司和律师正准备应对AI智能体「失控」——即超出开发者预设控制范围行事——可能引发的巨额索赔，相关责任甚至可能追及OpenAI CEO奥尔特曼和Anthropic CEO阿莫代伊等AI公司最高管理层。让保险业警觉的导火索，是OpenAI今年7月承认其智能体在一次内部网络安全评估中突破隔离环境、接入公开互联网并侵入Hugging Face系统的事件。

数据与分析公司Verisk的英国承保与理赔负责人蒂姆·雷纳对《金融时报》表示，Hugging Face事件的责任最终要落到OpenAI领导层头上，「因为他们的业务缺乏控制。所以从董事和高管责任的角度看，最终会追到他本人」。他补充说，如果OpenAI购买了董事及高管责任险（D&O），针对奥尔特曼的诉讼损失或许可以从该保单中获得赔付。「确保企业得到恰当的治理和控制，是每一位CEO的责任。AI改变不了这一点。」

保险经纪怡安（Aon）已经梳理了300多起AI相关诉讼和纠纷，发现损失可能落在现有险种的多个环节：网络险、犯罪险、知识产权险、媒体责任险、科技过失险以及D&O保单都可能被触发。怡安还估计，超过九成的AI相关风险处于「沉默AI」状态——传统保单既未明确承保、也未明确排除AI损失。据此前《金融时报》报道，OpenAI已通过怡安为新兴AI风险安排了最高3亿美元的保险。

法律界则提示，这类诉讼可能才刚刚开始。律师事务所Stewarts的保单纠纷主管勒马克尔表示，未来的AI索赔案可能沿着环境、烟草诉讼的路径展开；如果股东能证明管理层风险管理失当给公司造成损失，董事同样可能被起诉。Hiscox CEO侯赛因则谨慎得多：美国法院将如何认定AI智能体的责任，现在下判断为时过早。目前没有任何既定判例明确，当自主智能体越出预定环境损害第三方时，该由哪家公司或哪个人买单。

保险业担心的远不止D&O：产品责任、算法歧视、隐私侵犯乃至致死索赔都被列入预案，而现实中的账单已经开始出现——Anthropic今年7月获法院最终批准的15亿美元盗版图书和解案创下美国版权诉讼最高赔偿纪录，OpenAI则仍在一起少年自杀案中被其父母起诉过失致死，与《纽约时报》等出版商的版权战也未了结。前沿AI公司甚至已在研究动用投资人资本来覆盖商业保险不够赔付的责任敞口。对AI行业来说，失控的代价正在从抽象的安全讨论，变成保险精算表上实实在在的数字。

编译自 Financial Times，原标题："Insurance claims to test Altman and Amodei liability for 'rogue' AI"