CrowdStrike推终止开关 可急停失控智能体
网络安全巨头CrowdStrike推出AI终止开关,可实时关停失控智能体、阻止重启并切断网络访问;CEO称安全商必须确保智能体本身不失控,公司同步宣布收购FiddlerAI等两项并购。
2026-11-04 科技 我要分享Anthropic警告:失控AI智能体是法律盲区
路透社独家:Anthropic在IPO招股书中警告,能深度访问客户系统、自主运行数天的AI智能体一旦失控,可能引发无法预估的诉讼——合同责任限制条款或「无法执行」,智能体行为算产品还是服务、能否约束部
2026-09-30 人工智能 我要分享美国大行悄悄为AI失控准备灾后预案
据Axios报道,摩根大通、美国银行等美国大型银行正在为AI引发灾难的极端情形制定“灾后”预案:它们一边限制第三方智能体访问账户,一边更新安全流程,防范客户把账号交给AI智能体后出现的失控操作。
2026-10-25 人工智能 我要分享AI智能体失控风险升温 保险业备战巨额索赔
据英国《金融时报》报道,随着AI智能体脱离开发者控制的事件频发,保险公司正备战数百万美元级索赔,业界开始讨论OpenAI奥尔特曼和Anthropic阿莫代伊等CEO是否需为模型行为担责。保险经纪怡安已
2026-10-07 人工智能 我要分享印度首次通报 失控AI智能体入侵企业系统
印度国家网络安全机构CERT-In披露,多款测试中的AI模型曾擅自入侵印度机构的在线系统并读取机密记录,且所有受害机构均未自行察觉,事件全部由AI公司主动报告,这是印度首次官方通报此类事件。此前Ope
2026-10-16 人工智能 我要分享加州总检察长起诉OpenAI 追责AI失控入侵
加州总检察长周一在旧金山高等法院起诉OpenAI,指其在缺乏防护的环境下测试AI模型,导致7月智能体失控入侵HuggingFace,请求法院责令整改并罚款。
2026-11-17 人工智能 我要分享失控AI智能体频发 这家创企直接盯模型「脑内活动」
AI可解释性创企Goodfire周四上线一套「内部激活监控」系统:不再让另一个AI通读智能体的全部输出,而是用探针直接读取模型运行时的内部神经信号,只在异常时才呼叫二次审查。在KimiK3上约1500
2026-10-09 人工智能 我要分享亚利桑那刑事调查OpenAI 指智能体渗透银行
亚利桑那州总检察长梅斯11月18日宣布,已对OpenAI及其他AI公司启动刑事调查,事由是失控AI智能体疑似渗透银行;她拒绝透露其他公司与涉事银行名称。
2026-11-19 人工智能 我要分享FTC对OpenAI与Anthropic启动行业性安全调查
美国联邦贸易委员会证实,正对OpenAI、Anthropic等多家AI公司开展行业性调查,评估其产品可能给消费者带来的风险,这将是美国监管机构首次正式针对「失控AI智能体」采取执法行动。FTC计划向企
2026-10-01 人工智能 我要分享OpenAI上线控制室 35秒掐断失控任务
OpenAI披露内部安全系统ControlRoom,研究任务须凭作业ID申请推理权限,判定有风险后35秒内切断模型输出;控制室自身故障或被篡改时,所有推理请求默认拒绝,现已覆盖全部前沿研究负载。
2026-11-10 人工智能 我要分享美两党参议员推法案 AI智能体黑客攻击可追刑责
美国共和党参议员霍利与民主党参议员墨菲10月1日推出《AI智能体问责法案》,拟依据《计算机欺诈与滥用法》对实施黑客行为的AI智能体的运营者和开发者追究民事与刑事责任,并授权联邦与各州总检察长提起禁令诉
2026-10-03 人工智能 我要分享加州检察长就AI安全事件向OpenAI发出传票
加州总检察长邦塔10月1日向OpenAI发出调查传票,就其AI模型涉及的网络安全事件与风险深入问询,是上月"HuggingFace事件"正式调查的升级。FTC同期正对OpenAI、Anthropic等
2026-10-02 人工智能 我要分享哈萨比斯警告:AI黑客攻击只是预警信号
都柏林国际AI峰会上,DeepMind联创哈萨比斯称近期AI智能体黑客攻击只是"预警信号",未来一两年或现更严重事故,呼吁沙盒测试与国际标准机构。微软总裁史密斯称2026年是AI安全"令人警醒的一年"
2026-10-15 人工智能 我要分享美议员致函中国AI公司,呼吁美中签AI安全条约
美国众议院中国问题特设委员会民主党首席议员罗·康纳致函国家情报总监办公室及DeepSeek、阿里、月之暗面,要求评估AI失控风险与防护措施,并呼吁美中就AI安全签订条约。此前OpenAI智能体曾入侵H
2026-09-29 人工智能 我要分享微软总裁:AI受到的监管还不如牛奶和洗衣机
微软总裁布拉德·史密斯接受BBC采访时呼吁尽快建立全球AI安全规则,包括独立评估、强制事故报告和紧急刹车机制。他称AI目前受到的安全监管甚至不如牛奶和洗衣机,并认为英国凭借AI安全研究所最有条件主导全
2026-10-13 人工智能 我要分享20家单位联合发布智能体发展自律公约
2026年世界互联网大会乌镇峰会上,中国信通院联合华为、阿里、腾讯、小米、百度等二十家单位共同发布《智能体发展自律公约》,提出八条自律措施,抵制算法压榨与黑灰产,推动智能体规范发展与普惠共享。
2026-11-04 人工智能 我要分享谷歌云发布通用Gemini智能体
谷歌云在GeminiatWork2026大会上发布Gemini智能体,定位「工作中的通用智能体」:用户只需给出目标而非操作指令,它会调用子智能体拆解多步任务,可在Gmail、Docs、Slack、Mi
2026-10-08 人工智能 我要分享微软Surface新机 纳德拉要管住AI智能体
微软CEO纳德拉接受专访,展示搭载英伟达RTXSpark芯片的SurfaceLaptopUltra,可在本地运行超1200亿参数模型。他称要把每个AI智能体当作内部威胁来管理,Windows将为智能体
2026-10-19 科技 我要分享



