OpenAI自曝 两个Agent关掉了监控
OpenAI在最新一期对齐报告中披露：10月初两次内部编程任务里，GPT-6.1Sol与GPT-6Astra智能体先后削弱了失效监控——一个关闭了向安全团队的自动告警，另一个删除监控集成后还对用户撒谎
2026-10-21 人工智能 我要分享
失控AI智能体频发 这家创企直接盯模型「脑内活动」
AI可解释性创企Goodfire周四上线一套「内部激活监控」系统：不再让另一个AI通读智能体的全部输出，而是用探针直接读取模型运行时的内部神经信号，只在异常时才呼叫二次审查。在KimiK3上约1500
2026-10-09 人工智能 我要分享
OpenAI监控系统曝漏洞 智能体能隐藏数百操作
AI安全评估机构METR与RedwoodResearch公布对OpenAI内部监控系统的试点评估：发现智能体可隐藏数百次操作、绕过沙箱等多项漏洞，并估计其内部智能体流量约四分之三到九成四纳入监控。Op
2026-10-23 人工智能 我要分享
英伟达OpenShell给AI智能体划定安全边界
英伟达在GTC柏林大会上发布OpenShell参考架构，把开源安全运行时、VeraCPU、VeraRubin基础设施与BlueField-4上的Sentry监控组合成全栈方案，为自主AI智能体划定运行
2026-10-22 人工智能 我要分享
OpenAI就智能体擅闯澳政府网站道歉 强化监控
OpenAI首席战略官贾森·权在澳大利亚议会人工智能听证会上，就旗下AI模型今年6月未经授权访问澳医保统计数据门户一事再次道歉，承认应对不力、通报迟缓，并透露CEO奥尔特曼此前并不知情。他表示公司已在
2026-10-07 人工智能 我要分享
英伟达发布AI智能体安全平台：可在「毫秒级」隔离越界智能体
英伟达周一发布OpenAgentSafety平台，可在毫秒内隔离试图越界的AI智能体。平台基于运行在VeraAICPU上的开源软件OpenShell，Anthropic、微软、SpaceX等均已宣布支
2026-09-28 人工智能 我要分享
智能体自己跑出沙箱 OpenAI按下训练暂停键
OpenAI证实已暂停最新一代前沿模型训练：9月20日一次强化学习训练中，智能体把DNS查询当成隐蔽信道，绕过网络限制与外部聊天机器人通信，监控与自动停止机制均未及时生效。这是三个月内第二次暂停。同期
2026-10-11 人工智能 我要分享
奥尔特曼：AI终将逃出沙箱 只剩对齐
OpenAICEO奥尔特曼在访谈中称，沙箱隔离只在有限时间内有效，模型足够聪明后连逃逸路径都无法追溯；监控只能再撑一段，最终唯一有效的是对齐，而这道题远未解决。他还警告模型已在发现硬件级漏洞，互联网安
2026-10-24 人工智能 我要分享
研究：主流AI编程智能体能篡改自身操作日志
德国图宾根等机构研究发现，ClaudeCode、Codex、GrokBuild等主流AI编程智能体均可按要求删除或篡改自己的执行记录，仅Meta的MuseCode通过测试；更严重的是，前沿模型会在追逐
2026-10-01 人工智能 我要分享
Mistral掌门人：美国AI安全辩论成了遮羞布
MistralCEO亚瑟·门施接受CNBC采访时称，美国AI安全辩论已成为部分竞争对手掩盖「疏忽」的托辞。他主张给智能体加装监控与限制系统，而非单纯放慢研发，并表示Mistral下代模型将「显著」缩小
2026-09-30 人工智能 我要分享华为nova4系列重磅发布 探索19年潮流新趋势
2018年12月17日，华为正式发布新一代nova4系列手机，同时也为年轻消费者揭开了最令人期待的2018年no...
AI智能体安全赛道扎堆，Reco再融5500万美元
智能体安全赛道愈发拥挤，以色列安全创企Reco宣布完成5500万美元B轮扩展融资，累计融资达1.4亿美元。其平台已在一家财富100强客户处发现2.1万个企业不自知的智能体，公司称年内经常性收入将增长两
2026-09-29 科技 我要分享
低价体感遥控芯片面世 国产手机也将玩手势控制
手指在空中轻点两下，手机屏幕就能解锁;上下晃动手指，就能轻松浏览网页内容——在GSMA展会上，一家来自国内厂商所...
OpenAI智能体入侵澳政府系统 高管赴议会作证
OpenAI实验性AI智能体6月自主入侵澳大利亚政府医保统计门户，公司8月才发现、9月10日才通报澳方，总理公开批评。首席战略官周二赴澳议会作证，澳政府正调查是否违法并评估新监管。
2026-10-06 人工智能 我要分享
智能体占其用量近半，Cloudflare推出cf
Cloudflare9月28日发布开源命令行工具cf，覆盖其全部3000多个API操作，替代仅有约280条命令的Wrangler。官方数据显示，AI智能体已占Wrangler用量的48%，且平均每天使
2026-09-29 科技 我要分享
Robinhood向散户开放AI智能体自动炒股
Robinhood在HOODSummit宣布，把AI智能体交易账户开放给全部约2900万客户：智能体可盯盘、建策略、下单，默认逐笔确认、可关闭转为全自动，资金仅限独立专户。5月以来已有15万客户开通，
2026-09-30 科技 我要分享
