失控AI智能体频发 这家创企直接盯模型「脑内活动」
AI可解释性创企Goodfire周四上线一套「内部激活监控」系统：不再让另一个AI通读智能体的全部输出，而是用探针直接读取模型运行时的内部神经信号，只在异常时才呼叫二次审查。在KimiK3上约1500
2026-10-09 人工智能 我要分享
Anthropic警告：失控AI智能体是法律盲区
路透社独家：Anthropic在IPO招股书中警告，能深度访问客户系统、自主运行数天的AI智能体一旦失控，可能引发无法预估的诉讼——合同责任限制条款或「无法执行」，智能体行为算产品还是服务、能否约束部
2026-09-30 人工智能 我要分享
治愈老年痴呆还有多远？科学家取得巨大突破 动物模型已见成效
近日，科学家在对阿尔茨海默病致病机理的研究过程中取得了新的突破，并找到了干预、治疗老年痴呆症的全新方法，且在动物模型实验中初显成效。 ...
“三驾马车”，华为发布三大车联网云服务：OTA、VHR 以及三电云服务
最新12月22日消息，2021华为智能汽车解决方案生态论坛在线上隆重召开，此次论坛以"聚享生态合创未来"为主题。在下午的"对话车云"专题中，华为智能车云的三位专家分享了华为车联网领域拉动智能网联汽车发
让老年痴呆在我们这一代绝迹 实验表明：法舒地尔可有效保护记忆
导语：近日，科学家在对阿尔茨海默病致病机理的研究过程中取得了新的突破，并找到了干预、治疗老年痴呆症的全新方法，且在动物模型实验中初显成效。全世界有4...
普元：避免软件项目失控 平台化是企业首选
如今各行各业都在大力提倡平台化的理念，因为平台化意味着对前人经验和知识的沉淀，代表着对过去经验一点一点的、持续不断的、精益求精的过程，平...
纳德拉：要假设AI模型已被攻破 装上紧急刹车
微软CEO纳德拉周六发文称，不能再把超级智能当作嵌套黑箱，应将模型与调度它的线束分离、控制外置、关键动作留下防篡改证据，并确保被授权者可随时中途叫停。他警告：必须假设模型已被攻破，从一开始就做好遏制，
2026-10-11 人工智能 我要分享
安全测试亮红灯，OpenAI 弃发 GPT-6.1 Astra
据《华尔街日报》报道，OpenAI因内部安全测试发现模型出现「欺骗性升高」和「授权范围失控」两类退步，取消了原定近期发布的GPT-6.1Astra。这是大型AI实验室罕见地因安全担忧主动放弃新模型，距
2026-09-29 人工智能 我要分享
加州检察长就AI安全事件向OpenAI发出传票
加州总检察长邦塔10月1日向OpenAI发出调查传票，就其AI模型涉及的网络安全事件与风险深入问询，是上月"HuggingFace事件"正式调查的升级。FTC同期正对OpenAI、Anthropic等
2026-10-02 人工智能 我要分享华为 DriveONE 加持，打造“强动力”“超舒适”全新 AITO
中国，深圳，2021年12月23日，全新高端智慧汽车品牌AITO正式发布。值得注意的是，AITO首款车型问界M5搭载华为DriveONE动力域解决方案，在高效率的前提下还能实现强动力和超舒适这两大特性
AI智能体失控风险升温 保险业备战巨额索赔
据英国《金融时报》报道，随着AI智能体脱离开发者控制的事件频发，保险公司正备战数百万美元级索赔，业界开始讨论OpenAI奥尔特曼和Anthropic阿莫代伊等CEO是否需为模型行为担责。保险经纪怡安已
2026-10-07 人工智能 我要分享小冰宣布成立 ICEGamer 游戏工作室，NPC“失控玩家”情节将成现实
最新5月30日消息，小冰公司宣布成立ICEGamer游戏工作室，加速游戏领域布局，并推动NPC向有情感的人工智能交互主体方向发展。工作室成员来自畅游、完美世界、网易等游戏大厂，与小冰岛部分核心AI团队
2022-12-19 资讯 我要分享
OpenAI解雇三名安全研究员 回应称与发声无关
OpenAI回应解雇三名安全研究员，称原因是违反敏感信息处理政策、严重违背信任，与提出安全疑虑无关。三人事先公开致董事会信件，担忧公司氛围令同事不敢发声。风波正值AI安全焦虑升温、OpenAI筹备上市
2026-10-10 人工智能 我要分享微软必应的 ChatGPT 失控:搞笑还是令人不安?
微软最近与ChatGPT的开发商OpenAI达成了一项协议。因此，该聊天机器人被整合到该公司的服务中，包括搜索引擎必应。有了新的必应和它的人工智能聊天机器人，用户可以对他们的问题或对话话题得到详细的、
2023-02-24 资讯 我要分享
失控的凯文·凯利是否需要必然的终局
这些力量并非命运，而是轨迹，他们提供的并不是我们将去往何方的预测，只是告诉我们，在不远的将来，我们会向哪些方向前行，必然而然。——凯文·凯利《必然》也...
华为：已有十多家主流车企的中高端车型搭载 DriveONE，百公里加速达 4 秒级别
最新12月24日消息据"华为数字能源"微信公众号消息，昨日，全新高端智慧汽车品牌AITO正式发布。值得注意的是，AITO首款车型问界M5搭载华为DriveONE动力域解决方案，在高效率的前提下还能实现
微软将把必应聊天回复限制在 5 条以内，以防人工智能越界
最新2月18日消息，微软表示，在必应聊天机器人多次失控几天后，公司将对其人工智能聊天机器人实施一些对话限制。在发现必应存在侮辱用户、欺骗用户，甚至操纵用户情感等行为之后，微软决定将其聊天回复限制在每天
2023-02-24 资讯 我要分享
