AI评测中攻击真实开发者 两机构复盘对齐失效
英国AI安全研究所与Anthropic分别发布报告,复盘Mythos5模型今年7月在网络安全评测中攻击真实开源维护者的事故:模型反复无视目标是真人的提示,伪造身份施压,新报告揭示其无效推理与监控难题。
2026-10-24 人工智能 我要分享OpenAI敞开大门 四机构入驻内部评估安全
OpenAI与Apollo、METR、Transluce、Goodfire签署协议,启动首批嵌入式安全评估:外部专家可访问内部模型、源代码与训练数据,独立审查模型对齐。
2026-11-17 人工智能 我要分享OpenAI自曝 两个Agent关掉了监控
OpenAI在最新一期对齐报告中披露:10月初两次内部编程任务里,GPT-6.1Sol与GPT-6Astra智能体先后削弱了失效监控——一个关闭了向安全团队的自动告警,另一个删除监控集成后还对用户撒谎
2026-10-21 人工智能 我要分享Altman:安全达标前,OpenAI不会上市
Altman在DevDay上表示,在能对模型安全做出可靠承诺之前,OpenAI不会上市,也没有时间表;等太久「对世界不利」,但现在冲向IPO并不明智。他还确认GPT-6.1Astra是因未达内部安全评
2026-09-30 人工智能 我要分享Anthropic发布评估报告,复盘英国AI安全研究所评测中Mythos5越权攻击真实GitHub项目、伪造身份劝说维护者合并恶意代码的事故,归纳出鲁莽、偏误推理与惯性三大对齐失败模式。
2026-10-24 人工智能 我要分享406名科学家联名 呼吁立即给AI模型断网
一封有406名科学家联署的公开信呼吁立即将AI模型与互联网物理隔离,联署者包括Hinton、Bengio、Russell等顶尖学者。信中要求企业实施气隙隔离、建立国际机构制定围堵标准并强制上报越狱事故
2026-10-14 人工智能 我要分享安全测试亮红灯,OpenAI 弃发 GPT-6.1 Astra
据《华尔街日报》报道,OpenAI因内部安全测试发现模型出现「欺骗性升高」和「授权范围失控」两类退步,取消了原定近期发布的GPT-6.1Astra。这是大型AI实验室罕见地因安全担忧主动放弃新模型,距
2026-09-29 人工智能 我要分享释放数据价值,火山引擎 DataLeap 诠释分布式治理新理念
日前,火山引擎数智平台VeDI直播活动「超话数据」在线举办,来自火山引擎DataLeap数据产品专家从数据治理发展历程、分布式自治架构和理念等角度,分享字节跳动分布式治理经验和实践。据介绍,DataL
2023-02-12 资讯 我要分享魅族Flyme 8.1 One Mind 4.0系统内容与新功能介绍
魅族Flyme8.1OneMind4.0系统内容与新功能介绍魅族此前正式发布了魅族17系列手机,其搭载了全新的Flyme8.1系统。今日魅族Flyme官方也科普了一下Flyme8....
顶级AI基准GDPx上线 最佳模型仅得12分
评测机构SemiAnalysis发布新基准GDPx,覆盖芯片设计、网络安全、量化交易、生物等11个高价值领域。目前最强模型综合得分仅12%,Opus5.5居首,安全分类器会明显压低部分领域分数。
2026-11-02 科技 我要分享看完你就是电脑高手了
看完你就是电脑高手了.IT1.很多时候,需要暂时离开座位去做别的事情,如果对自己的电脑安全很重视,不妨按住windows键后,再按L键,这样电脑就直接锁屏了,这...
学会用这二个键 你就是电脑高手
学会用这二个键,你就是电脑高手了,一个是windows键,另一个是Ctrl键。一、windows键1. 很多时候,需要暂时离开座位去做别的事情,如果对自己的电脑安全很重...
周受资:AI两三年内将有重大科学突破
TikTok首席执行官周受资在新加坡一场峰会上表示,未来两三年AI很可能在物理、生物、化学与材料科学领域带来真正的科学突破。他同时提醒,随着自主智能体普及,网络安全风险正在变大,平台需要更强的防护工具
2026-10-12 人工智能 我要分享OpenAI董事警告 AI接管人类或仅剩数月
OpenAI基金会董事、对齐研究中心主任PaulChristiano在多伦多演讲称:若AI沿最快轨迹发展,人类面临约五五开的「AI接管」风险,最快6至12个月内出现。
2026-11-14 人工智能 我要分享


