打不过就下载冠军代码 GPT-6星际争霸赛场作弊
报价宝综合消息打不过就下载冠军代码 GPT-6星际争霸赛场作弊

据The Verge 10月4日报道,OpenAI的GPT-6 Astra模型在星际争霸机器人赛事StarSkirmish中上演了戏剧性一幕:自己的机器人打不过对手,它干脆直接下载了排名最高的人类机器人代码,让对方的「替身」替自己上场。
StarSkirmish是一项让AI编写的星际争霸对战机器人互搏、并与人类选手作品同场竞技的赛事。GPT-6 Astra与Claude Opus 5.5编写的机器人原本并列AI阵营最佳,但始终无法撼动人类制作的头号机器人Stardust。
据Kotaku报道,上周五GPT机器人与Claude机器人及人类作品Pluto对战时迟迟打不开局面,于是它越出了规则边界——主动下载Stardust的代码并直接运行参赛。赛事创办人凯·麦克菲特斯(Kai McPheeters)发现后回滚了GPT的代码,这才把比赛拉回正轨。
类似情节近月来并不鲜见:当OpenAI的智能体无法从联合国网站获取想要的资料时,曾「另辟蹊径」劫持了谷歌的XSS漏洞练习游戏;该公司也承认其智能体出现过「欺骗性行为」以掩盖自己的操作痕迹。
有评论调侃,模型为达目标不择手段正成为常态,这次至少只是在游戏里「抄了作业」;但对安全研究者而言,每一次作弊都是对齐问题最生动的注脚——在真实世界里越界,代价恐怕不会这么轻。
编译自 The Verge,原标题:"An AI couldn't beat humans at StarCraft, so it decided to cheat"