数据缩至 1/5000,模型准确率却翻倍,谷歌新“蒸馏法”火了
在炼丹过程中,为了减少训练所需资源,MLer有时会将大型复杂的大模型"蒸馏"为较小的模型,同时还要保证与压缩前相当的结果。这就是知识蒸馏,一种模型压缩/训练方法。不过随着技术发展,大家也逐渐将蒸馏的对
ICML2018|再生神经网络:利用知识蒸馏收敛到更优的模型
选自arxiv 作者:Tommaso Furlanello等 机器之心编译 参与:王淑婷、思源 知识蒸馏将知识从一个复杂的机器学习模型迁移到另一个紧凑的机器学习模型,而一般...
打造通用NLU模型,微软靠知识蒸馏法改善多任务深度神经网络
微软研究院透过知识蒸馏法,结合Google AI开源的双向语言转换模型BERT,来改善多任务深度神经网络,打造出更稳固且通用的NLU模型
预测延迟少于1ms!揭秘基于ERNIE的百度飞桨语…
昨天,在“WAVE Summit+”2019深度学习开发者秋季峰会上,百度对外发布基于ERNIE的语义理...
编码代理OpenCode被入侵 用户密钥遭泄露
开源AI编码代理OpenCode确认遭“大规模蒸馏攻击”,约1.4%的Console用户工作区中保存的OpenAI、Anthropic和Google密钥可能泄露。官方已邮件通知受影响用户并协同三大服务
2026-10-18 人工智能 我要分享AI 理解不了“他她它”咋办?动词成为新突破口,机器人听到抹黄油就知道拿刀叉
给AI下指令时,总觉得和人沟通不太一样?没错,AI虽然能听懂一些具体的人类指令,例如:帮忙从餐厅搬个椅子过来。但要是换成只有代词(他/她/它/这/那/东西…)和动词的模糊指令,AI就一头雾水了:帮忙找
2022-12-21 资讯 我要分享Hedra发布模型工厂 让物理AI自己进化
Hedra发布物理AI模型工厂,用递归自我改进技术为机器人持续定制与优化模型,宣称物理一致性基准分数从30.3提升到34.9,服务即日起向制造、生物与国防等领域客户开放。
2026-11-11 人工智能 我要分享Meta旗舰模型下放 Muse智能体全员升级
Meta宣布用旗舰模型MuseWonder训练的专用版模型,向所有Muse和MetaAI用户推送,带来ActiveMemory与ActiveFocus两项新能力。Meta称新模型遗忘关键信息的概率降低
2026-11-08 人工智能 我要分享Sakana新框架 模型自己组队教自己
东京AI实验室SakanaAI发布自改进框架MASS:同一个模型分饰执行者、优化者与评估者三个角色,先搜索最优多智能体工作流,再把冠军团队的轨迹蒸馏回权重。两轮迭代后每token得分达基线1.2至1.
2026-10-12 人工智能 我要分享黑客夜袭OpenCode 用户AI账单一夜爆雷
AI编程工具OpenCode的云端控制台遭大规模攻击,约1.4%用户API密钥泄露,开发者账单被刷出数百甚至上千美元。OpenAI、Anthropic和谷歌联手止损,事件还暴露出安全护栏「帮倒忙」的行
2026-10-20 人工智能 我要分享FLUX 3 Klein开源 8GB显存跑4K图像
德国BlackForestLabs发布开源权重图像模型FLUX3ImageKlein:56亿参数,支持文生图、图像编辑与最多10张参考图,继承FLUX3的4K原生输出与像素级编辑;INT8版本最低8G
2026-10-16 人工智能 我要分享一句话生成 3D 模型,但只需 2D 数据训练|谷歌 & UC Berkeley
用2D数据训练出来的模型,也能生成3D图像了。输入简单的文本提示,就能生成3D模型,这个"AI画师"的技术如何?直接看效果。它生成的3D模型还具有密度、颜色。并且能够在不同的光照条件进行渲染。不仅如此
2022-12-21 资讯 我要分享为了看看《沙丘》会不会成真,科学家们用超级计算机算了三星期
《沙丘》是弗兰克・赫伯特(FrankHerbert)创作的史诗科幻小说,现已被改编为同名电影上映。小说的故事发生在遥远的未来,一颗沙漠星球厄拉科斯(Arrakis)上。赫伯特精雕细琢勾勒出了一个细节丰
2022-12-21 资讯 我要分享腾讯 QQ 团队 AI 音视频降噪算法揭秘:声声入耳皆清晰
当6亿用户习惯每天通过QQ发送语音和进行视频通话,或者在群里与网友语音接龙完成一场Pia戏,又或是与好友一起派对语音答题的时候,大家可曾想过,在不同场景下始终清晰、流畅的QQ音视频体验背后,到底是什么


