更轻,但更好!科大讯飞首发工业级中文预训练模型
近年来,以超大规模模型、海量训练数据、自监督学习准则为特点的无监督预训练模型备受关注。具有高通用性的无监督预训练大模型,结合知识和海量数据进行融合学习,通过提取原始数据的深层表征,实现对于下游任务的通
2023-01-06 资讯 我要分享图像分类任务不用冷启动,PaddlePaddle一口气…
PaddlePaddle在不断增加官方支持的模型的同时,也在关注预训练模型的丰富度。在过去的版本中,已发...
训练资料不足!?Google开源先进自然语言处理预训练技术BERT
BERT在史丹佛问答资料集SQuADv1.1获得新高分,准确度达93.2%,超过之前的最高分91.6%和人类91.2%。
训练资料不足不用愁!Google开源先进自然语言处理预训练技术BERT
BERT在史丹佛问答资料集SQuAD v1.1获得新高分,准确度达93.2%,超过之前的最高分91.6%和人类91.2%。
达摩院推出新型预训练对话模型 首次利用半监督学习注入知识
如何将人类知识注入预训练模型,让知识和数据有机融合,一直是AI研究中的难题。记者12日获悉,阿里达摩院研究人员首次利用半监督学习将标注的人类知识注入预训练对话模型,在MultiWOZ2.1等三个国际主
AI“大时代”,追一科技携手 IDEA 合作研究大型预训练模型
11月22日,追一科技与粤港澳大湾区数字经济研究院(IDEA)宣布,双方将共同开展大型预训练模型的研发工作。基于双方在自然语言研究和认知智能领域的模型、算法、算力、科研、工程、应用积累优势,立足社会和
超越谷歌BERT、XLNet!百度ERNIE 2.0关注持续…
2019年3月,百度正式发布NLP模型ERNIE,其在中文任务中全面超越BERT一度引发业界广泛关注和探讨。
登顶 CLUE 榜首,度小满“轩辕”刷新预训练模型记录
自然语言处理是人工智能皇冠上的明珠,近日,度小满金融AI-Lab让人类摘得明珠的步伐又前进了一步。据中文语言理解领域的权威测评基准官网公布,度小满金融AI-Lab研发的轩辕(XuanYuan)预训练模
南京大学团队 2040 张图片训练出 ViT,准确率 96.7%,连迁移性能都令人惊讶
ViT在计算机视觉领域取得了巨大的成功,甚至大有取代CNN之势。但是相比CNN,训练ViT需要更多的数据,通常要在大型数据集JFT-300M或至少在ImageNet上进行预训练,很少有人研究少量数据训
AI 自给自足,用合成数据做训练,效果比真实数据还好
AI生成的图像太逼真,为什么不能拿来训练AI呢?可别说,现在还真有人这么做了。来自香港大学、牛津大学和字节跳动的几名研究人员,决定尝试一下能否使用高质量AI合成图片,来提升图像分类模型的性能。为了避免
2023-02-24 资讯 我要分享微软完成2.8万亿参数模型预训练 叫板OpenAI
微软AI部门宣布完成2.8万亿参数MoE模型MAI-Base-2的预训练,称预训练算力效率比DeepSeek-V4-Pro-Base高4.2至12.3倍;负责人苏莱曼更在内部大会表示其性能超过驱动GP
2026-10-16 人工智能 我要分享PaddlePaddle升级解读|十余行代码完成迁移学习…
迁移学习 (Transfer Learning) 是属于深度学习的一个子研究领域,该研究领域的目标在于利用数据、任务、...


