三分钟看懂深度学习标签平滑（Label Smoothing）技巧

交叉熵（Cross-Entropy）损失函式是分类模型中的一种非常重要的目标函式。在二分类问题中，交叉熵损失函式的形式如下：−[ylogp+(1−y)log(1−p)]如果分类准确，交叉熵损失函式的结果是0（即上式中p和y一致的情况），否则交叉熵为无穷大。也就…

2019-10-02 科技 我要分享

谷歌研究员：主流框架softmax都有两个bug

谷歌研究员JonBarron等人在arXiv发文指出，PyTorch、TensorFlow、JAX等主流框架的softmax与交叉熵实现存在两个数值bug：目标梯度在精度悬崖处归零、蒸馏中产生虚假梯度

2026-10-24 科技 我要分享

理解神经网络的不同损失函式

针对不同的目标使用不同的损失函式。在本文中，我将通过一组示例向您介绍一些常用的损失函式。本文是使用Keras和Tensorflow框架的设计。损失函式：简介损失函式有助于优化神经网络的引数。我们的目标是通过优化神经网络的引数（权重）使其损失最小化。损失由损失函…

2019-11-02 科技 我要分享

Hinton等人最新研究：大幅提升模型准确率 标签平滑技术怎么用？

作者 | Rafael Müller , Simon Kornblith, Geoffrey Hinton译者 | Rachel责编 | Jane出品 | AI科技大本营（ID: rgznai100）【导读】损失函式对神经网络的训练有显著影响，也有很多学者人一…

2020-01-25 科技 我要分享

入门|一文了解什么是语义分割及常用的语义分割方法有哪些

选自The Gradient 作者：Andy Chen、Chaitanya Asawa 机器之心编译 参与：李诗萌、思源 语义分割是计算机视觉中的基础任务，我们通常会使用基于 CNN 加 CRF...

2018-06-07 科技 我要分享

为什么说Google的搜寻广告优于Facebook的个性化展示广告？

有了互联网，广告就可以发挥自身的灵活性，成为能够触及更多的受众，成本较低的互联网广告，使得小商家受益。于是电子商务得到了发展。假如你是一个做电商的，你会怎么利用互联网来打广告呢？那么多种互联网广告，哪种效果最好呢？具体到哪家媒体或者网站上去做呢？我们先…

2019-08-27 科技 我要分享

怎样构建深度学习模型？六步走 时刻小心过拟合

想要训练个深度神经网络，也准备好了可以直接用的数据，要从哪里开始上手？来自美国的Harry Khanna，精心编织了一套六步法。大家可以瞻仰一下，然后决定要不...

2018-07-03 科技 我要分享

飞桨上线万能转换小工具，教你玩转TensorFlow…

百度推出飞桨(PaddlePaddle)后，不少开发者开始转向国内的深度学习框架。但是从代码的转移谈何容易...

2019-06-26 综合 我要分享

机器学习决策树算法实战——理论＋详细的Python3代码实现

国庆长假已过近半，想想当初自己立下的学习计划 Flag 究竟有没有完成？一篇长文干货值得你收藏！作者简介：莫尘，学生一枚，努力学习机器学习，深度学习的相...

2018-10-04 科技 我要分享

私钥最短3比特 印度CA八张证书遭封堵

印度CA巨头eMudhra八张中间证书私钥泄露，密钥熵最低仅3比特，持钥者可为任意网站签发受信证书。Chrome、火狐、苹果、微软紧急封堵，Go、Python等跟进修复。暂无在野利用证据，但IoT与老

2026-10-21 科技 我要分享

机器学习入门系列(2)--如何构建一个完整的机器学习专案(一)

上一篇机器学习入门系列（1）--机器学习概览简单介绍了机器学习的一些基本概念，包括定义、优缺点、机器学习任务的划分等等。接下来计划通过几篇文章来介绍下，一个完整的机器学习专案的实现步骤，最后会结合《hands-on-ml-with-sklearn-and-tf…

2020-01-26 科技 我要分享

机器学习速成分类演算法：逻辑回归（Logistic回归）

大家好，今天我们学习【机器学习速成】之 分类算法: 逻辑回归（Logistic 回归）。逻辑回归会生成一个介于 0 到 1 之间的概率值。我们 马上学三点 ：线性回归的不足;什么是逻辑回归;逻辑回归的损失和正则化;大家可以点选下面的“ 了解更多 ”，或搜寻“…

2019-11-02 科技 我要分享

飞桨上线万能转换小工具 教你玩转TensorFlow、Caffe等模型迁移_astf

本文作者：飞桨开发者说成员Charlotte 百度推出飞桨（PaddlePaddle）后，不少开发者开始转向国内的深度学习框架。但是从程式码的转移谈何容易，之前的工作重写一遍不太现实，成千上万行程式码的手工转换等于是在做一次二次开发。 现在，有个好讯息：无…

2019-10-07 科技 我要分享

中国科学院成功研制首台全自动干细胞诱导培养设备

关注全球技术地图获取科技前沿动态科技战略美市场研究机构发布指挥、控制、通信、计算机、情报、监视和侦察系统市场预测报告据国防科技信息网5月16日消息，美...

2018-05-17 科技 我要分享

清华化工系燕立唐课题组发文报道石墨烯奈米片在细胞双层磷脂膜间的输运机理

查化学品百科，用化学加小程式更方便导读6月7日，清华大学化工系燕立唐课题组与中国科学院过程所魏炜课题组合作在《科学进展》(Science Advances)发表文章《石墨烯奈米片在细胞膜夹层间的输运》(Transport of a graphene nanos…

2019-11-28 科技 我要分享

学界|Bengio等提出稀疏注意力回溯：长期依赖关系建模的更一般化机制

选自 arXiv 作者：Nan Rosemary Ke 等 机器之心编译 参与：Geek AI、王淑婷 训练循环神经网络的常规做法是利用基于时间的反向传播算法，该算法在处理长...

2018-10-24 科技 我要分享

解析深度神经网络背后的数学原理

作者 | Piotr Skalski译者 | 巧克力编辑 | Jane出品 | AI科技大本营【导读】为了更好地理解神经网络的运作，今天只为大家解读神经网络背后的数学原理。而作者...

2018-08-24 科技 我要分享

惊为天人 NumPy手写全部主流机器学习模型 程式码超3万行

机器之心报道参与：思源、一鸣、张倩用 NumPy 手写所有主流 ML 模型，普林斯顿博士后 David Bourgin 最近开源了一个非常剽悍的专案。超过 3 万行程式码、30 多个模型，这也许能打造“最强”的机器学习基石？NumPy 作为 Python 生态…

2019-07-21 科技 我要分享

一键切换隐私计算模式！矩阵元Rosetta最新版本…

自今年5月隐私AI开源框架Rosetta发布以来，引发了业内持续关注，“一键”切换隐私计算模式，AI数据...

2020-12-10 综合 我要分享

Cloudflare上新Clef-omni 决策模型全面多模态

Cloudflare发布开放权重决策模型Clef-omni，新增音频与视频输入，文本决策中位延迟约130毫秒；Clef提速最高一倍、Clef-flash降价至低于TypeSafeJev，代价是托管版上

2026-10-10 人工智能 我要分享