可解释性人工智能科普

PART.01概述1、可解释性人工智能（XAI）定义随着机器学习和人工智能技术在各个领域中的迅速发展和应用，向用户解释算法输出的结果变得至关重要。人工智能的可解释性是指人能够理解人工智能模型在其决策过

2022-12-21 资讯 我要分享

UC伯克利可解释性机器学习：定义、方法和应用

可解释性是机器学习中一个快速发展的领域，并且有许多工作研究解释的各个方面。一些文章综述了对深度学习模型的事后解释的不同方法，并指出他们之间的相似之处。另外一些工作则是聚焦于如何评估解释。这些方法虽然从不同的角度出发，但是没有把解决可解释性机器学习的问题看成一个…

2019-01-20 科技 我要分享

清华AI Time：要强大的黑匣子 还是可解释的机器学习？

来源：大资料文摘要不要用准确性换可解释性？这可能是许多资源有限的创业公司，在技术研发中面临的重要问题，同时也是机器学习可解释性研究中的重要议题。把场景具体化，让我们先来看这样一道选择题。如果你是一个投资公司老板，针对电话诈骗检测，现在有一个可信度85%，但无法…

2019-10-27 科技 我要分享

要强大的黑匣子 还是可解释的机器学习？| 清华AI Time激辩

大资料文摘出品作者：宋欣仪要不要用准确性换可解释性？这可能是许多资源有限的创业公司，在技术研发中面临的重要问题，同时也是机器学习可解释性研究中的重要议题。把场景具体化，让我们先来看这样一道选择题。如果你是一个投资公司老板，针对电话诈骗检测，现在有一个可信度85…

2019-11-20 科技 我要分享

DeepMind 发布全新模型设计工具 Tracr：从可解释逻辑反向搭建模型

原文标题：《像Transformer一样思考！DeepMind发布全新模型设计工具Tracr：从可解释逻辑反向搭建模型》代码直接编译成Transformer模型，做实验从未如此轻松！「可解释性」一直是

2023-02-12 资讯 我要分享

干货 | 可解释的机器学习_模型

编译 | AI研习社 原标题 | Interpretable Machine Learning 作者 | Parul Pandey 译者 | intelLigenJ（演算法工程师）、鸢尾 注：本文的相关连结请访问文末【阅读原文】 图源Pexels的Pix…

2019-07-06 科技 我要分享

干货 | 可解释的机器学习

编译 | AI研习社原标题 | Interpretable Machine Learning作者 | Parul Pandey译者 | intelLigenJ（算法工程师）、鸢尾图源Pexels的Pixabay是时候摆脱黑盒模型，构建起对机器学习的信任了！想…

2019-07-29 科技 我要分享

可解释型AI打开黑盒子

深度学习方面的最大挑战之一是，向客户和监管机构解释模型是如何得到答案的。在许多情况下，即使我们对答案本身很有把握，还是根本不知道模型是如何得到答案...

2018-06-06 科技 我要分享

前沿|XNN：打开了自己黑箱的神经网络

选自Medium 作者：Shagun Maheshwari 机器之心编译 参与：陈韵竹、路 本文介绍了一种旨在“打开”并解释神经网络的新模型 XNN（可解释神经网络）。该网络包...

2018-08-20 科技 我要分享

让智慧模型说人话背后：AI可知论与不可知论的纠葛缠斗_人类

更多精彩，敬请关注硅谷洞察官方网站（http://www.svinsight.com） 现如今人类对于AI的应用，就好像带妈妈去外面的餐厅吃饭，妈妈们不光要吃，还总想弄明白这些菜是怎样做成的。就如同神经网络越是高效，我们就越好奇黑箱里究竟发生了什么。 一直以…

2019-07-26 科技 我要分享

Google在AI平台推出模型解释功能，说明资料特征与预测结果的关系

Google释出的Explainable AI，以解释资料和学习模型间的关系，提升模型预测结果的可解释性。

2019-11-23 综合 我要分享

如何让演算法解释自己为什么演算法歧视？

1算法的可解释性隐忧传播学者尼尔·波兹曼在《技术垄断》一书中断言，每一种新技术都既是包袱又是恩赐，不是非此即彼的结果，而是利弊同在的产物。作为一项新技术，人工智能以其强大的变革势能，重构了人类社会的原有规则和运作方式。人类把选择乃至决策的权力拱手交给AI，在…

2020-01-05 科技 我要分享

如何让演算法解释自己为什么演算法歧视？_人类

1 演算法的可解释性隐忧 传播学者尼尔·波兹曼在《技术垄断》一书中断言，每一种新技术都既是包袱又是恩赐，不是非此即彼的结果，而是利弊同在的产物。 作为一项新技术，人工智能以其强大的变革势能，重构了人类社会的原有规则和运作方式。人类把选择乃至决策的权力拱手交…

2020-01-10 科技 我要分享

深度：我们真的永远也理解不了人工智能吗？

在神经网络中，数据从一层传递到另一层，每一步都经历一些简单的转变。在输入层和输出层之间还隐藏着若干层，以及众多节点组和连接。其中往往找不出可被人类...

2018-07-25 科技 我要分享

可解释ML/3D深度学习等Github六月最受欢迎的机器学习库来啦

SHUBHAM SINGH总结了Github上6月份最火的7个专案。这七个专案涵盖可解释性机器学习、3D深度学习、时间序列挖掘以及视觉化工具等。各个专案都非常优秀。值得收藏检视。InterpretML by Microsoft – Machine Learni…

2019-10-02 科技 我要分享

上海交大张拳石：神经网络的可解释性 从经验主义到数学建模

文章释出于公号【数智物语】 （ID：decision_engine），关注公号不错过每一篇干货。作者 | 张拳石来源 | 转载自知乎Qs.Zhang张拳石本来想把题目取为“从炼丹到化学”，但是这样的题目太言过其实，远不是近期可以做到的，学术研究需要严谨。但是，…

2019-09-12 科技 我要分享

AI为何这样辨识人脸？台大徐宏民团队首创可解释AI新技术，正尝试扩大应用到金融和医疗AI

徐宏民率领团队所开发的人脸辨识XAI技术，称为xCos（Explainable Cosine）模组，不仅可以透过图像化的解释来说明AI决策的原因，在原先的AI模型中嵌入模组后，还能提高AI预测准确度，尤其在伪脸辨识方面，能够自动辨识人脸不自然的表面，聚焦在其他可辨识的人脸部位上，来提高伪脸辨识的准确率。

2020-05-12 综合 我要分享

微软释出机器学习框架ML.NET 0.8，以PFI技术增加模型可解释性

PFI透过置换模型的特定特征值为随机值，以评估该特征对模型的影响，且PFI方法与模型本身无关，可用于评估各种模型。

2019-01-17 综合 我要分享

微软释出机器学习框架ML.NET0.8，以PFI技术增加模型可解释性

PFI透过置换模型的特定特征值为随机值，以评估该特征对模型的影响，且PFI方法与模型本身无关，可用于评估各种模型。

2018-12-05 综合 我要分享

ICML 2019 | 神经网络的可解释性 从经验主义到数学建模

雷锋网 AI 科技评论按，本文作者张拳石，上海交通大学副教授，研究方向为机器学习、计算机视觉，本文首发于知乎，雷锋网 AI 科技评论获其授权转载。以下为正文内容。本来想把题目取为“从炼丹到化学”，但是这样的题目太言过其实，远不是近期可以做到的，学术研究需要严谨…

2019-11-15 科技 我要分享