飞桨端侧推理引擎重磅升级为Paddle Lite，更高…

百度深度学习平台飞桨(PaddlePaddle)再放大招!端侧推理引擎全新升级，重磅发布Paddle Lite，旨在推...

2019-08-21 综合 我要分享

火山引擎 × NVIDIA：在推荐系统、推理引擎、自动驾驶等多个领域赋能企业

过去十年，计算能力构建和应用程序计算性能有了跨越式发展。在最近举办的火山引擎FORCE原动力大会上，NVIDIA中国区工程和解决方案总经理赖俊杰提到，加速计算、数据中心大规模扩展和人工智能的结合，正在

2022-08-03 资讯 我要分享

加速 3.47 倍！火山引擎助力 AIGC 突破性能瓶颈

AIGC（AI-GeneratedContent人工智能生成内容）一经推出火爆全网，各种画风和产品形态频频出现且快速演进。以StableDiffusion模型为例，一次完整的预训练大约需要在128张A

2023-01-05 资讯 我要分享

OpenAI上线控制室 35秒掐断失控任务

OpenAI披露内部安全系统ControlRoom，研究任务须凭作业ID申请推理权限，判定有风险后35秒内切断模型输出；控制室自身故障或被篡改时，所有推理请求默认拒绝，现已覆盖全部前沿研究负载。

2026-11-10 人工智能 我要分享

机器学习推理引擎ONNX Runtime 1.8开始支援网页AI用例

ONNX Runtime 1.8加入网页支援，可以在浏览器中使用CPU和GPU来加速模型运算

2021-06-09 综合 我要分享

Xilinx发表AI专用处理器Versal，推理效能是TeslaV100的8倍

Versal是第一款使用适应性运算加速平台（AdaptiveComputeAccelerationPlatform，ACAP）的处理器，其使用多种计算加速技术，可以为任何应用程序提供强大的异构加速。

2018-10-05 综合 我要分享

Xilinx发表AI专用处理器Versal，推理效能是Tesla V100的8倍

Versal是第一款使用适应性运算加速平台（Adaptive Compute Acceleration Platform，ACAP）的处理器，其使用多种计算加速技术，可以为任何应用程序提供强大的异构加速。

2019-01-19 综合 我要分享

英伟达深度学习推理引擎TensorRT 现在开源了

机器之心报道参与：李亚洲、李泽南、思英伟达的深度学习推理引擎TensorRT是连线神经网络框架与GPU之间的桥梁，它支援所有种类的神经网络框架，近期也实现了容器化，目前的TensorRT是5.1版。6月17日，英伟达宣布了TensorRT的开源。专案连结：ht…

2019-12-08 科技 我要分享

TensorFlow采用OpenCL后端使GPU推理效能加倍

OpenCL的设计更适合用于各种计算加速器，因此以OpenCL后端处理行动装置GPU推理工作负载，比OpenGL后端效能好上许多

2020-08-20 综合 我要分享

上海交大发布「人类行为理解引擎」：深度学习 + 符号推理，AI 逐帧理解大片中每个动作

看图看片，对现在的AI来说早已不是什么难事。不过让AI分析视频中的人类动作时，传统基于目标检测的方法会碰到一个挑战：静态物体的模式与行为动作的模式有很大不同，现有系统效果很不理想。现在，来自上海交大的

2022-05-08 资讯 我要分享

开源背后 | 面对端侧推理引擎的挑战 阿里工程师如何应对？

​阿里妹导读：MNN（Mobile Neural Network）已于今年5月7日在 Github 上正式开源。淘宝无线开发专家——陈以鎏（离青）在 GMTC 全球大前端技术大会为大家分享了 MNN 开发、开源中的思考与总结，通过淘宝在移动 AI 上的实践经验…

2019-07-23 科技 我要分享

开源背后 | 面对端侧推理引擎的挑战 阿里工程师如何应对？_模型

人工智能从 2006 年开始，迎来了第三次浪潮。随着 AlphaGo 在 2016 年、 2017 年先后战胜李世石和柯洁，人工智能彻底进入了公众的视野。人工智能大热的背后，是大资料的积累，是深度学习的发展，也是装置算力的提升。与此同时，深度学习的框架也…

2019-08-10 科技 我要分享

TensorFlow释出最新1.7版！除了整合Nvidia推理优化引擎TensorRT，还新增追踪ML建模的除错仪表板

Google于3月27日时，正式释出TensorFlow1.7版，不仅能整合了Nvidia的TensorRT推理优化引擎，还增添了除错仪表板，让使用者可以随时暂停执行，来观察不同节点的执行情况

2018-03-31 综合 我要分享

英特尔推出NNP-I神经网络处理器：大改Ice Lake 新增Nervana推理处理引擎

人工智能是当下最火热的话题，从手机到超算都在其中增加AI的AI运算能力。英特尔在台北电脑展上推出了全新的Ice Lake处理器，其中增添的AVX512指令集以增强其AI运算效能。不过英特尔的想法不止于此，根据Tom‘s Hardware的报道，英特尔在位于以色…

2019-09-13 科技 我要分享

性能最高提升 3 倍，火山引擎 GPU 云服务器 ini2 实例上线

不久前，火山引擎成功推出基于NVIDIAA30TensorCoreGPU的云服务器ini2实例。新一代的ini2实例对比上一代基于T4的g1tl实例产品，综合性能最高可提升3倍。火山引擎ini2实例各

2022-12-19 资讯 我要分享

Nvidia开源高效能推理平台TensorRT函式库元件

TensorRT支援热门的深度学习开发框架，可以最佳化这些框架开发的模型，并部署到嵌入式、自动驾驶或是资料中心平台

2019-07-08 综合 我要分享

AI独角兽 进化乃发生：2019第四正规化释出会 一体化AI解决方案

如今，所有的AI独角兽均在深入应用场景，抓紧技术落地，加速进化。第四正规化也是进化队伍中的一个。在过去4年，第四正规化助力7617个客户的12648个场景。但是，因为人工智能算法在产业链中的位置太单薄，向下垂直发展平台和算力是必然选择。2019年6月20日，…

2019-11-10 科技 我要分享

进化乃发生：2019第四正规化新品释出会 一体化AI解决方案

如今，所有的AI独角兽均在深入应用场景，抓紧技术落地，加速进化。第四正规化也是进化队伍中的一个。本次释出会的主角是企业级 AI 软硬一体整合系统——SageOne。因为人工智能算法在产业链中的位置太单薄，向下垂直发展平台和算力是必然选择。今天，第四正规化也找…

2019-11-13 科技 我要分享

构建企业AI“1+N ”转型的磐石 第四范式发布…

2019年6月20日，北京，人工智能企业第四范式正式发布了企业级 AI 软硬一体集成系统——Sa...

2020-02-04 综合 我要分享

2.69 分钟完成 BERT 训练，华为 CANN 5.0 速度展示

快，着实有点快。现在，经典模型BERT只需2.69分钟、ResNet只需16秒。啪的一下，就能完成训练！这是华为全联接2021上，针对异构计算架构CANN5.0放出的最新性能"预热"：4K老电影AI修

2022-05-08 资讯 我要分享