详情介绍
Paddle Lite是一个高性能、轻量级、灵活性强且易于扩展的深度学习推理框架,定位支持包括移动端、嵌入式以及服务器端在内的多硬件平台。
当前Paddle Lite不仅在百度内部业务中得到全面应用,也成功支持了众多外部用户和企业的生产任务。
主要特性
多硬件支持:
Paddle Lite架构已经验证和完整支持从 Mobile 到 Server 多种硬件平台,包括 ARM CPU、Mali GPU、Adreno GPU、华为 NPU,以及 FPGA 等,且正在不断增加更多新硬件支持。
各个硬件平台的 Kernel 在代码层和执行层互不干扰,用户不仅可以自由插拔任何硬件,还支持任意系统可见硬件之间的混合调度。
轻量级部署:
Paddle Lite在设计上对图优化模块和执行引擎实现了良好的解耦拆分,移动端可以直接部署执行阶段,无任何第三方依赖。
包含完整的80个 op+85个 Kernel 的动态库,对于ARMV7只有800K,ARMV8下为1.3M,并可以通过裁剪预测库进一步减小预测库文件大小。
高性能:
极致的 ARM CPU 性能优化:针对不同微架构特点实现kernel的定制,最大发挥计算性能,在主流模型上展现出领先的速度优势。
支持 PaddleSlim模型压缩工具:支持量化训练、离线量化等多种量化方式,最优可在不损失精度的前提下进一步提升模型推理性能。性能数据请参考 benchmark。
多模型多算子:
Paddle Lite和PaddlePaddle训练框架的OP对齐,提供广泛的模型支持能力。
目前已严格验证24个模型200个OP的精度和性能,对视觉类模型做到了较为充分的支持,覆盖分类、检测和定位,包含了特色的OCR模型的支持,并在不断丰富中。具体请参考支持OP。
强大的图分析和优化能力:
不同于常规的移动端预测引擎基于 Python 脚本工具转化模型, Lite 架构上有完整基于 C++ 开发的 IR 及相应 Pass 集合,以支持操作熔合,计算剪枝,存储优化,量化计算等多类计算图优化。更多的优化策略可以简单通过 新增 Pass 的方式模块化支持。
下载地址
人气源码
相关文章
-
泰顶项目管理软件(全功能开源版) v2024.10
泰顶项目管理软件[综合平台],始于2010年,具有强大的项目计划和流程管控功能,上千用户使用,模块俱全,架构灵活,成熟可靠,适用于多个行业的专业的项目管理软件平台...
-
DBCHM beta数据库文档生成工具 v1.9.0.1
DBCHM 是一款简单、实用的数据库文档生成工具,该工具从最初支持chm文档格式开始,通过开源,集思广益,不断改进,本文给大家介绍DBCHM beta数据库文档生成工具 v1.9.0.1 ...
-
eCRM(E客CRM)客户关系管理系统 v1.0.10
eCRM(E客CRM)是基于eFrameWork低代码开发平台搭建的客户关系管理系统。其主要功能包括:系统管理、产品管理、产品分类、客户管理、订单管理、客户回访、通知公告、销售计划...
-
Util6MIS(优六企服系统_附CMS插件及模板) v5.0 源码版
Util6MIS(优六企服系统)已集成多项插件系统,其Util6 CMS、DMS、OAS、WXS 是在信息化管理系统框架(Util6MIS)基础上开发的插件系统,欢迎需要的朋友下载使用...
-
C#实现插件式开发源码
今天给大家分享基于c#开发的插件式源码,喜欢的朋友快来下载体验吧...
-
C#实现报警收集系统源码
今天给大家分享的是一款基于C#实现报警收集系统源码,非常不错,喜欢的朋友快来下载体验吧...
-
C# 文字转语音源码
今天给大家分享的实例代码是C# 文字转语音源码,喜欢的朋友快来下载体验吧...
-
基于C#语言开发文件上传、后缀名称判别功能
今天给大家分享基于c#语言开发的文件上传、后缀名称判别功能,喜欢的朋友快来下载使用吧...
-
C#图片去背景示例源码
今天给大家分享基于c#实现图片去背景示例源码,喜欢的朋友快来下载体验吧...
-
C# remoting聊天室源码
使用C#编的聊天工具的程序, 此程序是一款用与REMOTING技术的程序,非常不错,喜欢的朋友快来下载体验吧...
下载声明
☉ 解压密码:www.jb51.net 就是本站主域名,希望大家看清楚,[ 分享码的获取方法 ]可以参考这篇文章
☉ 推荐使用 [ 迅雷 ] 下载,使用 [ WinRAR v5 ] 以上版本解压本站软件。
☉ 如果这个软件总是不能下载的请在评论中留言,我们会尽快修复,谢谢!
☉ 下载本站资源,如果服务器暂不能下载请过一段时间重试!或者多试试几个下载地址
☉ 如果遇到什么问题,请评论留言,我们定会解决问题,谢谢大家支持!
☉ 本站提供的一些商业软件是供学习研究之用,如用于商业用途,请购买正版。
☉ 本站提供的Paddle Lite深度学习框架 v2.14资源来源互联网,版权归该下载资源的合法拥有者所有。