项目简介
PaddleLite是百度飞桨开源的轻量化端侧推理引擎,为移动端、嵌入式和IoT设备提供高性能深度学习推理能力。
核心功能
• 轻量高效:极小的二进制体积和内存占用
• 多硬件支持:ARM CPU/GPU/NPU全面支持
• 量化推理:INT8/FP16量化加速
• 多框架兼容:支持Paddle/TensorFlow/Caffe/ONNX模型
• 跨平台部署:Android/iOS/Linux/RTOS全平台覆盖
技术栈
C++ / OpenCL / Metal / ARM / NPU / 端侧AI / 模型量化 / 推理引擎
详细描述
PaddleLite是PaddlePaddle移动端战略的核心产品,专门针对端侧推理场景进行了深度优化。通过内核融合、量化感知训练和异构调度等技术,实现了在资源受限设备上的流畅运行。支持主流AI芯片的NPU加速,让端侧AI应用得以落地。预置的模型压缩工具链大大降低了模型部署的门槛。
游客,本帖隐藏的内容需要积分高于 20 才可浏览,您当前积分为 0 |