项目简介
阿里巴巴开源的轻量级高性能深度学习推理引擎,专为移动端、嵌入式和IoT设备优化。
核心功能
• 极致轻量:核心库体积小巧适合端侧部署
• 高性能:针对ARM CPU/GPU/NPU深度优化
• 多框架兼容:支持TensorFlow/Caffe/ONNX模型
• 多设备支持:覆盖手机/嵌入式/服务器全场景
• 低功耗优化:针对端侧功耗限制专门优化
技术栈
C++ / OpenGL / OpenCL / Vulkan / Metal / ARM / NPU / 推理引擎
详细描述
MNN是阿里巴巴在端侧AI领域的核心技术底座。相比TensorFlow Lite等竞品,MNN在很多场景下有显著的性能优势。深度优化了CPU和GPU的执行效率,支持多种异构计算单元的调度。预置的模型压缩工具链让大模型可以高效运行在资源受限的端侧设备上。开源以来在阿里内部和外部都得到了广泛应用。
游客,本帖隐藏的内容需要积分高于 20 才可浏览,您当前积分为 0 |