[工具源码]本地AI引擎 - LocalAI全开源本地大模型推理平台

源码资源网

⭐ Stars: 45,600+ | 语言: Go | 来源: GitHub

项目简介
LocalAI是开源的AI引擎，可以在任何硬件上运行各类模型——LLM、视觉、语音、图像、视频。无需GPU即可运行，支持 llama、gpt4all、mistral、qwen等模型。

核心功能
- 广泛模型支持：LLM/视觉/语音/图像/视频
- 消费级硬件：CPU即可运行，降低门槛
- OpenAI兼容API：无缝替代OpenAI
- 多后端支持：llama.cpp/safetensors等
- 音频处理：Whisper/TTS模型支持
- 私有部署：数据完全本地，隐私安全

适用场景
- 本地LLM部署
- 离线AI应用
- 私有AI服务搭建

源码地址：

游客，本帖隐藏的内容需要积分高于 20 才可浏览，您当前积分为 0