依星源码资源网,依星资源网

 找回密码
 立即注册

QQ登录

只需一步,快速开始

八字排盘系统济宁依星网络
查看: 5|回复: 0

开源本地大模型运行全家桶:Ollama/llama.cpp/GPT4All/Oatmeal/Jan/LM Studio/LocalAI

[复制链接] 主动推送

2万

主题

2万

帖子

2万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
26689
发表于 1 小时前 | 显示全部楼层 |阅读模式
开源本地大模型运行全家桶

本帖精选本地运行大语言模型的开源工具,涵盖Ollama、llama.cpp、GPT4All等,在个人电脑上无需联网即可运行GPT级别模型,隐私安全零成本。

  • ollama/ollama — 170K★ | Go | 本地LLM运行平台,ollama run llama3/deepseek/qwen,本地模型管理/GPU加速/Modelfile自定义,Mac/Linux/Win全平台
  • ggml-org/llama.cpp — 107K★ | C++ | 纯C++大模型推理,GGUF量化格式/Metal/CUDA/CPU,Mac M系列完美适配,q4_0/q5_K_M量化,无GPU运行7B模型
  • nomic-ai/gpt4all — 77K★ | C++ | 本地ChatGPT风格UI,GGUF模型/DirectLLM,Mac/Linux/Win,聊天历史,隐私保护无需联网
  • janhq/jan — 18K★ | TypeScript | 本地LLM平台,ChatGPT替代/OpenAI API兼容/多模型切换,Jan Engine推理引擎
  • lmstudioai/lm-studio | 桌面应用 | LM Studio本地模型运行,模型下载管理/Server API/聊天界面,GGUF支持,GPU卸载
  • mudler/LocalAI — 12K★ | Go | 本地REST API推理,OpenAI API兼容/GPT/S/stable-diffusion,Docker一键部署,语音转文本
  • oatml/oatpp | C++ | 高性能LLM推理框架,量化优化/GPU加速,支持LLaMA/Alpaca/Vicuna
  • imartinez/privateGPT — 11K★ | Python | 私有化GPT,文档问答/本地RAG/无互联网/GPT4All/llama.cpp,多文档支持


核心功能

• Ollama: ollama pull deepseek-r1,ollama run模型对话,Modelfile自定义,REST API端口11434
• llama.cpp: llama-cli -m model.gguf -prompt,llama-quantize量化,llama-server REST API,-ngl GPU卸载
• GPT4All: GUI下载模型,聊天历史,本地RAG,API Server模式
• LocalAI: docker-compose一键,/v1/chat/completions OpenAI兼容,/v1/images生成图片

适用场景

• 本地LLM体验
• 隐私敏感数据处理
• 离线AI应用
• 开发者API测试
• 个人知识库问答

游客,如果您要查看本帖隐藏内容请回复
扫码关注微信公众号,及时获取最新资源信息!下载附件优惠VIP会员6折;永久VIP4折
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

免责声明:
1、本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与商业和非法行为,请在24小时之内自行删除!
2、本站所有内容均由互联网收集整理、网友上传,并且以计算机技术研究交流为目的,仅供大家参考、学习,请勿任何商业目的与商业用途。
3、若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。
4、论坛的所有内容都不保证其准确性,完整性,有效性,由于源码具有复制性,一经售出,概不退换。阅读本站内容因误导等因素而造成的损失本站不承担连带责任。
5、用户使用本网站必须遵守适用的法律法规,对于用户违法使用本站非法运营而引起的一切责任,由用户自行承担
6、本站所有资源来自互联网转载,版权归原著所有,用户访问和使用本站的条件是必须接受本站“免责声明”,如果不遵守,请勿访问或使用本网站
7、本站使用者因为违反本声明的规定而触犯中华人民共和国法律的,一切后果自己负责,本站不承担任何责任。
8、凡以任何方式登陆本网站或直接、间接使用本网站资料者,视为自愿接受本网站声明的约束。
9、本站以《2013 中华人民共和国计算机软件保护条例》第二章 “软件著作权” 第十七条为原则:为了学习和研究软件内含的设计思想和原理,通过安装、显示、传输或者存储软件等方式使用软件的,可以不经软件著作权人许可,不向其支付报酬。若有学员需要商用本站资源,请务必联系版权方购买正版授权!
10、本网站如无意中侵犯了某个企业或个人的知识产权,请来信【站长信箱312337667@qq.com】告之,本站将立即删除。
郑重声明:
本站所有资源仅供用户本地电脑学习源代码的内含设计思想和原理,禁止任何其他用途!
本站所有资源、教程来自互联网转载,仅供学习交流,不得商业运营资源,不确保资源完整性,图片和资源仅供参考,不提供任何技术服务。
本站资源仅供本地编辑研究学习参考,禁止未经资源商正版授权参与任何商业行为,违法行为!如需商业请购买各资源商正版授权
本站仅收集资源,提供用户自学研究使用,本站不存在私自接受协助用户架设游戏或资源,非法运营资源行为。
 
在线客服
点击这里给我发消息 点击这里给我发消息 点击这里给我发消息
售前咨询热线
312337667

微信扫一扫,私享最新原创实用干货

QQ|免责声明|小黑屋|依星资源网 ( 鲁ICP备2021043233号-3 )|网站地图

GMT+8, 2026-4-30 18:36

Powered by Net188.com X3.4

邮箱:312337667@qq.com 客服QQ:312337667(工作时间:9:00~21:00)

快速回复 返回顶部 返回列表