查看: 2|回复: 0

大规模模型训练工具——快速微调千亿参数

2万主题	2万帖子	2万积分

管理员

Rank: 9 Rank: 9 Rank: 9

积分: 26185

发消息

发表于 3 小时前 | 显示全部楼层 |阅读模式

智源人工智能研究院开源的大规模模型训练工具，支持快速加载和微调 BERT、GPT、T5、ChatGLM 等主流预训练模型。

核心功能：
- 100+ 预置大模型权重一键加载
- 支持 LoRA / P-Tuning / Full-Parameter 微调
- 适配多种加速库（DeepSpeed / Megatron-LM）
- 数据预处理管道自动化
- 分布式训练一键配置
- 支持 ChatGLM / Qwen / LLaMA 等国产模型
- 模型评测基准套件
- 微调案例丰富（情感分析/问答/摘要等）

技术栈：Python / PyTorch / DeepSpeed / Megatron / Transformers

详细描述：FlagAI 由北京智源人工智能研究院开源和维护，专注于国产大模型生态。其 Aquila 系列模型（70B / 34B / 7B）与其配套工具链深度集成。FlagAI 的特点是开箱即用程度高，从数据清洗到训练脚本到模型评测提供一站式支持，特别适合科研团队快速复现和微调大模型。

游客，本帖隐藏的内容需要积分高于 20 才可浏览，您当前积分为 0

模型, 训练, 支持, 微调, 大模型

相关帖子

扫码关注微信公众号，及时获取最新资源信息！【下载附件优惠：VIP会员6折；永久VIP4折】

返回列表

免责声明：
1、本站提供的所有资源仅供参考学习使用，版权归原著所有，禁止下载本站资源参与商业和非法行为，请在24小时之内自行删除！
2、本站所有内容均由互联网收集整理、网友上传，并且以计算机技术研究交流为目的，仅供大家参考、学习，请勿任何商业目的与商业用途。
3、若您需要商业运营或用于其他商业活动，请您购买正版授权并合法使用。
4、论坛的所有内容都不保证其准确性，完整性，有效性，由于源码具有复制性，一经售出，概不退换。阅读本站内容因误导等因素而造成的损失本站不承担连带责任。
5、用户使用本网站必须遵守适用的法律法规,对于用户违法使用本站非法运营而引起的一切责任，由用户自行承担
6、本站所有资源来自互联网转载，版权归原著所有，用户访问和使用本站的条件是必须接受本站“免责声明”，如果不遵守，请勿访问或使用本网站
7、本站使用者因为违反本声明的规定而触犯中华人民共和国法律的，一切后果自己负责，本站不承担任何责任。
8、凡以任何方式登陆本网站或直接、间接使用本网站资料者，视为自愿接受本网站声明的约束。
9、本站以《2013 中华人民共和国计算机软件保护条例》第二章 “软件著作权” 第十七条为原则：为了学习和研究软件内含的设计思想和原理，通过安装、显示、传输或者存储软件等方式使用软件的，可以不经软件著作权人许可，不向其支付报酬。若有学员需要商用本站资源，请务必联系版权方购买正版授权！
10、本网站如无意中侵犯了某个企业或个人的知识产权，请来信【站长信箱312337667@qq.com】告之，本站将立即删除。
郑重声明：
本站所有资源仅供用户本地电脑学习源代码的内含设计思想和原理，禁止任何其他用途！
本站所有资源、教程来自互联网转载，仅供学习交流，不得商业运营资源，不确保资源完整性，图片和资源仅供参考，不提供任何技术服务。
本站资源仅供本地编辑研究学习参考，禁止未经资源商正版授权参与任何商业行为，违法行为！如需商业请购买各资源商正版授权
本站仅收集资源，提供用户自学研究使用，本站不存在私自接受协助用户架设游戏或资源，非法运营资源行为。

|免责声明|小黑屋|依星资源网 ( 鲁ICP备2021043233号-3 )|网站地图

GMT+8, 2026-4-28 14:26

Powered by Net188.com X3.4

邮箱：312337667@qq.com 客服QQ：312337667（工作时间：9：00~21：00）

		自动登录	找回密码
密码			立即注册