该模型当前使用的是默认介绍模版,处于“预发布”阶段,页面仅限所有者可见。
请根据模型贡献文档说明,及时完善模型卡片内容。ModelScope平台将在模型卡片完善后展示。谢谢您的理解。
Clone with HTTP
git clone https://www.modelscope.cn/wwewwt/zuchongzhi.git
角色扮演-韦小宝
基座模型 Internlm2-chat-7b
微调数据集
微调框架 Xtuner0.1.13
一个大语言模型微调工具箱。由 MMRazor 和 MMDeploy 联合开发。
1.2 支持的开源LLM (2023.11.01) InternLM ✅ Llama,Llama2 ChatGLM2,ChatGLM3 Qwen Baichuan,Baichuan2 …… Zephyr 1.3 特色 ? 傻瓜化: 以 配置文件 的形式封装了大部分微调场景,0基础的非专业人员也能一键开始微调。 ? 轻量级: 对于 7B 参数量的LLM,微调所需的最小显存仅为 8GB : 消费级显卡✅,colab✅ 1.4 微调原理 想象一下,你有一个超大的玩具,现在你想改造这个超大的玩具。但是,对整个玩具进行全面的改动会非常昂贵。
※ 因此,你找到了一种叫 LoRA 的方法:只对玩具中的某些零件进行改动,而不是对整个玩具进行全面改动。
※ 而 QLoRA 是 LoRA 的一种改进:如果你手里只有一把生锈的螺丝刀,也能改造你的玩具。
Full : ? → ? LoRA : ? → ? QLoRA : ? → ?
评论