Llama-2-7b-hm

我要开发同款
匿名用户2024年07月31日
22阅读
所属分类aiPytorch
开源地址https://modelscope.cn/models/levenchen/Llama-2-7b-hm
授权协议Apache License 2.0

作品详情

该模型当前使用的是默认介绍模版,处于“预发布”阶段,页面仅限所有者可见。
请根据模型贡献文档说明,及时完善模型卡片内容。ModelScope平台将在模型卡片完善后展示。谢谢您的理解。

Clone with HTTP

 git clone https://www.modelscope.cn/levenchen/Llama-2-7b-hm.git

Training procedure

The following bitsandbytes quantization config was used during training:

  • quant_method: bitsandbytes
  • loadin8bit: False
  • loadin4bit: True
  • llmint8threshold: 6.0
  • llmint8skip_modules: None
  • llmint8enablefp32cpu_offload: False
  • llmint8hasfp16weight: False
  • bnb4bitquant_type: nf4
  • bnb4bitusedoublequant: True
  • bnb4bitcompute_dtype: bfloat16

Framework versions

  • SWIFT 1.2.0

Base model information

  • BaseModel Class LlamaForCausalLM
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论