模型简介
模型名称：小羊代码助手
简介：帮助使用者生成指定的算法代码，支持多轮对话，有自我认知能力。
实验环境
- 显存：32GB，显存带宽：24G
- 环境：ModelScope Library
- 环境详情：ubuntu22.04-cuda12.1.0-py310-torch2.1.2
数据集和模型
选择模型： "qwen-1.8b-chat"。
数据集：
- code-alpaca-cn
- codefuse-python-en
- leetcode-python-en
- codefuse-evol-instruction-zh
Clone with HTTP
git clone https://www.modelscope.cn/xhongyang/XiaoYangCodeAssistant.git
运行实例：
根目录下 运行实例 根目录下 作业2 有代码微调和推理实例
运行代码：
import os
os.environ['CUDA_VISIBLE_DEVICES'] = '0'
from swift.llm import InferArguments, merge_lora_main, infer_main
best_model_checkpoint = '{chekpoint路径}'
infer_args = InferArguments(
ckpt_dir=best_model_checkpoint,
eval_human=True)
merge_lora_main(infer_args)
result = infer_main(infer_args)
评论