qwen-7b-ggml

Clone with HTTP

 git clone https://www.modelscope.cn/tiansz/qwen-7b-ggml.git

该模型仓库是 qwen-7b-chat 的 ggml 模型，具体使用方法可参考 github 上的 qwen.cpp 项目，本仓库只做备份使用，同时你可以参考 chatglm.cpp 项目一起使用更佳。

为何要使用 ggml 模型？这是因为大模型所需硬件资源较高，考虑使用 C++ 版本的大模型可以降低硬件要求，并提升推理速度。