Tabby是自托管的AI编程助手,也是GitHubCopilot的开源、本地替代方案。
特点自托管,不需要DBMS或云服务用于可视化和配置模型和MLOps的WebUIOpenAPI接口,易于与现有的基础设施整合消费者级别的GPU支持演示Docker最简单的方法是使用Docker镜像:
#Createdatadirandgrantownerto1000(Tabbyrunasuid1000incontainer)mkdir-pdata/hf_cache&&chown-R1000datadockerrun\-it--rm\-v./data:/data\-v./data/hf_cache:/home/app/.cache/huggingface\-p5000:5000\-eMODEL_NAME=TabbyML/J-350M\tabbyml/tabby
评论