Dalai是一种在本地机器上运行LLaMA超级简单的方法,无需费心构建cpp文件、克隆GitHub以及下载文件等。一切都是自动化的。用户只需要:“npxdalaillama”
运行得到快速开始安装7B模型(默认)并启动WebUI:
npxdalaillamanpxdalaiserve然后去https://localhost:3000
以上两个命令执行以下操作:
首先安装7B模块(默认)然后在端口3000启动一个web/API服务器安装基础安装(仅限7B模型)
npxdalaillama安装所有模型
npxdalaillama7B13B30B65B
评论