Dalai 本地运行 LLaMA 的简单方法开源项目

我要开发同款
匿名用户2023年03月14日
66阅读
开发技术JavaScript
所属分类人工智能、自然语言处理
授权协议未知

作品详情

Dalai是一种在本地机器上运行LLaMA超级简单的方法,无需费心构建cpp文件、克隆GitHub以及下载文件等。一切都是自动化的。用户只需要:“npxdalaillama”

运行

得到

快速开始

安装7B模型(默认)并启动WebUI:

npxdalaillamanpxdalaiserve

然后去https://localhost:3000

以上两个命令执行以下操作:

首先安装7B模块(默认)然后在端口3000启动一个web/API服务器安装

基础安装(仅限7B模型)

npxdalaillama

安装所有模型

npxdalaillama7B13B30B65B
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论