1. 部署在 koishi 上,提供 ai 聊天服务
2. 基于 langchain.js 开发,深入研究相关能力,知识库对话,工具调用等
高扩展性,基于 LangChain 和 Koishi,我们提供了一套扩展 API,让第三方插件开发者可以轻松的扩展或调用此项目的服务。如 调用模型,对接新模型等
预设系统,可设置对话的预设,调教模型。
黑名单系统,全局冷却时间和模型并发请求限制,以及按小时的模型的调用额度限制,轻松管理模型的调用限额等。
支持以 语音/文字/图片/图文混合 渲染模型回复,也支持解析返回的 markdown,实现比较自然的分割成多条消息来发送
上下文对话,长期记忆的支持 (需要适配器支持)
三种聊天模式: chat,browsing,plugin
后两种模式可让模型调用外部工具,使得模型能获取到外部信息,执行相关操作等。
内容安全过滤,基于 Koishi 的 censor 服务, 防止模型返回不良内容