LawGLM-北音执念

我要开发同款
匿名用户2024年07月31日
23阅读
所属分类ai
开源地址https://modelscope.cn/models/mycherry/LawGLM-beiyinzhinian
授权协议Apache License 2.0

作品详情

安装运行

pip install -r requirements.txt
python main.py # 需要自动答题时解除main函数中的start_answer注释

改进

当前使用的时Glm4-Air,效果差点,需要在LLM/llm.py更改model为Glm4答题效果更佳

团队token位置:api.py中

项目方案介绍

该方案的核心思想就是将原子的问题交给大模型回答。

期间如果遇到其他问题,应该由单独的llm去解决而不应该全部依赖Agent。 如用户输入纠错、模型返回结果混乱、案号提取等等小问题都有对应的llm。

解题步骤

  1. 将问题分解成n个的完整的子问题
  2. 将第一个小问题对Agent进行提问
  3. 将Agent的回答当作背景知识结合第二个小问题进行提问
  4. 循环以上步骤
  5. 由大模型结合用户问题和小问题答案进行总结

优点介绍

  1. 在解决完一个小问题时,将对话上下文中的无用信息都总结为一个小的答案,无任何干扰信息,不需要进行信息抽取。
  2. Agent更加专注,只需要选择工具,生成参数,降低幻觉产生。
  3. 多个llm相互配合,犹如一个团队解决一个问题,每个llm各司其职。
  4. 可以使用不同能力的模型,比如复杂的问题使用GLM4,简单问题使用GLM4-Air,降低tokens消耗。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论