项目简介:
项目主要是利用大模型实现了法律垂直领域的智能问答，主要是覆盖了法律咨询的业务场景。数据主要由论坛、新闻、法条、司法解释、法律咨询、法考题、判决文书组成。大模型能根据相关的业务场景实现智能问答。
项目分工:
本人在项目中负责对话整体业务的设计和算法部分业务的实现。主要包括大模型的选型，大模型微调，PEFT, SFT, 模型推理加速和服务部署等。通过对比GPT, 百川，千问，ChatGLM, 书生，Lamma等大模型的效果。做对应Prompt Engineering优化等。
解决问题:
完成了项目整体的开发与部署，整体上支持了法律AI场景下的对话业务。