项目简介:
项目主要是基于ChatGLM2等大模型实现了影视角色的人设问答，这里的人设选型为封神榜中的角色。用户可以设置对应的角色(如: 商纣王)，在和系统进行对话交互时，系统会以商纣王的人设风格对用户输入的信息进行回复。
项目分工:
本人在项目中负责对话整体业务的设计和算法部分业务的实现。主要包括大模型的选型，大模型微调，PEFT, SFT, 模型推理加速和服务部署等。通过对比GPT, 百川，千问，ChatGLM, 书生，Lamma等大模型的效果。针对人设角色的形象设定，做对应Prompt Engineering优化等。
解决问题:
完成了项目整体的开发与部署，对话系统整体上支持了人设大模型生成式对话的业务场景。