项目简介:
项目主要是基于ChatGLM2等大模型实现了影视角色的人设问答,这里的人设选型为封神榜中的角色。用户可以设置对应的角色(如: 商纣王),在和系统进行对话交互时,系统会以商纣王的人设风格对用户输入的信息进行回复。
项目分工:
本人在项目中负责对话整体业务的设计和算法部分业务的实现。主要包括大模型的选型,大模型微调,PEFT, SFT, 模型推理加速和服务部署等。通过对比GPT, 百川,千问,ChatGLM, 书生,Lamma等大模型的效果。针对人设角色的形象设定,做对应Prompt Engineering优化等。
解决问题:
完成了项目整体的开发与部署,对话系统整体上支持了人设大模型生成式对话的业务场景。