项目简介:
对上期Text2SQL任务进行优化,达到业界顶尖水平。
项目分工:
本人在目前业界效果Text2SQL模型的基础上进行优化,主要针对LLM输出结构的对齐,SFT优化的效率问题,大模型幻觉的问题进行了相关的优化,达到了远超目前State of The Art的效果。
项目心得: 对于复杂的大模型生成问题,将其进行合理的子任务拆解,prompt engineering微调的效果提升会比较好。
解决问题: 基本实现了自然语言到SQL转换的功能,支持大模型自动学习表和schema和SQL生成。
欢迎合作: 作者2017年毕业,主要从事对话系统,语义理解和推荐,大模型应用等方向的研发工作。曾在小爱同学细分赛道上业务做到业界No.1。对话系统领域研发经验6年,推荐领域研发经验3年,团队管理经验3年。 2022年起,调研并落地了大模型在文本生成的技术方案,落地的场景主要包括: 人设问答,本地知识库问答和搜索式问答,NL2SQL。在大模型的应用和优化方向,如PEFT, SFT,Prompt Engineering,推理加速等,都有着相关的实践经验。 熟悉聊天机器人、对话系统等项目,熟悉