项目简介: 项目的目标是根据用户的输入query，结合大模型配置信息中的多个表的schema信息，返回对应的标准化的SQL语句。
项目分工: 本人利用相关的文章和部分大模型实现了该功能，主要包括底座大模型的选型，大模型的微调，结合对应任务下的先进技术，进行了prompt engineering。并对几种不同的prompt engineering进行了横向的对比实验。利用工业界的电商数据进行建模，针对简单的SQL查询功能能基本覆盖，对于级联查询问题，特别是对于5%这类数据，可能会出现模型幻觉，需要进一步SFT。
项目心得: 对于复杂的大模型生成问题，将其进行合理的子任务拆解，prompt engineering微调的效果提升会比较好。
解决问题: 基本实现了自然语言到SQL转换的功能，支持大模型自动学习表和schema和SQL生成。
欢迎合作: 作者2017年毕业，主要从事对话系统，语义理解和推荐，大模型应用等方向的研发工作。曾在小爱同学细分赛道上业务做到业界No.1。对话系统领域研发经验6年，推荐领域研发经验3年，团队管理经验3年。 2022年起，调研并落地了大模型在文本生成的技术方案，落地的场景主要包括: 人设问答，本地知识库问答和搜索式问答，NL2SQL。在大模型的应用和优化方向，如PEFT, SFT，Prompt Engineering，推理加速等，都有着相关的实践经验。 熟悉聊天机器人、对话系统等项目，熟悉整体业务架构。为多家上市公司设计了通用的对话系统架构，完成大模型相关的业务算法指导；服务于数十家中小型企业，完成整体的架构设计和算法层的开发；对应届生和相关从业人员提供技术指导。