1

中文Text2SQL优化,数据天花板

我要开发同款
资深对话系统研发2023年12月07日
622阅读
开发技术算法设计、机器学习、深度学习、系统架构、自然语言处理
所属分类NL2SQL、Text2SQL、大模型、GPT

作品详情

项目简介:
对上期Text2SQL任务进行优化,达到业界顶尖水平。
项目分工:
本人在目前业界效果Text2SQL模型的基础上进行优化,主要针对LLM输出结构的对齐,SFT优化的效率问题,大模型幻觉的问题进行了相关的优化,达到了远超目前State of The Art的效果。
项目心得: 对于复杂的大模型生成问题,将其进行合理的子任务拆解,prompt engineering微调的效果提升会比较好。
解决问题: 基本实现了自然语言到SQL转换的功能,支持大模型自动学习表和schema和SQL生成。
欢迎合作: 作者2017年毕业,主要从事对话系统,语义理解和推荐,大模型应用等方向的研发工作。曾在小爱同学细分赛道上业务做到业界No.1。对话系统领域研发经验6年,推荐领域研发经验3年,团队管理经验3年。 2022年起,调研并落地了大模型在文本生成的技术方案,落地的场景主要包括: 人设问答,本地知识库问答和搜索式问答,NL2SQL。在大模型的应用和优化方向,如PEFT, SFT,Prompt Engineering,推理加速等,都有着相关的实践经验。 熟悉聊天机器人、对话系统等项目,熟悉整体业务架构。为多家上市公司设计了通用的对话系统架构,完成大模型相关的业务算法指导;服务于数十家中小型企业,完成整体的架构设计和算法层的开发;对应届生和相关从业人员提供技术指导。
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论