大模型工厂

我要开发同款
弗兰克56462024年04月15日
139阅读
开发技术torch、自然语言处理、深度学习、产品调研、需求分析

作品详情

大模型有较强的语义理解能力、常识推理能力,任务规划能力,但在面向特定领域时,存在以下挑战:
领域知识匮乏
• 领域应用的本质是复杂决策。通用大模型具备宽
广的知识底座,具有宽度有余但深度不足,无法
直接胜任复杂任务。

大模型的“幻觉”问题
• 没有依据的答案,通过简单类比得出错
误答案,在企业内,需要确保领域问题
的准确性。

数据和知识过时,难更新
• LLM的知识很容易过时,很难更新;难以保证数
据的完整性,容易形成错误回答,或者无法回答。

对于给定信息的“忠实度”
• 在领域任务中,我们需要大模型遵循特定领域的规范、制
度、流程和知识进行回答。然而,如果没有进行适当的调
优,大模型往往会抛开给定的文档或信息,而倾向于利用
已习得的通用知识进行自由发挥。飘逸的创造发挥与忠实
的事实陈述是一对难以调和的矛盾。

不可解释
• 生成的答案是否有依据?为什么是A而不是B?
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论