大模型有较强的语义理解能力、常识推理能力,任务规划能力,但在面向特定领域时,存在以下挑战:
领域知识匮乏
• 领域应用的本质是复杂决策。通用大模型具备宽
广的知识底座,具有宽度有余但深度不足,无法
直接胜任复杂任务。
大模型的“幻觉”问题
• 没有依据的答案,通过简单类比得出错
误答案,在企业内,需要确保领域问题
的准确性。
数据和知识过时,难更新
• LLM的知识很容易过时,很难更新;难以保证数
据的完整性,容易形成错误回答,或者无法回答。
对于给定信息的“忠实度”
• 在领域任务中,我们需要大模型遵循特定领域的规范、制
度、流程和知识进行回答。然而,如果没有进行适当的调
优,大模型往往会抛开给定的文档或信息,而倾向于利用
已习得的通用知识进行自由发挥。飘逸的创造发挥与忠实
的事实陈述是一对难以调和的矛盾。
不可解释
• 生成的答案是否有依据?为什么是A而不是B?