生成扩散模型高效调优-Base
日益庞大的数据量和强大的计算资源共同推动了大规模预训练基础模型的发展,其在不同的领域中展示了应用在众多下游任务上的强大泛化能力,如CV、NLP、多模态等领域。然而,随着预训练模型的规模不断增长也使得下游任务适配过程中的的训练、存储和部署成本的增加。
为了解决这个问题,近来基于大规模预训练的基础模型的参数高效迁移学习方法上的相关工作取得了与完全微调相比更具竞争力的性能提升,且在各种下游应用中均取得了巨大成功。现有的高效调优方法会依据特定任务的不同,通过冻结大部分或所有预训练参数,仅需调整少量现有参数或插入额外轻量化的可训练结构,以保持下游迁移时的低训练开销和部署成本。
该模型(Stable Diffusion)作为多模态领域中文本生成图像任务的模型高效调优的Base模型,为用户提供调优训练和推理。
评论