生成扩散模型高效调优-Swift-Base

我要开发同款
匿名用户2024年07月31日
28阅读
所属分类ai、Transformer、pytorch、Base、Swift、multi-modal
开源地址https://modelscope.cn/models/iic/multi-modal_efficient-diffusion-tuning-swift-base
授权协议Apache License 2.0

作品详情

生成扩散模型高效调优-Base

日益庞大的数据量和强大的计算资源共同推动了大规模预训练基础模型的发展,其在不同的领域中展示了应用在众多下游任务上的强大泛化能力,如CV、NLP、多模态等领域。然而,随着预训练模型的规模不断增长也使得下游任务适配过程中的的训练、存储和部署成本的增加。

为了解决这个问题,近来基于大规模预训练的基础模型的参数高效迁移学习方法上的相关工作取得了与完全微调相比更具竞争力的性能提升,且在各种下游应用中均取得了巨大成功。现有的高效调优方法会依据特定任务的不同,通过冻结大部分或所有预训练参数,仅需调整少量现有参数或插入额外轻量化的可训练结构,以保持下游迁移时的低训练开销和部署成本。

该模型(Stable Diffusion)作为多模态领域中文本生成图像任务的模型高效调优的Base模型,为用户提供调优训练和推理。

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论