人像卡通化_王者荣耀_马亦骁

我要开发同款
匿名用户2024年07月31日
18阅读
开发技术GAN、tensorflow
所属分类ai、SIGGRAPH 2022、Alibaba、portrait stylization、realism、cv
开源地址https://modelscope.cn/models/ToKliar/person_image_cartoon
授权协议Apache License 2.0

作品详情

DCT-Net人像卡通化模型

论文项目主页

输入一张人物图像,实现端到端全图卡通化转换,生成二次元虚拟形象,返回卡通化后的结果图像。

其生成效果如下所示:

生成效果

本仓库提供DCT-Net日漫风转换模型,同时将汇总发布卡通化系列相关模型及应用。

发布历史

(2023-02-13) 基于Stable-Diffusion的卡通系列文生图模型上线,包含5种预训练风格模型,欢迎下载使用;

(2023-02-13) DCT-Net结合Stable-Diffusion实现零样本学习,新增2种风格模型上线,自有风格自训练指南即将发布;

(2023-01-07) 基于DCT-Net的创空间应用AI人像视频多风格漫画正式发布,欢迎在线试用(本地运行体验更佳);

(2022-11-03) 创空间应用AI人像多风格漫画正式上线,支持一键多风格推理,欢迎在线体验;

(2022-10-09) DCT-Net系列5种风格模型上线,支持ModelScope直接pipeline推理,版本modelscope-0.4.7;

DCT-Net系列多风格模型 (小样本训练)

日漫风 3D风 手绘风 素描画 艺术风

DCT-Net+SD系列多风格模型 (零样本训练)

插画风 漫画风

Stable-Diffusion卡通系列文生图模型

插画风格 水彩风格 漫画风格 剪贴画 扁平风格

模型描述

该任务采用一种全新的域校准图像翻译模型DCT-Net(Domain-Calibrated Translation),利用小样本的风格数据,即可得到高保真、强鲁棒、易拓展的人像风格转换模型,并通过端到端推理快速得到风格转换结果。

网络结构

使用方式和范围

使用方式:

  • 支持GPU/CPU推理,在任意真实人物图像上进行直接推理;

使用范围:

  • 包含人脸的人像照片(3通道RGB图像,支持PNG、JPG、JPEG格式),人脸分辨率大于100x100,总体图像分辨率小于3000×3000,低质人脸图像建议预先人脸增强处理。

目标场景:

  • 艺术创作、社交娱乐、隐私保护场景,自动化生成卡通肖像。

如何使用

在ModelScope框架上,提供输入图片,即可以通过简单的Pipeline调用来使用人像卡通化模型。

代码范例

import cv2
from modelscope.outputs import OutputKeys
from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks

img_cartoon = pipeline(Tasks.image_portrait_stylization, 
                       model='damo/cv_unet_person-image-cartoon_compound-models')
# 图像本地路径
#img_path = 'input.png'
# 图像url链接
img_path = 'https://modelscope.oss-cn-beijing.aliyuncs.com/test/images/image_cartoon.png'
result = img_cartoon(img_path)
cv2.imwrite('result.png', result[OutputKeys.OUTPUT_IMG])
print('finished!')

模型局限性以及可能的偏差

  • 低质/低分辨率人脸图像由于本身内容信息丢失严重,无法得到理想转换效果,可预先采用人脸增强模型预处理图像解决;

  • 小样本数据涵盖场景有限,人脸暗光、阴影干扰可能会影响生成效果。

训练数据介绍

训练数据从公开数据集(COCO等)、互联网搜索人像图像,并进行标注作为训练数据。

  • 真实人脸数据FFHQ常用的人脸公开数据集,包含7w人脸图像;

  • 卡通人脸数据,互联网搜集,100+张

模型推理流程

预处理

  • 人脸关键点检测
  • 人脸提取&对齐,得到256x256大小的对齐人脸

推理

  • 为控制推理效率,人脸及背景resize到指定大小分别推理,再背景融合得到最终效果;
  • 亦可将整图依据人脸尺度整体缩放到合适尺寸,直接单次推理

数据评估及结果

使用CelebA公开人脸数据集进行评测,在FID/ID/用户偏好等指标上均达SOTA结果:

Method FID ID Pref.A Pref.B
CycleGAN 57.08 0.55 7.1 1.4
U-GAT-IT 68.40 0.58 5.0 1.5
Toonify 55.27 0.62 3.7 4.2
pSp 69.38 0.60 1.6 2.5
Ours 35.92 0.71 82.6 90.5

引用

如果该模型对你有所帮助,请引用相关的论文:

@inproceedings{men2022domain,
  title={DCT-Net: Domain-Calibrated Translation for Portrait Stylization},
  author={Men, Yifang and Yao, Yuan and Cui, Miaomiao and Lian, Zhouhui and Xie, Xuansong},
  journal={ACM Transactions on Graphics (TOG)},
  volume={41},
  number={4},
  pages={1--9},
  year={2022}
}
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论