南洋理工大学博士后研究员杨帅:基于小样本的高清动漫人脸风格生成网络DualStyleGAN | AI新青年讲座

还记得之前抖音爆火的人脸特效吗?输入一张人脸照片,就可生成一张动漫人脸图像。这背后的技术离不开基于样例的人脸风格化,它通过渲染人脸照片使其风格与指定的动漫样例画风一致,从而生成自己喜欢的动漫角色。

南洋理工大学博士后研究员杨帅:基于小样本的高清动漫人脸风格生成网络DualStyleGAN | AI新青年讲座

然而现在的动漫人脸生成方法要么依赖大量的训练数据,虽然取得了不错的效果,但这类方法只适用于小尺寸图像,难以满足实际需求;要么是基于StyleGAN在小规模动漫人脸数据集上微调,但该方法只能学习数据集的一个总体风格,无法精确模拟数据集中指定的动漫人像样例的风格。那如何在小样本数据集上实现高清的动漫人脸风格呢?

针对上述难题,南洋理工大学博士后研究员杨帅等人提出了DualStyleGAN网络。它是在StyleGAN的基础上添加外部风格控制模块,构建全新的双路风格生成网络。

DualStyleGAN通过渐进的迁移学习方法在小规模数据上学习外部风格,能够在保持自身人脸领域风格建模的同时,接受外部动漫人脸风格上的条件控制,有效地模仿动漫的画风,实现高清的动漫人脸风格化。此外,DualStyleGAN 对训练数据非常高效,只需大约 200 张图片,便可以训练得到不错的结果。该工作被CVPR 2022接收。想要给自己人脸照片换个画风的朋友可以试试下面的代码。

5月6日,「AI新青年讲座」第13讲特邀南洋理工大学博士后研究员杨帅参与,主讲《基于小样本的高清动漫人脸风格生成网络DualStyleGAN》。

讲者

杨帅,南洋理工大学MMLab实验室博士后研究员,博士毕业于北京大学王选计算机研究所,主要研究兴趣为图像/文字风格化、图像转换和图像编辑等;发表一作顶会顶刊论文十余篇,获得IEEE ICME 2020最佳论文奖。

主题

基于小样本的高清动漫人脸风格生成网络DualStyleGAN

提纲

1、基于样例的人脸风格化
2、图像转换与StyleGAN方法的局限性
3、小样本上的高清人脸风格化网络DualStyleGAN
4、模仿动漫风格的人脸生成Demo

直播信息

直播时间:5月6日19:00
直播地点:智东西公开课知识店铺

论文成果

论文名称:
Pastiche Master: Exemplar-Based High-Resolution Portrait Style Transfer

论文地址:
https://arxiv.org/pdf/2203.13248.pdf

代码地址:
https://github.com/williamyang1991/DualStyleGAN