漫画线稿草图生成与应用

 

 

平面草图是人们表达自身想法的最简单快捷的方式之一。与彩色自然图像不同,草图图像仅由黑白两色和稀疏线条构成, 因此让计算机去理解草图的内容以及其背后传达的思想是当前一个极具挑战性的问题。 目前实验室专注于使用机器学习和深度学习的方法, 去解决草图的生成(合成)、理解(比如草图的语义理解、实例分割) 及其应用的相关问题(比如草图的自动着色、草图到自然图像的合成等)。 相关链接:
1. 草图合成相关工作整理汇总(https://github.com/MarkMoHR/Awesome-Sketch-Synthesis
2. 基于草图的应用相关工作整理汇总(https://github.com/MarkMoHR/Awesome-Sketch-Based-Applications


Line Art Colorization Based on Explicit Region Segmentation

Ruizhi Cao, Haoran Mo and Chengying Gao*

简介: 此工作在全自动草图上色问题中引入分割信息,有效地减少了渗色现象的出现。 此工作主要使用骨架图与区域图作为分割信息,并提出了两种分割信息的融合方式。 分割信息的融合方式被设计为即插即用形式,适用范围十分广泛, 不同的草图上色神经网络模型都能简单而快速地选择合适的融合方式引入,从而显著提升上色效果。 此工作在不同的草图上色模型中证明了两种融合方式的有效性。

Computer Graphics Forum (Pacific Graphics 2021) (*oral)
[论文] [代码]

General Virtual Sketching Framework for Vector Line Art

Haoran Mo, Edgar Simo-Serra, Chengying Gao*, Changqing Zou and Ruomei Wang

简介: 此工作提出了一个能自动学习将多种类型、任意分辨率的图像直接转化为矢量线稿草图的模型。 此模型基于神经网络结构,模仿人类绘画方式,根据输入图像一笔一划地绘制出草图线条,最后得到矢量输出。 这种以绘画方式生成矢量线稿草图的方法基于本工作提出的动态窗口机制, 即模拟一根虚拟的笔在输入图像上不断移动并同时根据笔触周围的窗口区域情况进行绘制,直至绘制完成。 模型使用了一个可微渲染模块,能够允许仅利用像素图像进行训练学习,而无需依赖矢量数据进行直接监督。 另外,此工作提出了一个笔划正则化的机制去引导模型绘制更少但更长的线条,来使生成的矢量线稿草图更简洁。 大量实验证明本模型能生成高质量的矢量线稿草图,同时具有运行时间更短、泛化能力更强的优点。

ACM Transactions on Graphics (Proceedings of ACM SIGGRAPH 2021) (*oral)
[论文] [代码] [项目主页]

SketchyCOCO: Image Generation from Freehand Scene Sketches

Chengying Gao, Qi Liu, Qi Xu, Jianzhuang Liu, Limin Wang, Changqing Zou*

简介: 论文首次提出了场景级别的手绘草图生成自然图像的算法。首先根据前背景手绘草图构成特性的不同, 提出了依次生成的解决思路。其次,构造了一个手绘草图及其对应自然图像的场景级别数据集。 最重要的是,针对于实例级别的由手绘草图生成自然图像问题:由于手绘图线条稀疏、表达抽象等特点, 对自然图像的约束性较差,难以学习这二个不同域之间映射关系,本论文构建了一个新的网络架构edgeGAN。 提出了通过隐向量建立起手绘图和边图之间的映射,再由边图对应到自然图像的思路。 具体为利用手绘图和边图都是由线条构成这一特性,采用生成联合图片再编码边图的训练方式, 使得同一向量空间能表达二者的形状、姿势特性,从而构建起手绘图和边图的隐式对应关系。 再借助边图与自然图像的强约束性,使得生成的自然图像合理且符合输入的手绘图。 通过与现有方法大量的对比实验证明,该方法无论在实例或是场景级别上都优于目前最先进的方法。

Computer Vision and Pattern Recognition (CVPR) (*oral) , 2020
[论文] [代码]

Language-based Colorization of Scene Sketches

Changqing Zou#, Haoran Mo#(joint first author), Chengying Gao*, Ruofei Du and Hongbo Fu

简介: 此工作首次提出用户通过语言指令的人机交互方式实现场景草图自动涂色, 并在此基础上设计与构建了场景级草图自动涂色系统。同时,此工作也首次提出并实现针对场景草图, 基于语言指令的指定目标多实例分割算法,为场景级草图的理解提供了一种有效的解决方法。

ACM Transactions on Graphics (Proceedings of ACM SIGGRAPH Asia 2019) (*oral)
[论文] [代码]

SketchyScene: Richly-Annotated Scene Sketches

Changqing Zou#, Qian Yu#, Ruofei Du, Haoran Mo, Yi-Zhe Song, Tao Xiang, Chengying Gao, Baoquan Chen*, and Hao Zhang

简介: 此工作构建了一个大规模的场景草图数据集,并改进现有模型架构来进行语义理解分割实验,作为研究基准。 同时,此工作提出一种专门用于草图数据的背景忽略训练策略,能大幅度提升神经网络对草图的理解能力。

European Conference on Computer Vision (ECCV), 2018
[论文] [代码]

Back to top

图像编辑与生成

实验室关注图像修复、颜色复原、颜色迁移和图像非真实感渲染等图像编辑与生成研究方向。

 

图像修复:指将图像中缺失的部分进行自动补全。 目前实验室专注于使用深度学习的方式提出图像修复算法。
颜色复原:指将灰度图像自动转化为彩色图像。当前颜色复原问题受到很多研究者的关注,因为其应用场景很广, 比如可以将黑白老照片、年代久远的黑白电影转化为带有颜色的影像,使经典作品以更生动的形象展现在我们面前。 目前实验室专注于使用深度学习的方式从大量数据中学习颜色转化的方法。
颜色迁移:指将目标颜色色调迁移到给定的原始图像,同时保持整体图像的合理性。 颜色迁移问题能应用到艺术创作等领域中。 实验室目前专注于使用数字图像处理和数据统计分析的混合方法来解决此问题。
图像非真实感渲染:非真实感渲染旨在利用计算机模拟现实中存在的各种不同艺术形式的绘制风格(铅笔、水彩、卡通、国画和油画等)。 实验室专注于研究结合传统方法与深度学习方法,探索各种不同艺术形式的非真实感渲染算法。 其中,彩铅画是一种特殊形式的非真实感渲染方式,如何准确地表达出彩铅画中独特的色彩特性和纹理效果, 从而使生成出的风格兼顾真实感与美观性,是一个具有较大挑战性的问题。

 

相关链接:图像上色、颜色复原相关工作整理汇总(https://github.com/MarkMoHR/Awesome-Image-Colorization


Structural Prior Guided Image Inpainting for Complex Scene

Shuxin Wei, Chengying Gao

简介: 现有基于深度学习的图像修复方法在面对上下文信息丰富的小面积破损区域已取得较好的修复效果, 然而对复杂场景的大面积破损区域进行修复时往往会产生语义失真、边缘模糊等问题。 本文将复杂场景的图像修复问题分解为语义分割图修复与语义分割图引导的纹理信息修复两阶段, 通过特征相关矩阵评估语义分割图与破损图像已知区域之间的相关性,从而完成破损区域的纹理生成。

International Conference on Multimedia & Expo (ICME), 2021 (*oral)
[论文]

基于稀疏结构的复杂物体修复

高成英,徐仙儿,罗燕媚,王栋

计算机学报,2019

An edge-refined vectorized deep colorization model for grayscale-to-color images

Zhuo Su, Xiangguo Liang, Jiaming Guo, Chengying Gao, Xiaonan Luo

Neurocomputing, 2018
[论文]

PencilArt: A Chromatic Penciling Style Generation Framework

Chengying Gao, Mengyue Tang, Xiangguo Liang, Zhou Su, Changqing Zou

Computer Graphics Forum (CGF), 2018
[论文]

Data-Driven Image Completion for Complex Object

Chengying Gao, Yanmei Luo, Hefeng Wu*, Dong Wang

Signal Processing: Image Communication, 2017
[论文]

L0 Gradient-Preserving Color Transfer

Dong Wang, Changqing Zou, Guiqing Li, Chengying Gao, Zhuo Su, Ping Tan

Computer Graphics Forum (CGF), 2017
[论文]

Back to top

三维姿势估计与动作生成

实验室关注三维姿势、手势估计和三维动作生成等研究方向。


Unpaired Motion Style Transfer with Motion-oriented Projection Flow Network

Yue Huang, Haoran Mo, Xiao Liang, Chengying Gao*

简介: 本文提出了一种基于投影流网络和自适应实例归一化的不成对动作风格迁移方法, 利用可逆的投影流网络来投影和还原动作特征,利用无偏的自适应实例归一化来生成风格化特征。 根据动作数据的时序性特点,本文进一步设计了插值模块和引入Transformer的加性耦合层, 以有效提升模型对风格的归纳能力和动作的真实性。 实验表明,该方法可以在保留完整内容的情况下有效迁移动作的风格。 相比现有的的不成对动作风格迁移方法,该模型泛化能力更强,在不可见风格上有更好的聚类效果。

International Conference on Multimedia & Expo (ICME), 2022 (*oral)

3D interacting hand pose and shape estimation from a single RGB image

Chengying Gao*, Yujia Yang, Wensheng Li

简介: 此工作提出了一种基于RGB图像的双手网格重建算法。该算法采用分组卷积来分别提取左右特征, 有效避免了左右手特征互相干扰。此外,本工作还提出了多特征融合模块MF-block,该模块结合了图像特征, 姿势特征和上采样特征,能有效预测被遮挡部分的2D关键点。 最后,本工作提出了基于Transformer机制的3D网格生成模型。

Neurocomputing, 2022
[论文]

Back to top

服装建模与虚拟试衣

三维服装建模和虚拟试衣在服装制造、影视娱乐和虚拟现实等领域具有广泛的应用,引起了国内外学者的广泛关注。 然而由于服装材料、款式及人体体型的多样性和复杂性等问题,目前仍面临着巨大的挑战。 近年来实验室专注于服装设计过程中的快速建模和2D、3D的虚拟服装展示算法, 并在虚拟试衣和三维服装建模方面取得一些研究成果。


FashionGAN: Display your fashion design using Conditional Generative Adversarial Nets

Yirui Cui, Qi Liu, Chengying Gao*, Zhuo Su

Computer Graphics Forum (Proceedings of Pacific Graphics 2018) (*oral)
[论文] [代码] [数据集]

Automatic 3D Garment Fitting Based on Skeleton Driving

Haozhong Cai, Guangyuan Shi, Chengying Gao*, Dong Wang

Pacific-Rim Conference on Multimedia (PCM) (*oral), 2018
[论文]

Automatic Garment Modeling From Front And Back Images

Lifeng Huang, Chengying Gao*

Pacific Graphics (PG), 2014
[论文]

Back to top

三维渲染与建模

实验室关注基于窄带的快速流体表面重建和织物建模与渲染等三维渲染与建模研究方向。

 

基于窄带的快速流体表面重建:流体表面网格的重建介于流体模拟和流体渲染之间, 重建出来的流体网格质量与最终渲染效果有着极其密切的关系。 在当前有限的算力前提下,如何在尽可能保证网格质量的同时加快重建效率是一个非常具有挑战性的难题。
织物建模与渲染:织物是虚拟世界中不可或缺的一部分。 基于纤维的纱线几何结构可以极大地还原织物种类的多样性和结构的复杂性,对织物的真实感渲染起着至关重要的作用。 然而纤维带来大量的微观细节,这使得庞大的织物模型只能在动画制作、电影特效等离线渲染领域中得以运用, 而无法满足电子游戏等实时渲染的需求。近年来实验室专注于找到一种高质量、全自动的三角网格模型到纱线模型的转换算法, 进而使用基于微观模型的织物实时渲染算法对纱线模型进行展示,以模拟出织物纤维级别的细节特征。


A Completely Parallel Surface Reconstruction Method for Particle-Based Fluids

Wencong Yang, Chengying Gao

简介: 本文首先提出了一种快速、简单、极其准确的流体表面的窄带方法,使得表面重建算法(例如Marching Cube) 能够准确地定位到有效的流体表面区域,极大地避免了无用的计算过程。 同时,我们分析了重建过程潜在的数据竞争和条件分支,利用互斥前缀和算法, 将整个流体表面重建的过程完全并行化,大大加快了表面重建的效率。

Computer Graphics International (CGI) , 2020
[论文]

全自动的纱线模型生成算法

张泽坤

简介: 算法可以自动地将三角网格模型转化为纱线模型。 但算法存在模型适用范围较小、特定类型纱线模型质量较差等缺点,目前正在研究如何解决这些问题。 若问题得以解决,有望改进、简化当前织物工业化生产的设计流程,提高生产效率。

[详细介绍 (PPT)]

基于微观模型的织物实时渲染算法

罗幸荣

简介: 纤维级织物,是指在纤维级微观尺度下进行建模的织物。 它将织物表示成大量纤维的集合,显式地描述了纤维、单纱以及纱线的相对几何关系。 算法使用核心纤维面片来对单纱中规律缠绕的纤维进行替代,从而减小实时光栅化带来的性能开销, 并与常规纤维相结合,使得能够在可交互的帧率下对纤维级织物进行渲染。

[详细介绍 (PPT)]

Back to top