当前位置: 代码网 > 移动>阿里 > AI绘画的救星!手把手教你在ComfyUI玩转局部重绘!

AI绘画的救星!手把手教你在ComfyUI玩转局部重绘!

2024年08月01日 阿里 我要评论
在使用AI绘画时,尽管可以通过调整模型和参数来获得好的作品,但准确性问题仍然存在。AI的扩散算法虽然带来了无限可能,但也可能导致一些意料之外的结果,如不自然的四肢或元素的错误放置。幸运的是,Stable Diffusion的局部重绘功能可以解决这些问题。为了方便演示,我们用以下参数先批量生产一堆美女1. CheckPoint模型:XXMix_9realisticSDXL2. Lora模型:无3. 采样器:dpmpp 2m sde karras4. 采样步数:30。

我们在用ai创作图片的时候,通过模型和提示词,让ai有了很大的随意发挥空间,这种随意发挥带来了很多随机性和不确定性,大部分情况下会给我们带来更多的惊喜。但是总会有一些时候,有一些小细节不尽人意

这个时候,我们就需要一个很普通,却很重要的功能——局部重绘

我们可能会经常遇到以下几个场景

  1. 图片的某个细节有缺陷

  2. 提示词污染导致部分细节不准确

  3. 整体都很好,但是想换个发色/衣服/裙子

这些时候,就需要用到局部重绘

什么是局部重绘

在使用ai绘画时,尽管可以通过调整模型和参数来获得好的作品,但准确性问题仍然存在。ai的扩散算法虽然带来了无限可能,但也可能导致一些意料之外的结果,如不自然的四肢或元素的错误放置。幸运的是,stable diffusion的局部重绘功能可以解决这些问题。

为了方便演示,我们用以下参数先批量生产一堆美女

在这里插入图片描述

局部重绘操作

局部重绘类似于修正,可以直接覆盖并重绘图像的特定区域。例如,如果我想改变角色的头发颜色,可以通过在正向提示词中加入特定提示词,并调整重绘幅度来实现。这个过程在stable diffusion中可以实现,甚至现在midjourney也开始支持局部重绘了,今天我们从comfyui的角度来讲如何实现局部重绘

我们就拿其中一张画出来的美女图为例,整体都非常好,但是她的眼睛,看起来好像颜色不对,我们就用局部重绘来修正眼睛的缺陷

在这里插入图片描述

通常来说,comfyui中的局部重绘可以细分为以下几个步骤

1.搭建工作流

通常我们搭建一个图生图的工作流时,我们会用“vae编码”节点来把图像进行像素空间到潜空间的转化,然后再链接传给ksampler采样器的latent。

当我们要使用遮罩时,则需要在“vae编码”节点和ksampler节点中间,再加一个“设置latent噪波遮罩”节点来传递遮罩信息
在这里插入图片描述

设置latent噪波遮罩

以上就是重绘的基础部分了,仅仅是在基础图生图的基础上加上遮罩即可。为了方便使用,我对工作流加了亿点点细节,加了controlnet,加了clipseg语义分割,以及面部修复,这里我们先跳过,后面我会细讲。

文末可以获取完整工作流文件
在这里插入图片描述

工作流

2.选择重绘区域

在webui中,可以用局部重绘功能,用画笔涂抹想要重绘的部分,而在comfyui中,其操作也类似,我们对图像加载节点右键就可以看到“在遮罩编辑器中打开

在这里插入图片描述

遮罩编辑器

接下来,我们通过遮罩编辑器涂抹眼睛的部分,然后点击save to node,就可以保存你涂抹的区域

在这里插入图片描述

遮罩编辑器

3.修改重绘提示词

我们可以保留大部分的提示词,但是需要稍微修改一下,改成我们需要的提示词,比如我们想让她闭眼,则加上“closed eyes”,想要眼睛变成蓝色,则加上“blue eyes

比如在上面的例子中,我分别尝试了用“closed eyes”,和“beautiful eyes”来分别尝试让人物闭眼,和直接修复眼睛,得到的结果如下图(左边是原图,中间是闭上眼睛,右边是修复眼睛)

在这里插入图片描述

眼睛修复

4.调整参数抽卡

对于局部重绘的图片,在模型选择上其实很简单,主要也就分为写实模型和动漫模式,依据你的原图选择模型即可。其他的如采样方法、采样步数、以及降噪参数等,就按照普通的图生图设置来就行。以下是我重绘的参数,仅作参考

前面只是修改了一下眼睛,效果不是很明显,我们换个例子,直接换衣服来看看具体效果。对于以下提示词,我只需要不断修改“white dress”为各种颜色的衣服,就可以看到不同的换装效果

best quality, masterpiece, (photorealistic:1.5),8k, raw photo,xxmixgirl,  
1girl, solo, long hair, breasts, looking at viewer, (white dress:1.2), simple background, black hair, cleavage, bare shoulders, brown eyes, jewelry, medium breasts, collarbone, cowboy shot, earrings, grey background, necklace, off shoulder, bag, lips, realistic, 

在这里插入图片描述

换装

进阶应用技巧

1.sam检测获取蒙版

局部重绘除了使用画笔来绘制遮罩层以外,还有很多高级技巧来得到遮罩蒙版,比如comfyui中通过sam检测来自动获取蒙版,而不需要我们手动绘制,它的效果很类似于webui中的inpaint anything插件。

sam检测的使用方式很简单,在加载图像节点右键就可以打开

在这里插入图片描述

sam检测

然后我们只需要对想要选择的部分点几下即可,然后点击detect,就能自己检测选取,如果范围太大,就拉动下面的滑块来缩小选取范围(比如以下就是我选择上衣部分)

在这里插入图片描述

sam检测

2.提示词自动检测

很多时候,有人在使用comfyui时会追求全自动,如果你连遮罩选取这一步都不想手动操作怎么办?当然也可以了!

使用“clip语义分割”节点就可以实现这样的功能,我们添加“clip语义分割”节点,它就能根据你输入的提示词自动创建遮罩,我们通过简单的节点链接就可以把遮罩传递到下一步

如下图,我分别用“skirt”、“hair”和“face”提示词,就能自动检测到“裙子”、“头发”和“脸部

在这里插入图片描述

提示词自动检测

3.结合controlnet

前面讲工作流的时候可以看到我在里面加了controlnet应用堆,用于添加多个controlnet,你可能会有疑问,局部重绘,要controlnet干什么呢?

原因很简单,如果你只是重绘眼睛,让人物睁眼闭眼,controlnet的确没有什么作用。但如果你是换装操作,如果不做一些人物姿态或者线条的固定,人物很容易跑偏,造成重绘部分与整体不和谐的情况。所以我加入了lineart和openpose来进行一定的整体结构的控制

在这里插入图片描述

controlnet

结尾

局部重绘技术为ai艺术创作带来了新的可能,有了局部重绘,对很多应用场景都有实际意义:

  1. 修复常见的手崩,脸崩,多手,多脚等问题

  2. 对已有图像优化,如修改人物瞳孔颜色,发色等

  3. 对模特进行换装,常用于电商场景

感兴趣的小伙伴,赠送全套aigc学习资料,包含ai绘画、ai人工智能等前沿科技教程和软件工具,具体看这里。

资料软件免费放送

次日同一发放请耐心等待

关于ai绘画技术储备

学好 ai绘画 不论是就业还是做副业赚钱都不错,但要学会 ai绘画 还是要有一个学习规划。最后大家分享一份全套的 ai绘画 学习资料,给那些想学习 ai绘画 的小伙伴们一点帮助!

需要的可以扫描下方csdn官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

**一、aigc所有方向的学习路线**

aigc所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

在这里插入图片描述

在这里插入图片描述

二、aigc必备工具

工具都帮大家整理好了,安装就可直接上手!
在这里插入图片描述

三、最新aigc学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
在这里插入图片描述
在这里插入图片描述

四、aigc视频教程合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

在这里插入图片描述

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述
这份完整版的学习资料已经上传csdn,朋友们如果需要可以微信扫描下方csdn官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

(0)

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论

验证码:
Copyright © 2017-2025  代码网 保留所有权利. 粤ICP备2024248653号
站长QQ:2386932994 | 联系邮箱:2386932994@qq.com