Stable Diffusion和提示词介绍

Stable Diffusion(简称SD)模型是当下最知名也最常用的图像生成模型之一。

几个关键点:

开源

文本生成

Stable Diffusion可以根据任何文本输入生成逼真的图像。它使用了一种叫做潜在扩散模型(LDM)的扩散模型(DM),这种模型可以逐步去除训练图像上的高斯噪声,从而得到对应的图像。由CompVis、Stability AI 和RunwayML开发。

提示词是构建由文本到图像模型解释和理解的单词的过程。可以把它理解为你告诉AI模型要画什么而需要说的语言。

该笔记来源于制图机Prompt手册

笔记收藏住

预约视频号直播,直播间边学边操作

提示词的内容和格式

在构建提示词之前我们需要明确自己的目的,可以向自己提出以下几个问题:

1、我想要的图片类型是什么?

例:照片、插画还是油画

2、图片的主题是什么?

例:人、动物还是风景

3、是否还需要什么细节描述?

所处环境?

例:室外、室内、太空、水下

灯光效果?

例:柔和、霓虹、强光

配色方案?

例:柔和、阴暗、阳光

构图角度?

例:正面、侧面、背面

背景:纯色、森林、城市

4、是否指定特定的风格?

例:3D、电影、动漫、国风

5、如果是艺术作品,是否需要特定艺术家的风格?

6、如果是照片,是否需要特定的照片类型?

例:长焦、微距、鱼眼

当然,这些只是一张图片必须明确的几个因素。

只有具备:这几个因素才能算是一张合格的图片。

而想要生成一张完美的图片还需要更多的修饰词。

我们必须在实际操作中试验更多具体的修饰词,并找出自己喜欢的记录下来。

注意:

①在多个提示词组成的词组中,单个提示词越靠前就越重要,会在生成图中突出显示。

②我们在构建提示词时,应尽量使用单独的单词,而不是将其构建成一个句子。

例:

A painting, a cute goldendoodle wearing a suit, naturaal light, in the sky,with bright colors, by Studio Ghibli

(吉卜力工作室风格的一幅画,一只穿着西装的可爱金毛狗狗,自然光,在天空下,色彩鲜艳)

这里狗狗背景并没有天空下,这时候我们”in the sky”前移。

A painting of a cute goldendoodle in the sky, wearing a suit, naturallight, with bright colors, by Studio Ghibli

重新生成,就是下图的效果

三 提示词的修饰关键词

修饰关键词是可以改变图像的风格、格式或视角的词。

添加具体详细的修饰词可以大大提高图像的质量。

例:Tiny cute boy holding camera toy,standing character, soft smoothlighting, soft pastel colors, skottie young,3d blender render,polycount, modular constructivism, pop surrealism, physically basedrendering, square image

(小可爱的男孩拿着相机玩具,站立角色,柔和的平滑照明,柔和色彩,skottie young,3d混合渲染,polycount,模块化建构主义,流行超现实主义,基于物理的渲染,方形图像)

1摄影照片

摄影照片常用提示词

照片类型:Close-up、ExtremeClose-up、POV、Medium shot、Long shot

照片风格:Polaroid、Monochrome、Long exposure、Coloir splash、Tiltshift

灯光:Soft、Ambient、Ring、Sun、Cinematic

环境:Indoor、Outdoor、At night、In the park、Studio

使用镜头:e-angle、Telephoto、24mm、EF 70mm、Bokeh

使用设备:iPhone、Surveillance cameras、NikonZFX、Canon、Drone

例:Close-up polaroid photo, of a husky,soft lighting, outdoors, 24mm Nikon Z FX

(特写宝丽来照片,沙哑,柔和的灯光,户外,24毫米尼康Z FX)

2艺术形式

我们可以通过添加不同的艺术形式提示词生成特定艺术形式式的图像。

如:涂鸦(Graffiti)、水彩画(Water Colors)、油画(Oil Painting)、水墨画(ink painting)、素描(sketch)、铅笔画(Pencil Drawing)、雕塑(sculpture)等等。

例:ink painting sun mountains water fisherman holding a boat

(水墨画,太阳,山,水,渔夫撑船)

3、艺术家

可以将艺术家的名字作为提示词,生成对应艺术家风格的图图像。

也可以将多个艺术家混合起来生成独特的风格。

同样的提示词添加不同艺术家之后可能会生成完全不一样的作品。

Stable Diffusion中收录的部分艺术家:

肖像艺术家:Derek Gores, MilesAldridge,Jean Baptiste-Carpeaux,AnneLouis Girodet

景观艺术家:Alejandro Bursido, Jacques-Laurent Agasse, Andreas Achenbach, Cuno Amiet

漫画艺术家:MakotoShinkai,KatsuhiroOtomo,Masashii Kishimoto, Kentaro Miura

科幻艺术家:ChesleyBonestell,Karel Thole,JimBurns,Enki Bilal

摄影艺术家:AnselAdams,Ray Earnes,PeterKemp, IRuth Bernhard

概念艺术家:Emerson Tung, Shaddy Safadi, Kentaro Miura

例:肖像艺术家

Portrait by Miles Aldridge                     Portrait by Derek Gores

两个艺术家风格混合

Portrait by Derek Gores and Miles Aldridge

4插画

Stable diffusion可以创建任何风格、任何形式的插画。

包括活各种风格的3D插画、甚至设计3D角色(只要输入的提示词足够清晰)。

常见插画图像提示词:

(3D)origami、Needle felted、Isometric assets、Low Poly、Pixar Renders、3D Item Render;

(非3D)Childrens book、Vector、Scientific Illustration、Comic、Propaganda Posteer、Movie Poster Psychedelic Art、Splash Art、Ukiyo-e、Stickers、Fantasy Maps

提示词:

kawaiilow poly squirrel character, 3d isometric render, white background, ambient occlusion, unity engine

(卡哇伊poly松鼠角色,3D 等距渲染,白色背景,环境光遮蔽,unity引擎)

提示词:

3d fluffy Lion, closeup cute and adorable, cute big circular reflective eyes, long fuzzy fur, Pixar render, unreal I engine cinematic smooth, intricate detail, cinematic

(3d蓬松的狮子,特写可爱,高大的圆形反光眼睛,长长的毛茸茸的皮毛,皮克斯渲染,虚幻I引擎电影般流畅,复杂的细节,电影)

5氛围修饰词

在Stable Diffusion中一两个简单的氛围修饰词,就能改变整幅图像的色调和氛围感。

常见的情绪提示词:

(积极)Cosy、Romantic、Joyful、EnergeticHope、Lust Peaceful、Satisfaction

(消极)Depressing、Loneliness、Grim、Regret、Suffering、Hopelessness、Fear、Disgust

提示词:Cute sad girl toy,curly hair,standing charactter, soft smooth lighting, soft pastel colors, skottie young, 3d blender render, polycount, modular constructivism, physically baseed rendering, square image

(可爱的悲伤女孩玩具,卷发,站立形象,柔和光滑的照明,柔和柔和的色彩,skottie young,3d 渲染,多边形计数,模块化建构主义,基于物理的渲染,方形图像)

6美术风格

一些专业的美术风格词汇在Stable Diffusion中同样适用。

常见美术风格提示词:

(充满活力的)Weirdcore、VaporwaveAcidwave、Dreamcore、

(阴沉)Liminal Space、After Hours、Brutalism、Post-Apocalyptic

(历史风格)Baroque、Sovietwave、Wild West、Film Noir

7一些提高图像质量的词

一些表示清晰度和具体风格的词可以使图像出现巨大的变化和提升。

常见提示词:

HDR,UHD,4K,8k,64K、Highlydetailedd、Studiolighting Professional、Trending on artstation、Unreal engine、Vivid Colors、Bokeh、High resolution scan、Sketch、Painting

提示词:A cinematic film still of Morgan Freeman starring as 50 Cent, portrait, 40mm lens, shallow depth of field, closee up, studio lighting

(摩根·弗里曼(Morgan Freeman)主演的电影剧照,饰演50 Cent,肖像,40mm镜头,浅景深,特写,工作室照明)

提示词:A cinematic film still of Morgan Freeman starring as 50 Cent, portrait, 40mm lens, shallow depth of field, close up

(摩根·弗里曼主演的电影剧照 50 Cent,肖像,40mm 镜头,浅景深,特写)

四、提示词的权重问题

可以通过语法调整关键字的权重

(keyword:factor)

keyword是所要调整权重的关键词

factor是一个值,默认值是1

小于1意味着不太重要,降低权重

大于1意味着更重要,提高权重。

调整关键词权重的等效方法是使用()and []。

(keyword)将关键字的强度增加1.1倍

与(keyword:1.1)效果相同。

[keyword]将强度降低0.9倍

与(keyword:0.9)效果相同。

也可以同时使用其中的多个,他们的叠加效果是相乘的。

(关键字):1.1

((关键字)):1.21

((关键字)):1.33

同样[]的叠加效果也是如此。

[关键字]:0.9

[[关键字]]:0.81

[[[关键字]]:0.73

关键字混合

可以通过混合两个关键字来创造一种新的效果。

其语法是[keyword 1:keyword2:factor]

factor控制关键字1切换到关键字2的步数。

它是一个介于0和1之间的数字。

例如一张图像的关键字是[cat:tiger:0.3],采样步数为30步

30步x0.3=9步

这意味着其采样的前9步为猫,后21步为老虎,该因素确定何时更改关键字。

需要注意的一点是第一个关键字决定了全局效果。

早期的扩散步骤设定了整体风格。

后面的步骤会细化细节。

混合面孔是关键字混合的一个常用场景,我们可以将两个己知模型能识别的明星的面孔进行混合,通过调整比例,可以精确地得到我们想要的面孔。

关键字混合的另外一个用处就是通过调整factor来改变图像中的某个部分。

holding an [apple: fire: 0.9]和holding an [apple: fire: 0.2]

提示词的限制

提示词的工作原理是在你输入提示词之后Stable Diffusion使用的CLIP模型自动将提示转换为标记。但标记不等于单词,当你输入一个不能识别的标记时模型会自动将标记拆分,直到拆分至模型能识别。

提示词并不一定总是有效的,当你想要生成某个艺术家风格的图像时,你首先需要测试一下模型是否认识这个艺术家。

StableDiffusion的核心是一个图像采样器,用来生成我们认为合法且良好的图像。甚至可以在没有提示的情况下使用它,它也会生成许多不相关的图像。用技术术语来说,这称为无条件或非引导扩散。提示词其实就是一种将扩散过程引导到其匹配的采样空间的方法。

之前说过提示词需要详细和具体。这是因为详细的提示可以缩小其采样空间。越详细具体的提示词,生成的图像变化越少。

Stable Diffusion的联想效应。在Stable Diffusion中一些属性是强相关的。当你指定一个时,它同时会生成最有可能具有相关联效果的图像。例如你想生成一位蓝眼睛的女性,当你不指定肤色时,它很大可能会生成一位欧洲白人

五、否定提示词

否定提示提供了另一种控制文本到图像生成的方法。

在Stable Diffusion 1.4或1.5模型中,否定提示不是必须存在的。

但在Stable Diffusion v2系列模型中,必须要有否定提示,如果缺少否定提示,生成图像的画面效果将远不如StableDiffusion1.4或1.5系列模型。

否定提示词的常见使用场景:

对于人物图像来说,这些提示词能很好的避免一些容易出现问题的部位:

ugly,tiling, poorly drawn hands, poorly drawn feeet, poorly drawn face,

out of frame, extra limbs, disfigured, deformed, booly out of frame,

bad anatomy, watermark, signature, cut off, low contrasst, underexposed,

overexposed, bad art, beginner, amateur, distorted face.

除了常用的否定提示词,否定提示词还有一些其他作用。

①去除图片中不必要的素材

假如你生成了一张雨中的巴黎街道景象的图片,就像这样

提示词:autumn in paris,ornate,beautiful,atmosphere,vibe, mist,smoke,fire,chimney,rain,wet, pristine, puddles, melting, dripping,snow, creek, lush, ice, bridge, forest, roses, floowers, by stanley artgerm lau, greg rutkowski, thomas kindkade, allphonse mucha, loish, norman rockwell. Seed: 1923936260

(秋天在巴黎,华丽,美丽,大气,氛围,薄雾,烟雾,火,烟囱,雨,湿,原始,水坑,融化,滴水,雪,小溪,郁郁葱葱,冰,桥,森林,玫瑰,浮游,作者:斯坦利·阿特格·刘,格雷格·鲁特科夫斯基,托马斯·金德凯德,阿尔方斯·穆夏,洛伊什,诺曼·洛克威尔。种子:1923936260)

可以看到图片中有很多人,如果你想要一张空荡荡的街道,这时候不需要重新构建提示词。

使用相同的提示词和种子值,并在否定提示词中添加people

这样你就会得到一张去除了大多数人物的图像。

你可能已经注意到上图中还剩下一个人。

您可以通过强调否定提示来告诉Stable Diffusion更大程度的去除人物。

和提示词中一样,就像这样(people:1.3)

这告诉Stable Diffusion关键字people现在在否定提示词中的重要性提高了30%。

(空无一人)

②修改图像内容

可以通过添加否定提示词在不完全删除任何内容的情况下对主题进行细微更改。

就像这张图片,头发有被吹起来

可以通过添加Windly否定提示词来避免头发被风吹起来。

③修改样式

否定提示词不仅对修改内容有用,对修改样式也很有用。

在提示词中添加大量的样式风格词很可能会混淆主题风格。

可以通过在否定提示词中添加想要风格的反义词来修改样式风格。

例如在一张图片,我们想让它更加清晰,可以在否定提示词这里添加”Blurry(模糊)”来使其变清晰

想要真实感,可以通过添加cartoon、planting来去除卡通化。

Stable Diffusion的一些参数意义和设置

分辨率:默认为512×512,Stable Diffusion是在512x512x512图像上训练的,通常这个尺寸能获得最佳质量和构图。

Classifier Free Guidance (GFC)默认值为7:可以将此参数视为”创造力与提示词”的比例。较低的数值让AI有更多的创意自由,而较高的数字则迫使AI完全按照提示词创作。

Stepcount(步数):默认为25,StableDiffusion从充满马赛克的画布开始并逐渐对其进行去噪以达到最终输出来创建图像,此参数控制这些去噪步骤的数量。通常越高越好,但更高的步数生成的时间会更长。

CFG2-6:有创意,但可能不会按照提示操作。

CFG7-10:推荐用于大多数提示。如果提示很详细,可能会影响图片的连贯性,创造力和引导生成之间达成平衡的数值。

CFG 10-15:当你确定你的提示词足够好和具体。

CFG16-20:一般不推荐,除非提示词很详细,否则会影响图片的连贯性。

Seed(种子):默认为随机,种子是控制初始画面的数字,也是每次在所有参数都固定时生成不同图像的原因。默认情况下,每次生成种子都那是随机的,如果保持提示词、种子以及其他参数都不变,那么可以多次生成相同同的图像。注意:某些种子可能会和一些提示词适配度很高,所以可以通过使用相同的种子来测试更改提示词带来的影响。

该文章来源于制图机Prompt手册

制图机,一个在线玩AI绘画的地方(点击了解)

进学习群寻找PDF资料

精心整理

花两周时间精心收集市面上最新最干货的中文【AI报告】

AI课:1分钟学会瞬息元宇宙奥斯卡级特效

AI一句话生成PPT,满足社畜刚需(附工具名单)

广告

AI变现:AIGC X NFT X 交易保姆课,让图片值钱

看完AI变现精华笔记,还有兴趣再咨询大课

我们成立了中华区首个AI生成视频爱好者俱乐部

欢迎申请加入

分享不易,期待支持

可以转发本文

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注