[教程] AI小画家本地部署简单上手(更新colab NovelAI)

22
回复
6515
查看
打印 上一主题 下一主题
[复制链接]

该用户从未签到

37

主题

49

帖子

11

积分

新手上路

Rank: 1

积分
11
楼主
发表于 2022-10-22 10:56:14 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
来至转载

NovelAI Colab脚本
来自StableDiffusion_cn
游客,如果您要查看本帖隐藏内容请回复

①↑打开由 colab文档链接,登录谷歌账号,左上角,代码执行程序→全部运行
且注意第一步有没有下载成功,如失败请重新运行
②直到第三步,会显示 bore.pub:xxx 和  xxx.trycloudflare.com
两个都是前端地址,不同映射隧道,哪个稳定用哪个
但需要等待出现 Application startup complete / 0.0.0.0:6969 字样出现时再访问
③可选,以 float16 半精准极限运行7G模型
需要结束上方第三步的运行,再运行第四步,依然是等待新地址访问

试了下生成速度还蛮快,2it/s左右,显卡不好或者A卡的话可以考虑直接用这个。

NovelAI本地整合包(非SD-WebUI)
来自B站 秋叶aaaki BV1EV4y1L7dX
游客,如果您要查看本帖隐藏内容请回复

SD-WebUI推荐直接使用整合包。

A1111压缩包版(更新v5)
游客,如果您要查看本帖隐藏内容请回复


之前v2,v3版的下载v2升v4补丁包,解压覆盖,然后再下载v4升v5补丁包,解压覆盖。

新安装,直接下载v4完整包和v4升v5补丁包,解压v4完整版之后,解压补丁包覆盖。

参考下方下载模型部分,选择模型下载到models\Stable-diffusion下。
第一次打开webui_setup.bat,之后运行启动对应的webui_run_xxx.bat

等待如图显示url的时候即启动成功,浏览器打开127.0.0.1:7860即可。

使用NovelAI模型
1.下载nd_latest.ckpt模型,下载nd_latest.vae.pt,两个均放到stable-diffusion-webui\models\Stable-diffusion下
2.下载hypernetworks文件夹,放到stable-diffusion-webui\models文件夹下
3.hypernetworks使用参考下方的替换模型部分。


替换模型
  1. <div>运行之后,在网页的Settings选项卡中,下拉找到Stable Diffusion(有的webui不用下拉,在右侧能看到StableDiffusion的选项)</div><div>在下拉框中选择想要加载的模型。NovelAI的模型可以配合hypernetworks使用,参照NovelAI模型下载部分,将hypernetworks下载好,在这里可以选择相应的pt。不同pt效果,可以自己参考下方生成对比图测试。</div>
复制代码



下载其他模型
模型下载地址
SD官方模型
huggingface需要先注册登录。
https://huggingface.co/CompVis/stable-diffusion-v-1-4-original
二次元模型
NovelAI
见上面。
Waifu Diffusion
以Danbooru的图片进行训练的二次元模型,目前被NovelAI薄纱,期待后续赶上。
游客,如果您要查看本帖隐藏内容请回复

TrinArt
动漫专精模型,和wd、NovelAI都不是一个训练来源,推荐装一个。
游客,如果您要查看本帖隐藏内容请回复

其他模型汇总(简单来说都被NovelAI薄纱,没有用的必要):
https://rentry.org/sdmodels

几种二次元模型对比:




其他功能

混合模型
将下载的模型放到文件夹 stable-diffusion-webui/models/Stable-diffusion下面运行之后,可以在Checkpoint Merger选项卡混合两个模型。
比如用wd1.3与trinart以7:3的比例混合。(影响效果大概就是wd1.3 * 0.7 + trinart * 0.3)混合后的模型也在模型文件夹中。


生成对比图
在Script下拉框中选择X/Y plot,可以生成方阵图,比如这里x轴选择Checkpoint name,y轴不选,就会生成上面那种相同参数不同模型的对比图。



个问题:
1.automatic1111的项目介绍里写的很清楚的直接安装的教程,为什么我要用conda?
之前说了,怕直接安装会污染环境。
2.就算用conda,为什么不用自动化脚本?
之前也说了,考虑到自动化脚本在网络不好的情况下很容易中断,又没有错误提示,很难排查,我把自动化脚本拆出来一步一步手动运行,哪里出错救哪里。
3.你这手动启动咋那么麻烦呢?
是我智障了,后面补了个启动脚本,自动切conda环境,自动启动py。
4.automatic1111更新那么频繁,都是动态依赖各种库的版本,你这怎么更新?
是我智障加考虑不周,没想到大佬这么肝(感谢大佬),后面加了一些手动更新的方法,但还是比较繁琐。
5.更新问题最后怎么处理的?
摆烂了(不是),把手动操作全都去掉了,只要网络没问题就没问题。
启动脚本直接调用原工程的自动化脚本进行环境初始化(之前按照教程安装过的坛友直接运行最新的启动脚本就可以了)。

那么conda的优点呢,从SD-WebUI切到NovelAI,除去下载时间,只花了我20分钟不到就把项目跑起来了,按照我的操作来,可以5分钟内搞定。
*前提是SD-WebUI的环境已经更新到python310了,如果照着前两天的更新,应该都是310了,如果不是,先重新创建个310的环境,具体看下方更新支持xformers部分。

准备工作

选择StableDiffusion版本
原版的SD需要使用命令行进行操作,对于普通用户来说非常麻烦。
社区制作的图形显示界面方面通常包含两种,一种是套壳GUI,比如 Stable Diffusion GRisk GUI。另一种是基于Gradio或Streamlit 的Web前端。套壳GUI相比WebUI来说更新速度较慢,功能扩展较少。
各项目的介绍里通常都有安装教程,只是多数项目都是直接安装环境,这会影响到以后安装其他的项目。环境分离可以使用Conda,也可以使用Docker,这里介绍如何使用Conda进行安装,不同的项目之间操作大同小异。
如果有一定基础,可以直接按照仓库的说明进行安装,因为网络问题,项目里自带的一些智能化脚本并不智能,安装的时候不好定位问题出在哪里,所以我把自动化脚本又拆成了手动化操作,看上去更繁琐了,但是安装成功的几率高一些。
原版SD地址:
https://github.com/CompVis/stable-diffusion
WebUI:
AUTOMATIC1111:
其他版本都被Automatic1111薄纱了,赞美肝帝,只用这一个就够了。
https://github.com/AUTOMATIC1111/stable-diffusion-webui
对应的Krita插件:https://github.com/sddebz/stable-diffusion-krita-plugin
sd-webui:
早期用的人比较多,后来被AUTOMATIC1111反超,无显存优化。

      https://github.com/sd-webui/stable-diffusion-webui
imperator-maximus:
早期基于AUTOMATIC1111,添加了REST API,方便制作Krita 或 Photoshop等软件的插件。现阶段Automatic1111肝帝模式的情况下,不建议使用。
https://github.com/imperator-maximus/stable-diffusion-webui
对应的Krita插件:https://www.flyingdog.de/sd/en/


安装基础软件
Anaconda
https://www.anaconda.com/
git
https://gitforwindows.org/


安装
选择目录,右键Git Bash Here,clone仓库:
  1. git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
复制代码
打开Anaconda Prompt (Anaconda3)

  1. conda config --add envs_dirs D:\ProgramData\Anaconda3\envs //设置虚拟环境路径(默认在C盘),自行替换虚拟环境路径
  2. conda config --add pkgs_dirs D:\ProgramData\Anaconda3\pkgs //这个不换也行,也可以改为其他路径,该路径默认无写权限,如果换到了这个目录需要用<b>管理员模式</b>打开Anaconda Prompt
  3. cd D:\__AI\Stable Diffusion\stable-diffusion-webui //进入克隆的webui工程目录,自行替换为对应工程所在目录
  4. D: //进入工程目录所在盘符,自行替换为程序目录所在盘符(上面cd D:/xxx之后还处于C盘,需要再输入一次盘符加:然后回车(比如d:)才会进入到目标目录)
复制代码
以管理员身份打开Anaconda Prompt (Anaconda3) (如果未修改pkgs文件夹,则不需要管理员模式)
使用Proxifier将python.exe添加到规则中,应用梯子规则,下载环境需要python全程走梯子。(如果熟悉conda安装环境,或者替换了国内的conda源,则不需要开梯子,按正常流程即可)
创建虚拟环境

  1. conda create -n ldm python=3.10 //创建环境
  2. activate ldm //切换环境
  3. mkdir repositories //创建其他仓库父目录
复制代码


添加模型
  1. 将下载的模型放到文件夹 stable-diffusion-webui/models/Stable-diffusion
复制代码


安装依赖并运行

下载附件脚本,放到stable-diffusion-webui目录。
下载之后,右键使用文本编辑器打开,有两个地方要修改,一个是conda环境名字(ldm或者automatic或者自己修改的其他环境名),另一个是Conda的安装目录。修改保存之后,双击打开即可。

*可选 修改"set COMMANDLINE_ARGS=" ,以下功能根据自己的需求,将对应参数添加到set COMMANDLINE_ARGS=后面即可。

  1. 1.deepdanbooru
  2. --deepdanbooru
  3. 2.局域网访问
  4. --listen
  5. 3.公网访问
  6. --share
  7. 4.开启xformers(具体参考xformers部分,加这个之前一定要先看过那部分,很多人没有安装xformers就打开了这个选项,结果就会出错)
  8. --xformers
  9. 5.强制开启xformers(跳过条件检查,不会报错)
  10. --force-enable-xformers
  11. 6.显存低于3G的显卡
  12. --lowvram --always-batch-cond-uncond
  13. 7.显存低于5G的显卡
  14. --medvram
  15. 8.16xx显卡4G
  16. --precision full --no-half --lowvram --always-batch-cond-uncond
  17. 9.16xx显卡6G
  18. --precision full --no-half --medvram
  19. 示例:比如我有大显存,想要用deepdanbooru,开启xformers,局域网可访问,就是以下参数:
  20. set COMMANDLINE_ARGS=--deepdanbooru --force-enable-xformers --listen
复制代码
对于不能看附件的坛友,把下面的内容复制,新建一个文本文档,粘贴,照着上面的内容进行修改,保存成xxx.bat,注意后缀名要把txt改成bat,有的系统可能没有显示后缀名,要先设置显示后缀名,再把后缀名改成bat,之后都运行这个bat即可。


  1. @echo off

  2. set conda_env_name=ldm
  3. set COMMANDLINE_ARGS=
  4. :: Put the path to conda directory after "=" sign if it's installed at non-standard path:
  5. set custom_conda_path=E:\ProgramData\Anaconda3

  6. IF NOT "%custom_conda_path%"=="" (
  7.   set paths=%custom_conda_path%;%paths%
  8. )

  9. set paths=%ProgramData%\miniconda3
  10. set paths=%paths%;%USERPROFILE%\miniconda3
  11. set paths=%paths%;%ProgramData%\anaconda3
  12. set paths=%paths%;%USERPROFILE%\anaconda3

  13. for %%a in (%paths%) do (
  14. IF NOT "%custom_conda_path%"=="" (
  15.    set paths=%custom_conda_path%;%paths%
  16. )
  17. )

  18. for %%a in (%paths%) do (
  19. if EXIST "%%a\Scripts\activate.bat" (
  20.     SET CONDA_PATH=%%a
  21.     echo anaconda3/miniconda3 detected in %%a
  22.     goto :foundPath
  23. )
  24. )

  25. IF "%CONDA_PATH%"=="" (
  26.   echo anaconda3/miniconda3 not found. Install from here https://docs.conda.io/en/latest/miniconda.html
  27.   exit /b 1
  28. )


  29. :foundPath
  30. call "%CONDA_PATH%\Scripts\activate.bat" "%conda_env_name%"
  31. python "%CD%"\launch.py
复制代码
最后出现这个就是运行成功了,打开浏览器,输入127.0.0.1:7860 即可。
如果加了--listen,会显示0.0.0.0:7860,同样输入127.0.0.1:7860 或者 当前机器的ip地址:7860 或者 localhost:7860 都可以访问,同局域网内其他机器输入 当前机器的ip地址:7860 即可(比如192.168.1.233:7860)
如果加了--share,会多出一条xxxxx.gradio.app的链接,就可以把这个链接拿给朋友使用。程序不关闭的话,链接有效时间为72小时,关闭程序则立即失效。


下载其他可选模型:


  1. GFPGAN:用于修复脸部,在Extra选项卡中使用。下载之后放到stable-diffusion-webui/models/gfpgan目录下。
  2. https://github.com/TencentARC/GFPGAN/releases/download/v1.3.0/GFPGANv1.3.pth
  3. https://github.com/TencentARC/GFPGAN/releases/download/v1.3.4/GFPGANv1.4.pth
  4. RealESRGAN:用于放大图片,在Extra选项卡中使用。下载之后放到stable-diffusion-webui/models/realesrgan目录下。
  5. https://github.com/xinntao/Real-ESRGAN/releases/download/v0.1.0/RealESRGAN_x4plus.pth
  6. https://github.com/xinntao/Real-ESRGAN/releases/download/v0.2.2.4/RealESRGAN_x4plus_anime_6B.pth
复制代码


更新支持xformers
新用户直接按安装部分操作即可,不受影响,老用户需要创建一个新的环境。
开启xformers之后,相比之前可以提高20%到60%的出图速度。[s/](但是每一代显卡的xformers需要单独编译,项目里仅包含30系显卡的xformers,其他系显卡需要自行编译(网盘里附带了不知名群友编译的20系和群友露紫衣编译10系,下载解压放到webui的根目录))
官方已提供10,20,30系可通用的xformers,不再需要单独下载。
但是xformers需要python3.10,之前安装的虚拟环境都是3.8。因此需要创建一个新的环境来使用xformers。
创建虚拟环境(记得把ldm改为和之前不同的名字,或者把之前的ldm环境删掉)


  1. conda create -n ldm python=3.10 //创建环境
  2. activate ldm //切换环境
复制代码
修改webui-Run.bat


  1. 1.修改对应的环境名
  2. 2.在set COMMANDLINE_ARGS=后面加上--force-enable-xformers
  3. 比如这样:
  4. set COMMANDLINE_ARGS=--deepdanbooru --force-enable-xformers
复制代码
运行webui-Run.bat
假如窗口一闪而过,打开文件夹stable-diffusion-webui,点击文件管理器的地址栏,输入cmd,回车,输入webui-Run.bat,回车,出错不会直接退出。

如果提示Cannot import xformers,就手动 pip install xformers-0.0.14.dev0-cp310-cp310-win_amd64.whl 一下(记得要在webui这个根目录,并且环境要对)然后再运行webui-Run.bat


运行
  1. 运行webui-Run.bat。
复制代码
更新
部分库更新较快,比如automatic1111的最近一直爆肝更新,想要更新的话,首先更新webui的库
在stable-diffusion-webui文件夹下

  1. git pull //拉取最新代码,建议使用sourcetree进行更新
  2. 如果更新失败,检查报错信息,假如是有文件冲突,输入以下命令,注意最后的点不要漏了。
  3. git checkout .
  4. 再次
  5. git pull
  6. 更新完成后,运行webui-Run.bat
复制代码
本地NovelAI搭建
下载
游客,如果您要查看本帖隐藏内容请回复



安装过SD-WebUI并且下过NovelAI模型的潭友只用下载NovelAI.zip,未安装过的需要把models文件夹也下载下来。


1.将NovelAI.zip解压,修改NovelAI-Run.bat
右键文本编辑器打开NovelAI-Run.bat,照例修改conda_env_name(环境名)与custom_conda_path(Conda安装目录,参考上面修改Webui-Run.bat的部分)两个值。
*可选 修改其他参数


  1. set DTYPE=float32 //低显存修改为float16
  2. set MODEL_PATH=models/animefull-final-pruned //模型路径,可以修改为models/animefull-latest-pruned
  3. %PYTHON% uvicorn --host 0.0.0.0 --port=2333 --workers 1 main:app //根据需要修改端口
复制代码
2.准备模型

2.1 已有SD-WebUI环境,之前下载过NovelAI的模型


将nd_final.ckpt改名为model.ckpt,放入到models/animaefull-final-pruned目录下
将nd_latest.ckpt改名为model.ckpt,放入到models/animaefull-latest-pruned目录下
将nd_final.vae.pt或者nd_latest.vae.pt任意一个改名animevae.pt,放入到models目录下(没错,这两个其实是一个文件,我复制了一份改了个名,诶嘿)
将hypernetworks改名modules,放入到models目录下(然而这个目录的功能并木有实装,虽然大家在webui上玩的很欢)
2.2 新装环境或未下载过NovelAI的模型
直接把下载的models目录拷贝到NovelAI.zip解压的目录下,和原本的models目录合并即可。


3.安装
3.1 已有SD-WebUI环境
首先需要SD-WebUI的环境已经更新到python310了,如果照着前两天的更新,应该都是310了,假如不是,先重新创建个310的环境,具体看上面的更新支持xformers部分。当然也可以看下面从头开始,但是重新创建310的环境,SD-WebUI也可以用,还是建议创建一个。


  1. 运行Anaconda Prompt
  2. activate ldm //切换环境
  3. pip install -r requirements.txt
  4. 运行NovelAI-Run.bat
复制代码
3.2 新装环境

  1. 运行Anaconda Prompt
  2. conda create -n ldm python=3.10 //创建环境
  3. activate ldm //切换环境
  4. pip install -r requirements.txt
  5. 运行NovelAI-Run.bat
复制代码
之后启动都直接运行NovelAI-Run.bat即可。
结束。

温馨提示:
1、解压:请使用2345好压。中文解压码必用简体环境。
2、在论坛里发表的文章仅代表作者本人的观点,与本网站立场无关。
3、游戏路径全英文,游戏环境自行安装DirectX3.7。
分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏
收藏0
支持
支持0
反对
反对0
回复

使用道具 举报

  • TA的每日心情
    无聊
    昨天 20:26
  • 签到天数: 2057 天

    [LV.Master]伴坛终老

    1

    主题

    114

    帖子

    347

    积分

    中级会员

    Rank: 3Rank: 3

    积分
    347
    沙发
    发表于 2022-10-22 17:30:13 | 只看该作者
    糖果VR资源分享网,我只想说一句很好很强大!
    回复

    使用道具 举报

  • TA的每日心情
    擦汗
    2025-3-23 13:02
  • 签到天数: 49 天

    [LV.5]常住居民I

    0

    主题

    36

    帖子

    16

    积分

    新手上路

    Rank: 1

    积分
    16
    板凳
    发表于 2022-11-1 18:29:37 | 只看该作者
    糖果VR资源分享网,我只想说一句很好很强大!
    回复

    使用道具 举报

  • TA的每日心情

    2022-11-3 17:03
  • 签到天数: 1 天

    [LV.1]初来乍到

    0

    主题

    2

    帖子

    2

    积分

    新手上路

    Rank: 1

    积分
    2
    地板
    发表于 2022-11-3 17:04:35 | 只看该作者
    啥也不说了,糖果VR资源分享网就是给力!
    回复

    使用道具 举报

  • TA的每日心情
    开心
    2023-7-20 21:26
  • 签到天数: 135 天

    [LV.7]常住居民III

    0

    主题

    41

    帖子

    23

    积分

    新手上路

    Rank: 1

    积分
    23
    5#
    发表于 2022-11-4 12:18:05 | 只看该作者
    糖果VR资源分享网,我只想说一句很好很强大!
    回复

    使用道具 举报

  • TA的每日心情
    开心
    2023-4-27 22:03
  • 签到天数: 192 天

    [LV.7]常住居民III

    0

    主题

    12

    帖子

    31

    积分

    新手上路

    Rank: 1

    积分
    31
    6#
    发表于 2022-11-4 14:53:59 | 只看该作者
    糖果VR资源分享网,我只想说一句很好很强大!
    回复

    使用道具 举报

  • TA的每日心情

    2023-4-15 10:26
  • 签到天数: 73 天

    [LV.6]常住居民II

    0

    主题

    49

    帖子

    61

    积分

    注册会员

    Rank: 2

    积分
    61
    7#
    发表于 2022-11-4 16:14:51 | 只看该作者
    啥也不说了,糖果VR资源分享网就是给力!
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    2025-8-23 11:40
  • 签到天数: 351 天

    [LV.8]以坛为家I

    0

    主题

    86

    帖子

    64

    积分

    注册会员

    Rank: 2

    积分
    64
    8#
    发表于 2022-11-9 01:11:04 | 只看该作者
    糖果VR资源分享网,我只想说一句很好很强大!
    回复

    使用道具 举报

  • TA的每日心情
    慵懒
    2025-3-8 23:57
  • 签到天数: 196 天

    [LV.7]常住居民III

    1

    主题

    114

    帖子

    37

    积分

    新手上路

    Rank: 1

    积分
    37
    9#
    发表于 2022-11-12 10:30:00 | 只看该作者
    啥也不说了,糖果VR资源分享网就是给力!
    回复

    使用道具 举报

  • TA的每日心情
    奋斗
    2023-4-29 17:03
  • 签到天数: 159 天

    [LV.7]常住居民III

    0

    主题

    209

    帖子

    44

    积分

    新手上路

    Rank: 1

    积分
    44
    10#
    发表于 2023-1-2 22:29:45 | 只看该作者
    糖果VR资源分享网,我来了!
    回复

    使用道具 举报

    快捷回复:
    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    用心服务创业者
    失效反馈
    周一至周五 9:00-18:00
    意见反馈:失效反馈版块

    扫一扫咨询我们

    本站为非营利性个人网站,本站所有软件来自于互联网,版权属原著所有,如有需要请购买正版。如有侵权,敬请来信联系我们,我们立刻删除。

    Powered by 糖果分享网 X3.3© 2001-2013 TGW.