V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
chizuo
V2EX  ›  分享发现

一个简单部署的 Stable Diffusion Model,体验自由图像生成

  •  
  •   chizuo · 2022-10-16 15:55:27 +08:00 · 2724 次点击
    这是一个创建于 772 天前的主题,其中的信息可能已经有所发展或是发生改变。

    大家好

    最近 stable diffusion model 大杀四方,而且参数较小给了用户自己玩的可能性 基于 huggingface 的 web app 体验很差,不开放参数选项,不如自己部署一个 web 网页玩一玩

    为什么要修改源码

    huggingface 的 web app 的源码 bug 多多,不修改的情况下是没办法直接进行部署的,缺少文档。对于想要 5 分钟快速就跑起来是比较困难的,我修改了一下源码使其容易部署,写了一个 5 分钟左右的指南,可以一步步快速部署一个网页,包含所有可调的参数可以交互。

    示例

    Gihub 源码 https://github.com/Raibows/WebPlayground-of-StableDiffusion

    提示,大约需要 11G 显存,正比例于图片的大小。

    欢迎大家使用,谢谢大家!

    15 条回复    2022-10-27 21:44:04 +08:00
    davinci21s
        1
    davinci21s  
       2022-10-16 17:41:39 +08:00
    11G 显存。。。很多电脑都达不到
    winglight2016
        2
    winglight2016  
       2022-10-16 17:57:30 +08:00
    之前我在 colab 上简单试了一下,发现生成的图片很粗糙,lz 的 demo 图片是用了什么参数吗?看起来比较精细一些
    iluolSNS
        3
    iluolSNS  
       2022-10-16 18:30:53 +08:00   ❤️ 1
    带不动 这就买个 4090[手动狗头]
    Tanix2
        4
    Tanix2  
       2022-10-16 18:56:54 +08:00
    chizuo
        5
    chizuo  
    OP
       2022-10-16 21:44:13 +08:00
    @winglight2016 试试增大 steps ?一般 40 步以上比较好,还有就是图像尺寸要大一点,默认 512x512 往上。scale 在 6-15 会好一点。再有就是检查 stable diffusion model 的 weights version ,我用的是最新的 1.4
    chizuo
        6
    chizuo  
    OP
       2022-10-16 21:45:13 +08:00
    @Tanix2 哈哈哈哈是的,我改完 huggingface 的才发现,已经有很成熟了。我这个比较简单,细节很清楚,适合玩具随便玩一下
    chizuo
        7
    chizuo  
    OP
       2022-10-16 21:46:34 +08:00
    @davinci21s 期待以后的剪枝或者蒸馏版本吧。但是 diffusion 相对 dalle 这些来说已经算是很节省显存了哈哈哈
    winglight2016
        8
    winglight2016  
       2022-10-17 11:25:09 +08:00
    @davinci21s
    @iluolSNS
    colab 上可以免费跑,显存肯定够用了
    @chizuo
    好的,谢谢,我抽空再试试
    haiyan
        9
    haiyan  
       2022-10-17 14:45:58 +08:00
    4G 都可以跑啊,我的 3070 也是 8G ,为啥 11G
    neptuno
        10
    neptuno  
       2022-10-17 17:55:13 +08:00
    还想在我的辣鸡腾讯云上部署一下,哈哈哈太天真
    chizuo
        11
    chizuo  
    OP
       2022-10-17 23:09:19 +08:00
    @neptuno 哈哈哈,可以试一试 cpu mode ,也许 8G 内存可以?
    chizuo
        12
    chizuo  
    OP
       2022-10-17 23:10:25 +08:00
    @haiyan emmm ,我没有准确衡量过。我这里推理 batch 6 ,step 50 ,512x512 ,显存会稳定在 11-13G ,有时会冲到 30G 几秒...
    neptuno
        13
    neptuno  
       2022-10-18 09:27:35 +08:00 via iPhone
    @chizuo #11 256m 请求一战 hahah ,后面自己台式上面试一下
    ltkun
        14
    ltkun  
       2022-10-19 08:12:25 +08:00
    感谢楼主 在 win10 的 wsl2 下也成功部署了 不过是笔记本 4g 入门级别的显卡 256 分辨率的哈哈 好玩
    qiandongdong
        15
    qiandongdong  
       2022-10-27 21:44:04 +08:00
    如果要部署在云端什么机器可以支持?一般的 VPS 也不行啊???
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1444 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 17:33 · PVG 01:33 · LAX 09:33 · JFK 12:33
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.