[Local Dream] 在 Android 端运行 Stable Diffusion，支持骁龙 NPU 加速

[xclrr]

用了一个多月的空余时间写了一个在 Android 端测运行 Stable Diffusion 的 apk 。目前适配了两款模型，Anything V5 和 Stable Diffusion 2.1 。 Anything V5 做了 CPU 和 NPU 版本，Stable Diffusion 2.1 只做了 NPU 版本。

在 NPU 上运行：

• 支持的芯片：骁龙 8gen2 8gen3 8gen4
• 可能支持但我未验证过的芯片：骁龙 6gen1 8sgen3 7+gen3
• 512 分辨率 10 秒出图

在 CPU 上运行：

• 近几年的设备应该都没问题
• 速度很慢，8 位动态量化精度也一般
• 支持 128 ，256 ，384 ，512 分辨率，256 分辨率大概 30 秒内能出图

下载： https://github.com/xororz/local-dream/releases

Apk 内默认从 huggingface 下载模型，可以点击右上角下载设置修改成 hf-mirror

感谢 v 友帮忙测试，8gen1 是可以运行的，我发一版新的 release 支持 8gen1 ，同时根据高通官方的文档，和 8gen1 NPU 同架构的有 7gen1 和 7+gen2 ，这两个可能也可以运行

[tetora]

8gen1 会考虑支持吗？现在 8gen1 zfilp4 坏屏的只要 180-260 左右，用来搞这些再加个 emby 服务端简直完美

[Jhonohn]

已星，同希望支持 8gen1 ，希望小米 12 Pro 还能干点事

[xclrr]

@Jhonohn 8gen1 和 8+gen1 可能会遇到 npu 内存装不下模型的问题，我不确定能不能运行，身边朋友没有 8gen1 的设备，可以帮我内测一下吗，微信 base64: Z2FtZS1vZi1sdWNr

[xiazhiisgood]

问一下红米 12 turbo 的 7gen2 是不是没希望了？

[gjp1120]

7gen3 oneplus ace 3v 卡在加载

[xclrr]

@xiazhiisgood 可以下载最新的 release 试一下，7+gen2 和 8gen1 同架构，有可能可以，但我不能保证

[xclrr]

@gjp1120 卡在加载就是后端没能起来，可能是 NPU 内存不够

[lee88688]

我刚快下完成切到后台一段时间回来发现中断了，当继续点击下载，然后就重新下载了😂。话说 op 你的这个下载模型存在什么位置的啊，这种重复下载会不会有不能删的脏数据。

[xclrr]

@lee88688 嗯...，下载功能我做的很简单，没有搞断点续传后台保活啥的。重复下载没事，每次下载是重新写入文件，存放到 app 的私有空间

[lee88688]

op 可以考虑一下断点续传的功能，我刚下载到一半又断了，然后又重新下载😂。来不起了。。。下次再来吧。