这是一个创建于 520 天前的主题，其中的信息可能已经有所发展或是发生改变。
最近写了个 ai 绘画小程序，有一些 sd 模型可以出涩图，我该如何检测呢？之前用了一个敏感词检测 API ，但是这 API 太“敏感”了，比如中国，鸡这样的字眼都会报存在敏感词。 或者是说只需在反向提示词那里做限制就可以了？
 |
1
estk 2023-07-30 00:44:13 +08:00
百度 AI 的敏感词和图片审核水平还不错，可能是经过了贴吧的摧残而提高的
|
 |
2
chenjia404 2023-07-30 01:38:00 +08:00
肯定要啊，不然出现黄图，轻则喝茶，重则进去。
|
 |
3
systemcall 2023-07-30 05:34:31 +08:00 via Android
建议直接买个大厂的检测服务
没什么大范围传播的话，出黄图一般也不会进去多久，但是要是出现了小熊维尼的图的话，搞不好直接蒸发了 |
 |
4
whileFalse 2023-07-30 09:53:48 +08:00 via Android
直接检测生成的图
|
 |
5
IDAEngine 2023-07-30 16:48:21 +08:00
直接检测 prompt ，屏蔽掉所有敏感字，只允许输入中文绘画
|
 |
6
letitbesqzr 2023-07-31 08:57:29 +08:00
很多云厂家都有图片鉴黄服务，把生成好的图片先给这些服务过一遍，没问题再展示。
|
 |
7
panxi 2023-07-31 10:20:06 +08:00
兄弟，这么跟你说吧，出了敏感问题跟阿里腾讯华为这样的公司还能谈，罚酒三杯了事。对你， 对接的就是国家暴力机器
|
Select Language