最近写了个 ai 绘画小程序，有一些 sd 模型可以出涩图，我该如何检测呢？之前用了一个敏感词检测 API ，但是这 API 太“敏感”了，比如中国，鸡这样的字眼都会报存在敏感词。 或者是说只需在反向提示词那里做限制就可以了？
This topic created in 1019 days ago, the information mentioned may be changed or developed.
 |
1
estk Jul 30, 2023
百度 AI 的敏感词和图片审核水平还不错，可能是经过了贴吧的摧残而提高的
|
 |
2
chenjia404 Jul 30, 2023
肯定要啊，不然出现黄图，轻则喝茶，重则进去。
|
 |
3
systemcall Jul 30, 2023 via Android
建议直接买个大厂的检测服务
没什么大范围传播的话，出黄图一般也不会进去多久，但是要是出现了小熊维尼的图的话，搞不好直接蒸发了 |
 |
4
whileFalse Jul 30, 2023 via Android
直接检测生成的图
|
 |
5
IDAEngine Jul 30, 2023
直接检测 prompt ，屏蔽掉所有敏感字，只允许输入中文绘画
|
 |
6
letitbesqzr Jul 31, 2023
很多云厂家都有图片鉴黄服务，把生成好的图片先给这些服务过一遍，没问题再展示。
|
 |
7
panxi Jul 31, 2023
兄弟，这么跟你说吧，出了敏感问题跟阿里腾讯华为这样的公司还能谈，罚酒三杯了事。对你， 对接的就是国家暴力机器
|
Select Language