这是一个创建于 736 天前的主题，其中的信息可能已经有所发展或是发生改变。
主要都文字、图片。 用的有第三方的机审产品吗？
比如阿里云的“内容安全”，腾讯云的“天御 内容安全”。效果怎么样呢？
还会做人工审核吗？
前两天还看到《面包多》因为用户发布违规的东西被封了。
 |
1
momoca 2022-10-30 21:42:22 +08:00  1
比如阿里云的“内容安全”，腾讯云的“天御 内容安全”。效果怎么样呢？
阿里云 /腾讯云 /百度云 都用过.微信也有自己的内容审核文字审核. 审核分 文字 /图片 /视频 有阈值 那效果肯定是刚刚的(调高了基本都不合格). 再有机器审核后肯定要人工审核的. |
 |
2
yuzo555 2022-10-30 21:55:01 +08:00 1
机器审核加人工，机器审核的力度可以调低点，但也要结合你们人工审核的工作量以及用户的接受度来调整。
机器审核可以过滤掉一些关键词内容和明显的违规图片，剩下的交给人工。 肯定得有人工，不能完全机器，毕竟汉语这门语言以及朝廷的避讳这二者都挺博大精深的。 |
 |
3
tanranran 2022-10-30 22:06:51 +08:00
三方+人工，都得做
|
 |
6
george550596 2022-10-31 02:59:47 +08:00 1
作为干这行的，优先推荐数美 /网易易盾，阿里和腾讯天御也用过，这 4 个产品单纯从基建看个人觉得数美和易盾做得更好，对应的词库和模型适用性更广，听同行的朋友说阿里在电商方面内容安全是不错的，但其他方面不一定算好，天御个人感觉没啥特色，主要是腾讯系的公司在用，第三方机审的效果还是要试用后才能看出来，不同性质的平台，对机审模型的需求还是有些区别的，新闻资讯类、社交社区类、电商类等等不同的产品，在审核需求上也会有不同；
人工肯定也是要用的，如果内容量级不大的话，人工成本可能更低； 另外，很多公司会混用第多个三方的机审+人工辅助，整体效果也更好一些； 如果想节约成本做审核的话，在没有任何资源的情况下，先借用第三方机审的判断能力搞一套自身的词库，把敏感词过滤系统做起来，效果也不错。 |
Select Language