V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
as9567585
V2EX  ›  程序员

有朋友的公司有 UGC 业务的吗?审核这么做的呢?

  •  
  •   as9567585 · 2022-10-30 21:35:11 +08:00 · 1950 次点击
    这是一个创建于 784 天前的主题,其中的信息可能已经有所发展或是发生改变。

    主要都文字、图片。 用的有第三方的机审产品吗?

    比如阿里云的“内容安全”,腾讯云的“天御 内容安全”。效果怎么样呢?

    还会做人工审核吗?

    前两天还看到《面包多》因为用户发布违规的东西被封了。

    6 条回复    2022-10-31 02:59:47 +08:00
    momoca
        1
    momoca  
       2022-10-30 21:42:22 +08:00   ❤️ 1
    比如阿里云的“内容安全”,腾讯云的“天御 内容安全”。效果怎么样呢?

    阿里云 /腾讯云 /百度云 都用过.微信也有自己的内容审核文字审核.

    审核分 文字 /图片 /视频 有阈值 那效果肯定是刚刚的(调高了基本都不合格).

    再有机器审核后肯定要人工审核的.
    yuzo555
        2
    yuzo555  
       2022-10-30 21:55:01 +08:00   ❤️ 1
    机器审核加人工,机器审核的力度可以调低点,但也要结合你们人工审核的工作量以及用户的接受度来调整。

    机器审核可以过滤掉一些关键词内容和明显的违规图片,剩下的交给人工。

    肯定得有人工,不能完全机器,毕竟汉语这门语言以及朝廷的避讳这二者都挺博大精深的。
    tanranran
        3
    tanranran  
       2022-10-30 22:06:51 +08:00
    三方+人工,都得做
    Jirajine
        4
    Jirajine  
       2022-10-30 22:10:15 +08:00
    @yuzo555 你从哪里招能识别各种隐晦乳化代指梗的人工审核。
    rsy
        5
    rsy  
       2022-10-30 22:39:16 +08:00 via Android
    @Jirajine 有专业的内容审核外包公司,有些是官方御用的
    george550596
        6
    george550596  
       2022-10-31 02:59:47 +08:00   ❤️ 1
    作为干这行的,优先推荐数美 /网易易盾,阿里和腾讯天御也用过,这 4 个产品单纯从基建看个人觉得数美和易盾做得更好,对应的词库和模型适用性更广,听同行的朋友说阿里在电商方面内容安全是不错的,但其他方面不一定算好,天御个人感觉没啥特色,主要是腾讯系的公司在用,第三方机审的效果还是要试用后才能看出来,不同性质的平台,对机审模型的需求还是有些区别的,新闻资讯类、社交社区类、电商类等等不同的产品,在审核需求上也会有不同;
    人工肯定也是要用的,如果内容量级不大的话,人工成本可能更低;
    另外,很多公司会混用第多个三方的机审+人工辅助,整体效果也更好一些;
    如果想节约成本做审核的话,在没有任何资源的情况下,先借用第三方机审的判断能力搞一套自身的词库,把敏感词过滤系统做起来,效果也不错。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4085 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 01:03 · PVG 09:03 · LAX 17:03 · JFK 20:03
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.