互联网广告内容审核专题(三)——人机联动

1 评论 6615 浏览 26 收藏 6 分钟

编辑导语:笔者上一篇文章《机器审核》中,重点介绍了机器审核的能力,互联网广告内容审核专题(二)——机器审核;本文来谈谈机器和对人工审核如何组合运作,满足各类业务场景的需求?

首先,什么场景需要人工审核?对于机器无法准确识别的内容,都需人工审核进行确认;通常机器审核和人工审核的量级约为9:1,对于日均量级上亿的内容产品上,人审日均量级也达到百万级,同时满足时效性要求和审核质量无疑是很困难的。

因此在实际业务中,根据不同产品的形态,建立不同的人机联动审核机制,最大化满足审核诉求。

下面分别谈谈两种基本的审核机制:

一、人机联动机制

1. 先审后发

先审后发是早期审核采用的模式,要求全部内容均通过完整的审核流程后允许上线分发,用以保证风险最低、质量最优。

通常对于商业广告,高风险行业或客户必须采用先审后发机制,来避免风险的发生;对于重质量的内容社区,也需要经过完整的审核流程才能进行发布。

以上给出先审后发机制中,机器和人工审核联动的基本流程。待审内容都先通过机器审核;当机审输出结果达到阈值,准确度可信时,按机器审核结果通过上线或直接拒绝;当机审输出结果未达到阈值,给出疑似风险的判断,推送给人工审核进行最终确认,按人审结果通过上线或直接拒绝。

对于先审后发机制,不断提升机器审核的准确率,将会大大减少人工审核的工作。

2. 先发后审机制

对于海量的内容,全部采取先审后发机制无法满足内容分发的时效要求。近些年兴起的先发后审机制,可以帮助解决这部分问题。

对于商业广告,可以选取低风险行业或客户,允许先上线分发,帮助其短时间内获取更多流量;对于时效性要求高的内容产品,如评论、视频弹幕等,快速上线展现,满足其实时发布需求。

以上给出先发后审机制中,机器和人工审核联动的基本流程。待审内容通过机器审核,秒级输出机审审核结果;如机审结果确认有风险,则按机审结果直接拒绝,否则立刻上线分发;上线后根据展现量抽取线上展现内容,推送人工复审,检查风险问题。

如人工复审发现的风险问题较大,可以将该行业或客户的审核机制升级为先发后审,来保证风险可控。

在审核业务中,先审后发和先发后审两种机制也通常组合运作,灵活调配,以最小的成本实现风险控制,满足审核时效要求。

二、审核任务分配

在人机联动审核机制中,如何将审核任务快速分配给对应的人员进行审核呢?来一起看看审核任务分配机制。

1. 审核任务主动分配

上图是一套动态灵活的审核任务分配机制,减少任务等待时间,更快速地分发给审核人员。

第一步:待审任务灌入审核任务池,等待被分配。

第二步:根据审核组长或管理人员配置的权重,自动分发相应比重的任务,进入审核员任务列表,审核员可以开始审核;通常分配权限需支持灵活配置,如支持审核员请假等场景。

第三步:对审核任务池和审核员任务列表实时监控;如出现任务池任务突增,需加快分配至审核员任务列表进行审核;如审核员任务列表剩余任务不足,任务池主动进行分配;通过这样动态分配的方式,保证审核员有充足的任务,避免任务积压。

实际审核任务分配可以基于此基本方法进行变换,满足不同场景的审核需求。

本篇文章的内容就到这里,关于更多的审核模式、审核机制、审核业务管理方式等会在后续文章中继续和大家分享!欢迎大家一起探讨!

 

本文由 @Rush 原创发布于人人都是产品经理,未经许可,禁止转载

题图来自 Unsplash,基于 CC0 协议

给作者打赏,鼓励TA抓紧创作!
更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 赞👍

    回复