安全产品之处罚申诉

0 评论 3676 浏览 1 收藏 16 分钟

编辑导语:所有平台都有申诉,申诉可以帮助平台挽回处罚的损失和节省处理特殊渠道申诉的成本。本篇作者就对与安全产品的处罚申诉相关的问题展开了分析说明,希望对你有用。

一、处罚申诉是什么

申诉是用户主动寻求解除处罚的方式。

与举报类似,用户产品是申诉的“皮”,每个app都需要有个入口和快速提交的功能,安全产品是申诉的“魂”,申诉后怎么处理,及最终处理结果,决定用户是否满意。

因此,处罚申诉的产品目标是,用最低的成本让用户申诉后有满意的结果。这也就是为什么,在豆瓣、微信视频号等这样行业前沿的app里,依然需要用户通过发送邮件进行申诉的原因。

二、为什么要有申诉环节,是否是必须的?

所有平台都有申诉,申诉帮助平台挽回处罚的损失,以及节省处理特殊渠道申诉的成本。

1. 帮助平台挽回处罚造成的损失

平台获取新用户以及让用户持续活跃是有成本的,当用户在平台贡献价值(一般采用APRU-平均每付费用户贡献的收入或LTV-衡量产品从用户获取到流失所得到的全部收益的总和)超过成本,才能实现盈利,而对用户进行封号或者删除/限流用户的内容,都会降低他对平台贡献的价值,甚至将这部分价值拱手送给了竞争对手。

当用户存在违规且给平台造成损失,且损失>=用户终身价值,此时处罚是有收益的,比如在媒体点名的情况下各个平台封禁辛巴、郭老师、人类高质量男性等劣迹作者,避免监管部门约谈、负面舆论的损失。

当用户没有给平台造成损失,被误杀或者处罚过严,用户带来的损失接近0,此时处罚是有损的,用户本可以继续为平台带来价值,但平台把他赶走了。这时就需要通过平台主动解除处罚,或用户主动申诉解除处罚,从而挽回损失。

2. 节省处理特殊渠道申诉的成本

用户如果对处罚最终得不到满意的说法,会进行站内外投诉、上门讨说法、起诉、极端情况还会以“自杀自残”威胁。这些情况不仅处理成本高,而且对平台声誉有影响。

“2020年8月25日,广东深圳。一市民反映自己弟弟因微信被封号影响做生意,多次申诉无果从腾讯公司坠楼身亡。其哥哥表示,由于弟弟想问清楚原因,但是微信一直是机器人回复,搞得非常烦,去了腾讯又找不到人,目前腾讯出于人道主义给了15万。警方称是其弟弟在网上涉色情聊天被封号。腾讯一内部人士表示,其弟涉违规被封几日后可解禁。警方介入调查。”

对于这两点收益来说,申诉不是唯一手段。前置保障处罚的合理、准确,也能实现上述作用,只不过,处罚的优化需要长期进行,且是基于处罚前发布的内容和历史表现做出的,申诉可以兜底。而申诉的不可替代性在于,可以结合用户被处罚后提供的信息或者进行的表现,评估给什么结果。

三、处罚申诉怎么做

1. 行业现状盘点

1) YouTube

当用户作品被限制或移除、用户功能受限、被警告,均可提出申诉。申诉后由人工审核人员进行审核判断是否存在误伤。

2) Facebook&Ins

在多数情况下,用户可以对作品和用户功能的处罚进行申诉。如果申诉后依然不认同,在15天内可以向监督委员会提出申诉。

监督委员会挑选出符合“疑难、重大、事关全球用户并可为将来政策制定提供指导”的条件的申诉请求后,指派一个审议小组来负责本次申诉案件并收集相关信息以便进行深入审核。

这些信息包括申诉人提供的信息,以及 Facebook 公司根据适用法律法规和隐私限制提供的背景信息。

审议小组成员将认真审议案件,根据申诉人、Facebook 及受邀协助调查的专家提供的所有信息做出决定,通常会在 90 天内定案。

3) 微信

① 用户处罚:帐号受限后可以联系客服进行复审。部分短期封禁的情况,如3天、8天,封停到期后可以自助解封,自助手段包括手机验证、人脸验证、好友辅助。

② 视频号处罚

对内容、功能限制目前只能通过邮箱申诉。虽然不清楚微信这样做的原因,但邮件无法自动化关联视频号批量审核,里面的内容需要运营同学认真阅读。

通过用户的申诉邮件进行分类分析,可以全面了解用户对申诉的痛点和诉求是什么,进而设计出贴合视频号场景的申诉功能,以及反思不合理的处罚场景,从而改良用户被处罚的尺度、通知方式等,这个过程就非常考验邮件那头的运营同学了。

③ 公众号处罚

对内容、功能限制可在运营后台在线提交申诉。

4)抖音

与其他社区类似,对内容、功能限制均可提交申诉。

独特的是,对于大部分帐号封禁、直播封禁可以自主答题后解封。

帐号封禁答题解封条件

1.帐号第一次或第二次违规。

2.违规类型包括传播贩卖色情资源、色情引流、风险广告引流、售卖烟草、封建迷信、风险广告、违法工具、暴露隐私部位、违规医疗广告、涉嫌诈骗、高风险金融产品、制假售假等(根据公开信息整理,不代表完整情况)。

3.部分做10道题可以解除,有的用户需要完成10套(100道题),都做完才可以解。

4.答题通过7天后正式解除,推测答题成功后人工清理了违规信息。

直播封禁答题解封条件

1.封禁3天以内。

2.近30天答题次数<4。

答题解封在B站、微博、快手等社区也广泛运用。

2. 申诉通用产品框架

申诉的产品框架可分为申诉入口、申诉处理、申诉通知。共同的目标是用最小的成本识别出可以恢复正常的用户和内容,帮助平台挽回处罚的损失。

3. 申诉入口

首先要思考用户什么场景下会进行申诉,根据社区的场景分布选择满足哪些情况。

场景1:被处罚后,认为自己没问题

申诉入口:处罚提醒附带申诉入口,用户收到处罚提醒后可以立刻进行申诉,处罚提醒以站内信的形式出现,或当功能限制后,用户点击该功能时提醒功能不可用及原因。

特殊情况:平台可根据处理成本、违规原因等设置不可以申诉的情况。

有一天我发现去年的作品被自见了,但没有找到申诉入口。

场景2:用户怀疑自己被处罚了

申诉入口:独立展示,一般放在找客服的页面。

小红书独立申诉入口

4. 申诉处理方式

在设计处理方式之前,需要对社区可撤销的处罚进行定义并编写规则,各个社区普遍借鉴了法律规定。

法律规定

1.对冤假错案推翻原来已经生效的判决结果。

2.法律变动后,依新法做出的判决责任较轻时,适用新法。

3.在执行一定刑期之后,因其遵守监规,接受教育和改造,患有严重疾病或确有悔改表现,不致再危害社会,而附条件地将其予以提前释放。

平台申诉规则

1.当处罚判断有误,申诉后撤销处罚。

2.策略/规则调整,之前处罚的后来不处罚了,申诉后撤销处罚。

3.用户经过处罚等教育后已经知错改正(仅针对帐号功能限制类的处罚),申诉后减免处罚。

根据社区的发展阶段和风控现状,处理方式有所侧重。

  • 社区产品初期,风控能力薄弱,此时规则、策略调整频繁,机审策略、人审等准确率不稳定,易出现误杀,此时申诉后主要挽回误杀。
  • 产品中后期,风控能力已经发展成熟,误杀基本不会出现、策略/规则也相对稳定,此时申诉后主要挽回已被教育改正的用户。

定义好社区目前需要撤销的处罚后,就可以针对性设计处理流程了。

1)挽回误杀的处理方式

二次审核(复审),由人工再次判断核实违规是否成立。

申诉审核后台设计时需要注意两种判定情况:

  1. 通过还原处罚时的证据进行二次判定,即可核实是否误伤,比如发布色情内容。此时审核后台与处罚后台可以保持一致,或者提供的审核信息多于处罚时的信息,有助于更全面地判断。
  2. 需要结合用户新提供的信息,才能核实是否误伤,比如侵权。一方面在申诉提交环节要引导用户提交特定资料,另一方面审核后台也必须展示用户提供的信息,以供审核员核实判断。

2)策略/规则调整的处理方式

批量回溯,即策略/规则变动时可自动对过去处罚的对象更新处罚,理想来说不应该在申诉环节处理。但很多公司不具备该能力,只能在用户申诉后按最新的规则人工判定。

3)挽回已被教育改正的用户的处理方式

人工审核、圈定特定用户教育后、考察用户表现,后两种不依赖用户主动申诉后再处理。人工审核可以根据用户被处罚后的表现判定用户之后是否不会再次违规,如保证书等。

因为通过人工去判断用户的承诺是否靠谱,非常难,所以就衍生了自助答题、违规后考察的解封方式,通过策略圈定特定的用户或违规情况,让用户付出一定成本后解封。

qq在6月左右就上线了承诺书申请解冻的环节,但提交后具体什么条件能解就不清楚了。

抖音在某些帐号处罚后,会主动评估用户后续的表现,如果表现符合社区规范,系统自动解除处罚。

腾讯游戏也有类似的环节。

最后,对于没有被处罚,而进入申诉环节的用户,无需处理,直接告诉用户帐号正常即可。

5. 申诉结果通知

将用户申诉的最终结果包装话术通知给用户。本环节只需要注意2点:

  1. 最终结果应包含申诉处理之前的解封结果,比如用户没有进行申诉,但通过质检等环节解封,也应告知申诉成功,用户申诉成功,避免产生误会。
  2. 如果用户申诉失败,需要疏导情绪,以及引导再次申诉的路径,避免用户走极端。

 

本文由 @晖晖 原创发布于人人都是产品经理,未经作者许可,禁止转载。

题图来自Unsplash,基于CC0协议。

给作者打赏,鼓励TA抓紧创作!
1人打赏
更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 目前还没评论,等你发挥!