内容生态如何治理?3步快速制定治理策略

7 评论 2568 浏览 8 收藏 12 分钟

编辑导读:做社区产品的,避免不了要对社区内的生态进行管理,对社区不良内容进行干预。那么,如何治理内容生态呢?本文作者对此进行了分析,希望对你有帮助。

一、内容生态治理是什么

内容生态治理一般是指对社区不良内容进行干预。

国家互联网信息办公室于2019年12月15日发布《网络信息内容生态治理规定》将“网络信息内容生态治理”定义为,政府、企业、社会、网民等主体,以培育和践行社会主义核心价值观为根本,以网络信息内容为主要治理对象,以建立健全网络综合治理体系、营造清朗的网络空间、建设良好的网络生态为目标,开展的弘扬正能量、处置违法和不良信息等相关活动。并要求网络信息内容生产者应当采取措施,防范和抵制各类不良信息,营造良好网络生态。

内容生态治理源于内容演变速度与社区管控能力存在的冲突。

如果社区内容是稳定不变的,那么只需要一套固定的管控能力,不需要长期地治理。这也就是为啥随着社区内容的丰富,各家企业开始重视生态治理、内容风控业务,大量招人的原因。

内容生态治理负责平衡内容质量与业务规模存在冲突。

社区需要优质内容和优质用户,而优质内容和优质用户是稀缺的,且很难被大众理解的。

为了迎合不那么优质的,但能给社区带来大量dua、gmv的用户,社区原本定义的优质内容也会变成不良内容,比如知乎一开始只是针对特定有影响力的作者开放,后来开始削弱大V点赞订阅不再推送给所有粉丝,某些有理有据的文章会出现“争议较大的观点”提示,比如小红书最近的“照骗”事件,博主上传精心拍摄、后期的优质内容原本是一件双赢的事,博主收获了粉丝和变现,平台也收获了用户和广告分成,但依然会有用户觉得被骗了,小红书肯定马上会对“照骗”内容进行一波生态治理。

二、具体怎么做

1. 判断内容是否要治理

生态治理有2大来源,一种是外部倒逼的,一种是内部自发的。不同的来源的紧急程度、判断方式不同。

外部倒逼的治理:指令、舆情

1)指令

指令有两种,第一种是国家部门公开发布的清查、政治指令。这类指令一般描述得较为抽象和宽泛,需要专业的政府关系部门和风控部门共同进行研判解读后,基于平台定位制定具体的执行范围和方向。

比如:6月15日,中央网信办宣布在全国范围内开展“清朗·‘饭圈’乱象整治”专项行动。豆瓣开始对违规账号、问题小组等进行删除和解散,爱奇艺对集资、打榜彻底“自查自纠”。

另一种是国家部门直接给企业下达的查杀的指令,比如互联网举报中心收到xx举报,命令平台处理,这类指令必须执行。

2)舆情

舆情一般指用户或媒体在站外对平台出现的内容进行负面评价,并达到一定传播量,如果不及时处理,可能对平台品牌形象、声誉有恶劣影响。官媒发出的负面评价,严肃程度不亚于指令。

比如:9月末,《新京报》和《央视网》等多家媒体报道了社交媒体的“佛媛”现象,一时间上了热搜。各个社区在第一时间进行了清查,抖音共处罚利用“佛媛”形象营造人设开展虚假营销行为相关帐号48个,其中永久封禁帐号7个,同时,清理违规视频148条。小红书第一时间已启动专项检查,清理违规笔记70篇,封禁账号3个。

10月,很多人假期出游后,在社交网络上吐槽小红书“滤镜景点”,一时冲上了热搜,之后小红书进行了公开道歉。

对于外部倒逼的指令、舆情,一般由企业内专业的公关部门,政府关系部门进行快速交涉和判断,给出应对措施到各个部门执行落地,进行生态治理是其中必备的措施之一。

内部自发的治理:监测到平台内容风险上升

日常观察社区整体内容风险的监控数据,以及定期对社区内容的抽样摸底,及时发现风险的变化。风险上升主要体现为:

  1. 用户负反馈上涨,某类内容被集中举报投诉或不感兴趣,有演化成外部舆情的趋势。
  2. 内容特征升级,需要在原有治理策略的基础上进行迭代,比如一开始大家喜欢在简介里导流微信,发现容易被平台和谐,后来大家发现还可以通过多个视频封面连在一起导流微信。
  3. 内容影响变大,之前只有个别人喜欢这么玩,突然很多人这么玩,比如剧本卖货一开始是头部主播在玩,大家还觉得新鲜,但后来模仿者越来越多,影响了业务指标(比如观众浏览直播的时长变低、退货率变高等),于是平台开始进行干涉。

比起外部舆情指令,这类内部监测到的风险变动,有更充足的时间来进行判断分析,所以需要进一步通过数据分析该内容的实际风险情况来做决策。一般使用以下指标:

风险衡量指标:

  • 该内容在整个社区的浏览(vv)占比
  • 该内容引发的举报投诉、舆情等

收益衡量指标:

  • 该内容为平台带来的营收(广告营收、gmv营收、打赏营收)、对应作者的粉丝量等
  • 已有风控策略的质量指标
  • 召回率
  • 准确率

最终得出的结论:

  1. 风险较低,或收益显著大于风险,暂时不需要治理,并保持观察
  2. 风险较高,原来不打,现在需要打,或原来打得松,现在需要严打

决定要打以后,就可以开始进行内容生态策略设计了。

2. 治理策略三步走

第1步 定义治理对象,基于用户特征、内容场景特征等,给出治理对象的具体定义和机器/人工可执行的规则。

当我们得出初步的治理方向后,落地执行的第一步就是基于社区内容现状的分析,定义及刻画治理的对象。比如要对社区“侮辱谩骂”评论进行治理,分析步骤如下:

  1. 取出社区内过去n天,可能存在侮辱谩骂内容的评论内容、用户id、评论点赞次数、评论曝光次数。
  2. 从总体n条数据中简单随机抽样,使每个可能的样本被抽中的概率相等。
  3. 对每条样本标注特征标签、有害程度。标记前,需要制定标注规则,确保判断维度一致,如果对内容比较陌生,标记时尽可能用细致的标签,标记完成后可以进行同类项合并。
  4. 汇总标注结果并得出结论。将各类标签照合理的逻辑框架整理汇总,综合影响面、风险情况确定优先级,作为接下来的策略依据。对于侮辱谩骂来说,明确对他人进行人身攻击、引战的评论风险最高,需要进行治理,而脏话口头禅类风险较低,只需要保持观察或轻度干预。

第2步 针对不同程度的内容,制定干预规则,内容对社区伤害的程度(也就是风险)决定干预规则。

有了干预规则,就可以结合平台已有的策略手段设计实现方式了。

  1. 在线策略:事前识别内容及用户,实时召回进行干预,比如对内容进行发布干预,命中某些特征直接禁发,或进行流量干预,比如调整推荐策略、对内容限制分发或删除自见,还可以对用户权限进行干预,某些喜欢发布这些内容的用户直接限流或禁止发布新内容
  2. 离线策略:事后结合历史数据进行干预,比如内容被干预n次后,升级为用户权限。

对于侮辱谩骂内容来说,明确对他人进行人身攻击、引战的评论风险最高,需要进行治理,而脏话口头禅类风险较低,只需要保持观察或轻度干预。在实际情况中,需要根据社区的生态特征穷举可能出现内容类型和特征,下表仅作为简单示例:

百度贴吧还曾对“傻逼”进行过精细地治理,一开始“傻逼”被设成禁发词,后来很多人都爱用 “伞兵”指代“傻逼”,官媒发文说了请不要污名化伞兵。

为了避免网友又演化出其他词替代,带来不可预估的风险,百度不再简单粗暴地对“伞兵”进行屏蔽,而是把“傻逼”两个字放开,输入傻逼可以直接发布,但是发送后会自动被这张图代替,也算是业界清流了。

第3步 上线后复盘效果,验证治理策略是否解决问题,如果有解决,有没有进一步优化空间、有没有引入新的问题,优化/解决手段是什么,如果没有解决,分析为什么,以及如果要达到目标,接下来要做什么。

确定问题及后续做法时,同样也从第一步走进行,如果某类内容特征出现演变、或者曝光量、风险出现变化,则需要调整对应的策略。

下一篇文章,我会用具体的案例来讲解这三步走的实际运用,比如小红书“照骗”如何治理、非原创视频如何治理等。欢迎同行留言一起讨论~

 

本文由 @晖晖 原创发布于人人都是产品经理,未经作者许可,禁止转载。

题图来自Unsplash,基于CC0协议。

给作者打赏,鼓励TA抓紧创作!
更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 期待你的下一篇文章——下一篇文章,我会用具体的案例来讲解这三步走的实际运用,比如小红书“照骗”如何治理、非原创视频如何治理等。欢迎同行留言一起讨论~

    回复
  2. 【另一种是国家部门直接给企业下达的查杀的指令,比如互联网举报中心收到xx举报,命令平台处理,这类指令必须执行。】–这种归根到底 属于举报内容范畴,说直接必须处理 有点绝对了。互联网举报中心和指令其实是两码事儿。

    回复
  3. 对社区不良内容进行干预,有利于建造良好的网络环境

    回复
  4. 楼主有没有公众号呀

    回复
    1. 没有哈

      回复
  5. 这才是干货啊

    回复
  6. 治理策略三步走
    1.定义治理对象,基于用户特征、内容场景特征等,给出治理对象的具体定义和机器/人工可执行的规则。
    2.针对不同程度的内容,制定干预规则,内容对社区伤害的程度(也就是风险)决定干预规则。
    3.上线后复盘效果,验证治理策略是否解决问题,如果有解决,有没有进一步优化空间、有没有引入新的问题,优化/解决手段是什么,如果没有解决,分析为什么,以及如果要达到目标,接下来要做什么。

    回复