线上平台和线下社区的运作模式有类似的地方。违规和破坏行为的滋生会导致大规模抛弃的发生。同样的道理对于线上社区和市场也适用，尤其是在社区增长的过程中尤其如此。

因为网络效应的存在，在线社区规模的增大使其变得更加有价值。但是，如果系统无法治理好用户行为的话，破坏行为的滋生会让网络效应发挥相反的作用。一旦发生这种情况，一个快速发展中的用户网络就会开始大范围地流失用户（比如ChatRoulette就是），在线讨论的氛围会变得荒谬（比如YouTube评论），而在线上做出的决定甚至可能会导致线下不愉快的结果（比如Airbnb房主被洗劫）。

赢得许多关注、正在快速增长的创业公司也会面临失败的局面，尤其是在无法设计一套违规控制系统避免、监管并修正这种喷子行为的情况下。

了解用户驱动（user-initiated）的行为

每个在线用户驱动的行为都设计两个对象：

生产者（The Producer）：一部分用户在平台上生产内容或信息，基于此产生了与其他用户间的互动和交流。写作平台上的作者和电商网站上的卖家都是各自系统里的生产者。

种子（The Seed）：指的是内容或消息的基本单元，由生产者生产。在视频网站上，指的就是生产的视频。在短租网站上，指的就是列表上的产品。总之就是这个平台上生产和消费的基本单元。

避免喷子和违规行为在系统中出现的措施可以施加在生产者一方，也可以施加在种子一方，我们将在下文的例子中看到。

避免违规行为的制度设计框架

从医疗行业中借用一个比喻（对一个社区来说，破坏行为就好像组织器官里的疾病），一个在线平台设计相关制度可以有这样三种方式：

预防

最容易的方法就是掐断源头。这里有两种方式：

一、生产者：在线平台在生产者被允许使用系统之前就要进行挑选。一些网站有员工专门负责哪些用户可以访问它们的系统。有写作社区会严格限制作者身份，但是向读者开放阅读权限。这种方式的问题是在对一部分人说不的时候，也相应损失了一定的吸引力。

二、种子：在线平台将不符合要求的种子内容剔除。应用商店要求在app上架之前满足一定的要求。问答社区Quora要求用户在提问前有一定的系统用户信用等级，之后才允许和其他用户互动。和前一种方式的缺点类似，这种做法也会损失一定的对用户的吸引力，并且会导致更低的用户活跃度。

监管

鼓励高质量贡献的一个更好的方式是向所有人开放使用及生产权限，但是恰到好处地限制可见度（visibility）和被发现的机率（discoverability）。

一、生产者：基于某生产者的历史活动，设计一套判断可靠程度的信用系统。比如Hackers News和Reddit这些平台的算法就是偏爱声誉高的用户。这些声望较高的用户同样也会有更高的权限，Wikipedia的编辑和超级用户也是如此。

二、种子：投票和评级功能实现社会化甄选，能够在内容产生之后再行挑选。一些平台偏好生产者的信用等级，以及种子内容的评分，即评级结果。一些网站则只关注种子内容的质量分数。

一般来说，监管策略需要基于用户规模的大小来设计，能够为成千上百万用户服务，也能够为上千万的用户服务。

纠正

最后，在线平台需要纠正生产者以及其内容种子的问题。需要向用户提供报告违规行为的渠道，并且能够从算法上判断违规行为的模式，对于建立一个涵盖广泛的系统，这一点至关重要。

一、生产者：约会网站常常需要屏蔽那些有不当行为的用户。在一些情况下，用户并没有被平台完全屏蔽，而只是被禁止某种互动，比如LinkedIn允许用户拉黑某些用户联系他们。Facebook允许用户屏蔽一些好友的某些内容（状态更新）在他们的news feed里面出现。

二、种子：通常，用户可能不会被移除，但是为了减少系统的噪音，种子内容会被删除。YouTube就移除了色情/版权内容，Quora也会折叠“玩笑答案”（该社区用这种方式称呼此种答案内容），这都是移除系统噪声的例子。在许多情况下，移除种子内容反馈的举动可能最终也会导致将生产者从系统中剔除的情况。

避免网上的违规行为特别是喷子们的出现对于一家发展中的创业公司来说至关重要。在许多在线平台还在纠结创业初期“先有鸡还是先有蛋”的问题时，那些不需要解决这些问题的公司可能却会失去所积累的优势，如果他们的用户社区中出现喷子威胁的话。

via：虎嗅