面对网络暴力,互联网平台能做些什么?

11 评论 4256 浏览 19 收藏 26 分钟

#本文为人人都是产品经理《原创激励计划》出品。

互联网为人们提供了一个更为广阔的发声区域,人们在匿名身份背后,可以更加自由地发表观点和看法,但也因此,部分“键盘侠”可能会利用这层隐匿进行舆论攻击,导致他人身心遭受伤害。这就要求网络平台做好防暴措施,共同塑造一个良好的言论环境。

最近的一则新闻,深深刺痛着我的心……

一名外卖员历时4小时,骑行27公里为上海一名女子的听障父亲送菜,事后女子为外卖员充值了200元话费作为感谢。网友却质疑给的太少,在网络上对女子进行语言攻击和谩骂,女子因舆论压力,最终选择坠楼来结束生命。

其丈夫表示,平时她胆子很小,连买一条鱼都不敢碰。事情发生后像失了魂一样,完全听不进任何人的声音,她接受了很多很多精神上的压力,不然真的不会选择这一步。

而这并非个例!网暴已经成为了新的夺命方式,且愈发严重。

据抖音披露的数据,抖音每天会有8亿条评论产生。其中,被处理的视频里,“谩骂,人身攻击”占比32.79%;国家网信办在今年3月的新闻发布会上表示,2022年以来,已累计清理有害信息87.9万条,处置违法违规账号4.1万余个。

国家近几年一直在采取相关行动来制止网暴,但网暴为何屡禁不止?面对网暴,作为平台方,又能发挥哪些作用呢?这篇文章,我们一起来探讨下。

一、网暴为什么屡禁不止?

1. 什么是网暴

网暴,即网络暴力。据央视网给出的定义,以下8种行为均视作网暴:引战营销、煽动对立、言语谩骂、私信轰炸、恶意剪辑、人肉搜索、P图抹黑、造谣诋毁。

2. 网暴屡禁不止的原因是什么?

1)网络是匿名的,发言门槛极低

网络世界和真实世界的区别在于,它是匿名的。

在互联网上冲浪,每个人都带着一个面具,没有人知道我们是谁。人是多面性的,在不同的环境下,会表现出不同的人格和特性。一个彬彬有礼的男生,戴上面具后,可能是一个歹毒的键盘侠。

而正是因为匿名性,我们对自己在网络上的言行举止基本不需要付出任何代价,发言门槛极低。

2)看不到听不到,很难感同身受

面对面指责一个人时,我们是能看到对方的情绪反应的。他的愤怒和难过,是会反馈给我们的,从而激发我们内在的同理心。我们会自省是不是说得过分了,是不是说错了,是不是误会别人了。

而网络隔绝了这种反馈,我们写下的每一句话,只是代表着自己当下的判断和情绪,对别人的心理影响和压力,我们是看不到、感觉不到的。所以没有人觉得自己伤害了另一个人,因为我们看不到。

但是一个普通人,特别是缺乏网络经验的人,会因为突然被这么多人指责而承担巨大的精神压力。有些人会因为无法接受这种压力,选择极端的方式酿成悲剧。

3)没有法律约束

时至今日,我国还没有专门针对网络暴力的法律法规,只是在宪法和民法、刑法中作出相关规定。这让各地在监管和执法上存在盲点,没有法规做依规,对潜在施暴者的震慑力不足。

4)网络信息的碎片化

人的本能反应,绝大部分是感性,而非理性的。我们在看到一个新闻事件时,总会以我们自己了解到的信息去分析并得出结论,这很容易以偏概全。网络信息高度碎片化,想真正了解清楚事件的全貌和真实原因难上加难。

作为网暴言论的发酵地和传播地,平台的作用至关重要。因为疫情影响,网络暴力呈现上升态势,2022年,全国各地监管部门出台多项通知,要求平台切实履行监管和查处责任,发挥平台主体作用。

2022年,也被视作网暴治理元年,各平台都交出了自己的答卷,这些措施能否有效治暴呢?我们一起来探讨一下。

二、遏制网暴,平台能做些什么?

知乎上有一个题为“面对网络暴力时,正确的做法是什么?”的话题讨论,该话题浏览次数高达950余万次,产生323个回答。高关注的背后不难看出,人们对于被网暴后如何自救,迫切需要一个完美答案。

浩瀚的网络,充斥着形形色色的人,如果真的遇到了网暴,相信很多人和我一样,不知所措。作为提供服务的平台来说,能否在产品层面给予解决方案呢?

网络暴力,按照发展阶段,可以分为事件发生前、中、后三个时期。围绕不同的阶段,我们可以采取不同的手段。

事件发生前期更关注对用户的教育和风险预判,尽可能减少源头暴力内容的出现;事件发生中期,要为用户提供更为便捷有效的防暴功能,起到对信息的隔离和消除作用;事件发生后期,应更加重视对违规人的追责和处置机制。

1. 事件发生前:关注用户的教育和对风险内容的识别和预判

1)制定社区公约,明确社区规则

B站发展到至今,已经是一个多元化的社区,营造良好且正向的社区氛围是社区建设的重点工作。B站独有的“答题转正”功能,不但可以筛选符合社区的用户,更能在此过程中,对用户进行深度教育。

通过题目的设置,让用户对社区公约和规则有更深入的了解,明确哪些事情是不被允许的。

该功能更适合于十分垂类的兴趣社区,对于泛流量的产品来说,增加“答题转正”会极大增加用户注册的流失概率。

不妨可以通过做任务领积分或抽奖的方式,引导用户完成答题任务,从而达到教育用户的目的。

2)设立专属账号,公示违规处置结果,震慑潜在施暴者

公示的作用在于震慑,告知这样做的严重后果。经实际测试,每家产品都会开设类似“安全中心”“管理员”这样的专属账号,来发布违规信息的处置公告。“抖音安全中心“还打造了“梅楼封”这样的IP角色,以寓教于乐的方式解读哪些内容是不受平台允许的,还会科普防骗知识。

科普是长期教育的过程,不可能一蹴而就。设立安全中心账号的出发点很好,落地执行时会发现,用户根本不喜欢看这样冷冰冰的公告,效果大打折扣。

抖音安全中心“梅楼封”的IP角色,是在塑造一个人物,在你平时刷抖音时,隔三岔五就能收到他的视频,在产品使用过程中隐性科普,有血有肉,比冷冰冰的处置发布公告,更有传播力。

3)机器算法,做好风险识别和预判

针对用户已发送的不当评论,抖音上线“发文警示”功能,可对风险内容进行拦截。如果发送者坚持发送,则该条评论不会在评论区出现,仅自己可见。抖音意在从源头治理网络暴力。

在训练机器模型的过程中,可能会存在误判,建议增加人工二次审核,在极限情况下,给用户一个申诉的出口。

4)关爱负向情绪人群

(图片源自网络)

抖音在新的防网暴系统中新增了名为“心情暖宝宝”的平台助手,如果用户多次违规发布私信、评论,算法可以自动匹配触发“心情暖宝宝”,用消息对话尝试缓解用户的抑郁情绪,甚至引导用户去人工求助、线下就诊。

2022年3月底,抖音小安推出“超能力抱抱”功能,呼吁全平台用户通过拥抱表达善意。用户只需要在想要给予关怀的视频评论区发送【抱抱】,并@抖音小安,就有可能触发超能力抱抱。据抖音透露,该功能上线一周内,累计35万视频创作者收获了来自平台用户送出的超过2000万次抱抱。

治理网络暴力,治标更要治本。科技向善,才是产品应该追求的价值观。这不仅需要平台付出努力,更需要所有人的共同参与,用心感化心,人间真情,最暖人心。

我们需要看到,治理网络暴力,不单单是依靠冷冰冰的规则和处理,还需要增加人文关怀。人之初,性本善,我们更应站在施暴者的角度,来听一听、想一想他们为什么会做出这样的举动。

5)隐私设置,阻隔可能的网暴风险

各大互联网平台均会在设置-隐私设置中提供基础的防暴能力,常见的是,可以通过私信、评论、关系三个维度,设置哪些人可以与你进行互动。

小红书支持设置只有【我关注的人】,才可以评论、发送弹幕、@我。

知乎配有“瓦力保镖”功能,开启后,系统会对新获得的评论进行检测,被系统识别出的不良评论将被折叠或删除。被识别为不友善的私信将会被自动隐藏,严重者将会主动帮你拉黑对方。

今日头条支持作者设置评论区禁评词。

好的功能,需要真正让用户知道,才能发挥更大的作用。经体验发现,抖音、知乎、小红书的隐私设置入口层级过深,用户需先找到设置入口,才能再进入隐私设置。豆瓣的隐私设置入口和设置是同层级的,查找起来相对容易。

6)显示网络IP地址

近期,各大互联网平台相继上线“网络用户IP地址显示功能”,境外显示国家,境内显示到省市,且功能不支持关闭。

目前明确上线该功能的平台有:新浪微博、今日头条、抖音、知乎、快手、小红书、百家号。这个功能的上线,将对网络造谣等行为用户形成极大的震慑作用。深不可测的虚拟网络,终于被撕开了一个口子,让我们看到了更多真实的身份信息。

有利也有弊,近期针对该功能,网友们众说纷纭,更多的争议在于3个方面:

  1. 显示IP是否会泄露个人隐私?
  2. 显示IP是否会引来间接网暴?
  3. 显示IP就能绝对阻止被网暴吗?

首先,不可否认的是,显示IP地址能极大震慑网暴行为,很多谣言会直接原形必露,例如:说自己是中国人,结果IP地址显示在美国。

其次,凡事没有绝对一说,极有可能发言的人确实是中国人,只是IP地址在美国呢?会不会引发网暴从个人层面上升到国家层面呢?最后,防止网络暴力不是仅靠产品功能层面就能解决的,还需要社会治理和各方共同的努力。

7)个人历史隐私保护

网暴的核心特点是,被网暴者的个人信息会遭到曝光,在互联网上留下的历史记录会被网友扒出来。因此,在日常使用互联网络时,要养成保护个人隐私的习惯。

在产品层面,这样的历史隐私保护措施已经是最基本的标配功能。

微信朋友圈支持设置允许陌生人查看十条朋友圈、允许朋友查看朋友圈的范围提供半年、一个月、最近三天、全部等4个选项。

抖音支持将账号设置为私密账号,开启后,任何人都无法查看自己的作品、点赞作品,关注账号需要经过本人批准。

2. 事件发生中:给予用户应急方案,平台应及时开展专项整顿行动

1)开启一键防暴功能

若用户遭遇了网络暴力,我们应为用户提供一键开启防暴功能的能力,使用户更为快速地阻隔不良信息,减少对身心的伤害。

微博在3月11日上线了一键开启“防暴模式”。开启该模式后,在7天内,将不接收未关注人的私信,未关注人将无法评论你的微博,未关注人转发你的微博的记录将不会展示在转发列表中。在有效期结束前12小时,微博小秘书将发送功能即将关闭的提醒,如果需要继续防护,用户在功能关闭后可手动打开。

豆瓣上线了“应急防护模式”,旨在保护网络暴力的发生和传播。

2)对于不良内容,系统自动提醒,引导删除或拉黑

抖音在新推出的功能中,若系统自动识别出内容是不合适的,是不良的,会在该信息的接收者端进行提醒,引导拉黑、举报和移除粉丝。

根据抖音官方的数据,该功能上线后,日均对25万次会话发出风险提示,日均近9万条消息被列入垃圾信息,日均超过7万用户受益。

3)关注被施暴者心理疏导

遭遇网络暴力,需要承担巨大的心理压力。情绪的变化是最为明显的,平台除了阻断信息骚扰和轰炸外,还要关注被施暴者的心理疏导,在核心环节进行人文关怀。

当然,对于遭遇网络暴力,最好的方式是将通讯设备完全抛弃,及时和家人沟通,保证有人陪伴在身边,如有必要,请及时寻求心理医生的指导和帮助。

4)开设举报投诉暴力行为渠道

多数平台均会开设专门的用户投诉渠道,接收来自用户发现的网暴行为,平台根据反馈进行核实和处置。

要注意的是,在设置投诉渠道时,要简化程序,便于更多用户参与其中;同时,要保护好举报者的隐私和个人信息安全。

目前的举报只是针对某个人、某条信息,而网暴保护阀是针对群体。如果一个人向平台提出自己被网暴了,平台就应该自动查询与此人关联的信息,进行识别和处理。

当然,这个过程中会影响很多人使用平台,某种程度可能影响平台用户和讨论的活跃度。但这种活跃度是违背道德或法律的,平台切勿唯流量论。

5)平台开展专项整治行动

出现网络暴力事件后,平台应承担起自身责任,有必要、有有义务去主动开展整治活动,及时查处、删除相关不实内容,并向公众进行公示,以免造成较大范围的谣言传播。

当然,这种整治行动更多的是对大事件的整治,对于普通用户个体来说,他们遭遇网暴后,可能并不会引起平台的过度关注,平台需要从产品层面来考虑,如何更好地帮助这部分用户进行信息阻隔。

6)提供权威最新进展和情况,引导了解事实真相

网络暴力源自对事实的不充分了解,甚至过度或错误解读,在网暴事件发生时,平台应对相关信息快速梳理,进行权威官方解读,并不断向用户推送。信息不对称,甚至信息茧房,导致不能感同身受、不能换个角度看问题,是网暴发生的主要原因。

目前抖音、今日头条、腾讯等平台均设有辟谣的板块和内容,但建议对相关信息进行关联,比如:当用户在平台搜索相关关键词时,能优先展示辟谣的内容或事件发生后的真实信息(经官方确认或证实),给用户尽可能全面的判断依据。也可以邀请专家或新闻从业者对事件进行解读,给出价值观判断,引导正确的讨论风向。

对于部分有争议的内容或账号,可在账号主页明显位置增加标识,提醒用户进行甄别。

3. 事件发生后:对违规个人和账号进行处罚

1)相比处罚账号,更应该追求背后的责任人

应建立更完善的用户个人信息机制,在注册时,需完成实名认证,对于实施网络暴力的个人或集体,不单封禁账号,更应该封禁其个人再使用相关产品。

对于责任人,目前各平台都有不同梯度的处罚标准。除了短暂的封禁外,建议平台增加“价值观考核”机制,用户解封后,需完成答题,通过答题,对该部分用户进行深度教育,告知哪些内容是不被平台允许的,还可以增加强制观看网络暴力宣传片等手段(计算观看时长)。

治暴的过程中,也需要更多的人参与进来。对于被封禁的账号,平台也可以考虑:有效举报一定数量的违规内容,且审核通过后,也可以申请解封。

账号若首次被封禁,且账号历史行为较好,抖音会提供自助答题解封入口,用户完成题目作答且全部答对后即可解封。

2)完善平台推荐机制和算法机制

算法的完善和发展,让接收的信息更加符合我们的期待,提供了更美好的使用体验。有利就有弊,也正因为算法和推荐的机制,导致唯流量论盛行,助推了网络暴力危害的增强和放大。

平台应该根据事件做复盘,以传播的角度,来制定更为合理的推荐机制。

三、结语

治理网暴,是平台的责任,更是智慧。网络暴力的形势空前严峻,国家有关部门多次发布文件,指导各互联网平台采取有效措施治理网络暴力。

它已超出单一产品层面的问题,是更为复杂的人性和社会治理问题。治暴,要从源头抓起,除了采用技术手段外,人文关怀也至关重要。

互联网不是法外之地,请对自己的言行举止负责!

如果你正在遭遇网络暴力,请务必第一时间和身边的朋友、家人说明情况,或许他们的一句话,就能避免悲剧的发生。

也请相信,网络暴力在绝大部分时候,并非是主持正义,只是群体情绪的宣泄。无视他们的谩骂和指责,让他们自觉没趣,反而是最好的回击。

愿这些防暴功能永远都用不上……

#专栏作家#

李云琪,公众号:李云琪,人人都是产品经理专栏作家。痴迷于研究心理学和传播学,志向成为产品+运营的复合型人才。

本文原创发布于人人都是产品经理,未经许可,禁止转载。

本文为人人都是产品经理《原创激励计划》出品。

题图来自Unsplash,基于 CC0 协议

给作者打赏,鼓励TA抓紧创作!
更多精彩内容,请关注人人都是产品经理微信公众号或下载App
评论
评论请登录
  1. 网络暴力太可怕了,平台应该建立更完善的个人信息机制,实名认证

    回复
  2. 网络暴力为什么会很容易,不就是打字不要钱吗?如果把网暴的惩罚力度加大,网络发言的门槛稍微提高,感觉效果会好很多。

    来自四川 回复
  3. 网络上太容易随意发表言论了,这对创作者来说是不可磨灭的心理压力,严加管控很重要

    来自贵州 回复
  4. 平台上的门槛太低了,现在的个人信息暴露又十分严重,因此网暴很容易

    来自安徽 回复
  5. 不是有网警吗,让警察叔叔把那些老六好好教育一番。

    来自河南 回复
  6. 互联网结合政策,大力宣传网络法律法规,罚的严重一点。

    来自河南 回复
  7. 真是难为了互联网了,本来就是某些人的素质问题。

    来自河南 回复
  8. 如果互联网实名制每个人都要为自己的言行负责就不会有这么多网络暴力了

    来自河北 回复
  9. 在网络上大家都是带着面具说话,也不考虑后果,希望相关部门面对网络暴力,不是简单的封号

    来自湖北 回复
  10. 同意楼下所言,但是键盘侠们总是知错而错,网暴对于他们而言,无足轻重,比如最近各大开放平台显示个人IP地址,或者实名制都是有效措施。

    来自江苏 回复
  11. 网暴一直屡禁不止,就是因为处罚的不够。那些施暴者躲在屏幕背后肆意攻击别人,成本是非常低的,所以才一再地去做这些,要是严厉打击这些行为,我才不信制止不了

    来自云南 回复