面对网络暴力,m88.com平台能做些什么?
来源:36氪 更新时间:2022-04-26

面对网络暴力,m88.com平台能做些什么?

 
m88.com为人们提供了一个更为广阔的发声区域,人们在匿名身份背后,可以更加自由地发表观点和看法,但也因此,部分“键盘侠”可能会利用这层隐匿进行舆论攻击,导致他人身心遭受伤害。这就要求网络平台做好防暴措施,共同塑造一个良好的言论环境。     

最近的一则新闻,深深刺痛着我的心……

一名外卖员历时4小时,骑行27公里为上海一名女子的听障父亲送菜,事后女子为外卖员充值了200元话费作为感谢。网友却质疑给的太少,在网络上对女子进行语言攻击和谩骂,女子因舆论压力,最终选择坠楼来结束生命。

其丈夫表示,平时她胆子很小,连买一条鱼都不敢碰。事情发生后像失了魂一样,完全听不进任何人的声音,她接受了很多很多精神上的压力,不然真的不会选择这一步。

而这并非个例!

网暴已经成为了新的夺命方式,且愈发严重。

据抖音披露的数据,抖音每天会有8亿条评论产生。其中,被处理的视频里,“谩骂,人身攻击”占比32.79%;国家网信办在今年3月的新闻发布会上表示,2022年以来,已累计清理有害信息87.9万条,处置违法违规账号4.1万余个。

国家近几年一直在采取相关行动来制止网暴,但网暴为何屡禁不止?面对网暴,作为平台方,又能发挥哪些作用呢?

这篇文章,我们一起来探讨下。

01 网暴为什么屡禁不止?

1. 什么是网暴

网暴,即网络暴力。据央视网给出的定义,以下8种行为均视作网暴:引战营销、煽动对立、言语谩骂、私信轰炸、恶意剪辑、人肉搜索、P图抹黑、造谣诋毁。

2. 网暴屡禁不止的原因是什么?

1)网络是匿名的,发言门槛极低

网络世界和真实世界的区别在于,它是匿名的。

在m88.com上冲浪,每个人都带着一个面具,没有人知道我们是谁。人是多面性的,在不同的环境下,会表现出不同的人格和特性。一个彬彬有礼的男生,戴上面具后,可能是一个歹毒的键盘侠。

而正是因为匿名性,我们对自己在网络上的言行举止基本不需要付出任何代价,发言门槛极低。

2)看不到听不到,很难感同身受

面对面指责一个人时,我们是能看到对方的情绪反应的。他的愤怒和难过,是会反馈给我们的,从而激发我们内在的同理心。我们会自省是不是说得过分了,是不是说错了,是不是误会别人了。

而网络隔绝了这种反馈,我们写下的每一句话,只是代表着自己当下的判断和情绪,对别人的心理影响和压力,我们是看不到、感觉不到的。所以没有人觉得自己伤害了另一个人,因为我们看不到。

但是一个普通人,特别是缺乏网络经验的人,会因为突然被这么多人指责而承担巨大的精神压力。有些人会因为无法接受这种压力,选择极端的方式酿成悲剧。

3)没有法律约束

时至今日,我国还没有专门针对网络暴力的法律法规,只是在宪法和民法、刑法中作出相关规定。这让各地在监管和执法上存在盲点,没有法规做依规,对潜在施暴者的震慑力不足。

4)网络信息的碎片化

人的本能反应,绝大部分是感性,而非理性的。我们在看到一个新闻事件时,总会以我们自己了解到的信息去分析并得出结论,这很容易以偏概全。网络信息高度碎片化,想真正了解清楚事件的全貌和真实原因难上加难。

作为网暴言论的发酵地和传播地,平台的作用至关重要。因为疫情影响,网络暴力呈现上升态势,2022年,全国各地监管部门出台多项通知,要求平台切实履行监管和查处责任,发挥平台主体作用。

2022年,也被视作网暴治理元年,各平台都交出了自己的答卷,这些措施能否有效治暴呢?我们一起来探讨一下。

02 遏制网暴,平台能做些什么?

知乎上有一个题为“面对网络暴力时,正确的做法是什么?”的话题讨论,该话题浏览次数高达950余万次,产生323个回答。高关注的背后不难看出,人们对于被网暴后如何自救,迫切需要一个完美答案。

 

浩瀚的网络,充斥着形形色色的人,如果真的遇到了网暴,相信很多人和我一样,不知所措。作为提供服务的平台来说,能否在产品层面给予解决方案呢?

网络暴力,按照发展阶段,可以分为事件发生前、中、后三个时期。围绕不同的阶段,我们可以采取不同的手段。

事件发生前期更关注对用户的教育和风险预判,尽可能减少源头暴力内容的出现;事件发生中期,要为用户提供更为便捷有效的防暴功能,起到对信息的隔离和消除作用;事件发生后期,应更加重视对违规人的追责和处置机制。

1. 事件发生前:关注用户的教育和对风险内容的识别和预判

1)制定社区公约,明确社区规则

B站发展到至今,已经是一个多元化的社区,营造良好且正向的社区氛围是社区建设的重点工作。B站独有的“答题转正”功能,不但可以筛选符合社区的用户,更能在此过程中,对用户进行深度教育。

通过题目的设置,让用户对社区公约和规则有更深入的了解,明确哪些事情是不被允许的。

 

该功能更适合于十分垂类的兴趣社区,对于泛流量的产品来说,增加“答题转正”会极大增加用户注册的流失概率。

不妨可以通过做任务领积分或抽奖的方式,引导用户完成答题任务,从而达到教育用户的目的。

2)设立专属账号,公示违规处置结果,震慑潜在施暴者

公示的作用在于震慑,告知这样做的严重后果。经实际测试,每家产品都会开设类似“安全中心”“管理员”这样的专属账号,来发布违规信息的处置公告。“抖音安全中心“还打造了“梅楼封”这样的IP角色,以寓教于乐的方式解读哪些内容是不受平台允许的,还会科普防骗知识。

 

科普是长期教育的过程,不可能一蹴而就。设立安全中心账号的出发点很好,落地执行时会发现,用户根本不喜欢看这样冷冰冰的公告,效果大打折扣。

抖音安全中心“梅楼封”的IP角色,是在塑造一个人物,在你平时刷抖音时,隔三岔五就能收到他的视频,在产品使用过程中隐性科普,有血有肉,比冷冰冰的处置发布公告,更有传播力。

3)机器算法,做好风险识别和预判

针对用户已发送的不当评论,抖音上线“发文警示”功能,可对风险内容进行拦截。如果发送者坚持发送,则该条评论不会在评论区出现,仅自己可见。抖音意在从源头治理网络暴力。

 

在训练机器模型的过程中,可能会存在误判,建议增加人工二次审核,在极限情况下,给用户一个申诉的出口。

4)关爱负向情绪人群

 

(图片源自网络)

抖音在新的防网暴系统中新增了名为“心情暖宝宝”的平台助手,如果用户多次违规发布私信、评论,算法可以自动匹配触发“心情暖宝宝”,用消息对话尝试缓解用户的抑郁情绪,甚至引导用户去人工求助、线下就诊。

 

2022年3月底,抖音小安推出“超能力抱抱”功能,呼吁全平台用户通过拥抱表达善意。

用户只需要在想要给予关怀的视频评论区发送【抱抱】,并@抖音小安,就有可能触发超能力抱抱。

据抖音透露,该功能上线一周内,累计35万视频创作者收获了来自平台用户送出的超过2000万次抱抱。

治理网络暴力,治标更要治本。

科技向善,才是产品应该追求的价值观。

这不仅需要平台付出努力,更需要所有人的共同参与,用心感化心,人间真情,最暖人心。

 

我们需要看到,治理网络暴力,不单单是依靠冷冰冰的规则和处理,还需要增加人文关怀。人之初,性本善,我们更应站在施暴者的角度,来听一听、想一想他们为什么会做出这样的举动。

5)隐私设置,阻隔可能的网暴风险

各大m88.com平台均会在设置-隐私设置中提供基础的防暴能力,常见的是,可以通过私信、评论、关系三个维度,设置哪些人可以与你进行互动。

小红书支持设置只有【我关注的人】,才可以评论、发送弹幕、@我。

知乎配有“瓦力保镖”功能,开启后,系统会对新获得的评论进行检测,被系统识别出的不良评论将被折叠或删除。被识别为不友善的私信将会被自动隐藏,严重者将会主动帮你拉黑对方。

 

今日头条支持作者设置评论区禁评词。

 

好的功能,需要真正让用户知道,才能发挥更大的作用。经体验发现,抖音、知乎、小红书的隐私设置入口层级过深,用户需先找到设置入口,才能再进入隐私设置。豆瓣的隐私设置入口和设置是同层级的,查找起来相对容易。

6)显示网络IP地址

近期,各大m88.com平台相继上线“网络用户IP地址显示功能”,境外显示国家,境内显示到省市,且功能不支持关闭。

 

目前明确上线该功能的平台有:新浪微博、今日头条、抖音、知乎、快手、小红书、百家号。

这个功能的上线,将对网络造谣等行为用户形成极大的震慑作用。

深不可测的虚拟网络,终于被撕开了一个口子,让我们看到了更多真实的身份信息。

有利也有弊,近期针对该功能,网友们众说纷纭,更多的争议在于3个方面:

显示IP是否会泄露个人隐私?

显示IP是否会引来间接网暴?

显示IP就能绝对阻止被网暴吗?

首先,不可否认的是,显示IP地址能极大震慑网暴行为,很多谣言会直接原形必露,例如:说自己是中国人,结果IP地址显示在美国。

其次,凡事没有绝对一说,极有可能发言的人确实是中国人,只是IP地址在美国呢?会不会引发网暴从个人层面上升到国家层面呢?最后,防止网络暴力不是仅靠产品功能层面就能解决的,还需要社会治理和各方共同的努力。

7)个人历史隐私保护

网暴的核心特点是,被网暴者的个人信息会遭到曝光,在m88.com上留下的历史记录会被网友扒出来。因此,在日常使用m88.com络时,要养成保护个人隐私的习惯。

在产品层面,这样的历史隐私保护措施已经是最基本的标配功能。

微信朋友圈支持设置允许陌生人查看十条朋友圈、允许朋友查看朋友圈的范围提供半年、一个月、最近三天、全部等4个选项。

抖音支持将账号设置为私密账号,开启后,任何人都无法查看自己的作品、点赞作品,关注账号需要经过本人批准。

 

2. 事件发生中:给予用户应急方案,平台应及时开展专项整顿行动

1)开启一键防暴功能

若用户遭遇了网络暴力,我们应为用户提供一键开启防暴功能的能力,使用户更为快速地阻隔不良信息,减少对身心的伤害。

微博在3月11日上线了一键开启“防暴模式”。开启该模式后,在7天内,将不接收未关注人的私信,未关注人将无法评论你的微博,未关注人转发你的微博的记录将不会展示在转发列表中。在有效期结束前12小时,微博小秘书将发送功能即将关闭的提醒,如果需要继续防护,用户在功能关闭后可手动打开。

 

豆瓣上线了“应急防护模式”,旨在保护网络暴力的发生和传播。

 

2)对于不良内容,系统自动提醒,引导删除或拉黑

抖音在新推出的功能中,若系统自动识别出内容是不合适的,是不良的,会在该信息的接收者端进行提醒,引导拉黑、举报和移除粉丝。

根据抖音官方的数据,该功能上线后,日均对25万次会话发出风险提示,日均近9万条消息被列入垃圾信息,日均超过7万用户受益。

 

3)关注被施暴者心理疏导

遭遇网络暴力,需要承担巨大的心理压力。情绪的变化是最为明显的,平台除了阻断信息骚扰和轰炸外,还要关注被施暴者的心理疏导,在核心环节进行人文关怀。

 

当然,对于遭遇网络暴力,最好的方式是将通讯设备完全抛弃,及时和家人沟通,保证有人陪伴在身边,如有必要,请及时寻求心理医生的指导和帮助。

4)开设举报投诉暴力行为渠道

多数平台均会开设专门的用户投诉渠道,接收来自用户发现的网暴行为,平台根据反馈进行核实和处置。

 

要注意的是:在设置投诉渠道时,要简化程序,便于更多用户参与其中;同时,要保护好举报者的隐私和个人信息安全。

目前的举报只是针对某个人、某条信息,而网暴保护阀是针对群体。如果一个人向平台提出自己被网暴了,平台就应该自动查询与此人关联的信息,进行识别和处理。

当然,这个过程中会影响很多人使用平台,某种程度可能影响平台用户和讨论的活跃度。但这种活跃度是违背道德或法律的,平台切勿唯流量论。

5)平台开展专项整治行动

出现网络暴力事件后,平台应承担起自身责任,有必要、有有义务去主动开展整治活动,及时查处、删除相关不实内容,并向公众进行公示,以免造成较大范围的谣言传播。

 

当然,这种整治行动更多的是对大事件的整治,对于普通用户个体来说,他们遭遇网暴后,可能并不会引起平台的过度关注,平台需要从产品层面来考虑,如何更好地帮助这部分用户进行信息阻隔。

6)提供权威最新进展和情况,引导了解事实真相

网络暴力源自对事实的不充分了解,甚至过度或错误解读,在网暴事件发生时,平台应对相关信息快速梳理,进行权威官方解读,并不断向用户推送。信息不对称,甚至信息茧房,导致不能感同身受、不能换个角度看问题,是网暴发生的主要原因。

 

目前抖音、今日头条、腾讯等平台均设有辟谣的板块和内容,但建议对相关信息进行关联。

比如:当用户在平台搜索相关关键词时,能优先展示辟谣的内容或事件发生后的真实信息(经官方确认或证实),给用户尽可能全面的判断依据。

也可以邀请专家或新闻从业者对事件进行解读,给出价值观判断,引导正确的讨论风向。

对于部分有争议的内容或账号,可在账号主页明显位置增加标识,提醒用户进行甄别。

 

 

3. 事件发生后:对违规个人和账号进行处罚

1)相比处罚账号,更应该追求背后的责任人

应建立更完善的用户个人信息机制,在注册时,需完成实名认证,对于实施网络暴力的个人或集体,不单封禁账号,更应该封禁其个人再使用相关产品。

对于责任人,目前各平台都有不同梯度的处罚标准。除了短暂的封禁外,建议平台增加“价值观考核”机制,用户解封后,需完成答题,通过答题,对该部分用户进行深度教育,告知哪些内容是不被平台允许的,还可以增加强制观看网络暴力宣传片等手段(计算观看时长)。

治暴的过程中,也需要更多的人参与进来。对于被封禁的账号,平台也可以考虑:有效举报一定数量的违规内容,且审核通过后,也可以申请解封。

 

账号若首次被封禁,且账号历史行为较好,抖音会提供自助答题解封入口,用户完成题目作答且全部答对后即可解封。

2)完善平台推荐机制和算法机制

算法的完善和发展,让接收的信息更加符合我们的期待,提供了更美好的使用体验。有利就有弊,也正因为算法和推荐的机制,导致唯流量论盛行,助推了网络暴力危害的增强和放大。

平台应该根据事件做复盘,以传播的角度,来制定更为合理的推荐机制。

03 结  语

治理网暴,是平台的责任,更是智慧。

网络暴力的形势空前严峻,国家有关部门多次发布文件,指导各m88.com平台采取有效措施治理网络暴力。

它已超出单一产品层面的问题,是更为复杂的人性和社会治理问题。治暴,要从源头抓起,除了采用技术手段外,人文关怀也至关重要。

m88.com不是法外之地,请对自己的言行举止负责!

如果你正在遭遇网络暴力,请务必第一时间和身边的朋友、家人说明情况,或许他们的一句话,就能避免悲剧的发生。

也请相信,网络暴力在绝大部分时候,并非是主持正义,只是群体情绪的宣泄。无视他们的谩骂和指责,让他们自觉没趣,反而是最好的回击。

愿这些防暴功能永远都用不上……(36氪经授权发布)