公告：ins加粉丝网站 -互联网平台-INS买赞平台
「核心提示」
10亿用户共享的网络空间内，暴力藏匿于各个角落。在这个人人皆可发声的时代，居于网络舆论场中心的社交平台，在防网暴方面做到了哪一步？为什么把施暴者关进小黑屋依然无法根除网暴？
作者|赵若慈
编辑 |刘杨
三年前，25岁的B站UP主卡夫卡松饼君因肺癌离世，许多网友在她的微博下留言悼念，其中一条充满恶意的热评十分刺眼，只有短短五个字——开香槟庆祝。
松饼君生前经历了多次网暴，她的最后一条微博写道：很多事情都是没轮到自己头上，所以能在旁边为虎作伥，叫嚷熏天。
尽管各个平台一直在完善机制、整治网暴，但从结果来看，网暴事件依旧层出不穷。寻亲被生母拉黑的刘学州、晒和爷爷合照的粉发女孩郑灵华、开拖拉机自驾到西藏的旅行博主管管，都在遭遇大规模的网络攻击后离世。
据中国互联网络信息中心统计，截至2022年12月，我国网民规模达10.67亿，普及率达75.6%。
在这个人人皆可发声的时代，居于网络舆论场中心的社交平台，在防网暴方面做到了哪一步？在不断整治后，为什么网暴依旧反复出现？面对网络暴力，平台为何无法保你平安？
微博上拉黑了800多个人
产品早期引入的都是和平台契合度较高的用户，所以氛围会更纯净，随着用户增长，必然会面临多元化带来的问题。字节商业化部门的一位员工告诉《豹变》。
所谓的多元化带来的问题，就是由于不同圈层的人汇聚在一起，评论越来越难控制。
小满是微博的老用户，由于追星积累了一批粉丝。她告诉《豹变》：最初玩微博的时候，大家一起交流，氛围很友好。这两年明显感受到‘没素质’的人很多，我已经拉黑了800多人。
除了用户手动拉黑，现阶段，平台对于用户的保护做到了什么程度？
首先是举报和投诉功能。《豹变》测试了微博、B站、抖音、小红书、快手、豆瓣、知乎等主流社区APP，评论区都可以举报或投诉，并且都需要用户选择违规类型，测试结果如下图。
平台也提供了一键防网暴功能，用户可以选择在一段时间内屏蔽陌生人私信、评论，达到防止网暴的目的。
各个平台一键防网暴的持续时间不太一样，微博、知乎、小红书最多可设置7天，豆瓣最多14天，抖音最多30天，快手没有时长限制。
不过，平台的一键防网暴入口比较隐蔽，用户很难一键防护。比如，抖音进入我页面后，点击右上角三道杠图标，选择更多功能，找到抖音小安，进入界面后才能设置一键防护。
不过，这些看似完善的防网暴机制，发挥的作用并不大。2020年的一次网络暴力全球调查显示，骚扰攻击在Instagram上的比例依旧高达23%
粉发女孩郑灵华经历了网暴、照片视频被营销号盗用、污名化之后，生前一直没有停止维权，她还在社交平台上记录了自己的维权过程。在第一次维权记录中，她表示自己向抖音官方人工电联+邮件举报投诉，但是抖音只有到达亿万粉丝才能禁止他人下载原创作品。
在后续的维权记录中，她也提到，抖音和百家号始终举报投诉无果。
据了解，目前大部分平台主要有系统审核和人工审核两种方式。在抖音审核岗工作的苏珍告诉《豹变》：系统的核查比例大约80%，比如触发了一些关键词，机器就可以识别出来，剩下一部分系统不能确定的，就交给人工复审。
李敏曾经在今日头条负责审核优质内容，她表示，文章内容的审核大部分都是走系统审核，但触碰到一些关键词，以及账号量级比较大的时候，会进入到人工审核流程。
实际上审核本身就是一个机械的工作，很多事情都慢慢交给算法、AI，并且会逐渐优化取代人工。李敏告诉《豹变》，大概在2022年初，她这个岗位就被AI取代了。
然而，对于人工智能目前的发展水平而言，判断网暴内容的准确性还不够高。
苏珍表示：一些拟声词、新生的侮辱性言论的代替词语、字母缩写等内容，人工智能还不能辨识。再就是‘阴阳怪气’的发言，系统根本听不懂。
曾经在网易直播CCtalk工作过的阿哲表示，即使是在审核岗位实习，上岗之前也要培训好几天。会有专门的人讲PPT，通过案例说明哪些要做违禁处罚，以及如何根据违规程度来判定处罚的程度，还有价值观和道德观的培训。
苏珍还记得，在面试时她被问到对某个新闻事件怎么看，入职前做了心理素质测试、人格测试、压力测试，经过入职培训，通过考试才能上岗。
正如阿哲所说：说到底还是要根据审核员本人的判断。
管理小黑屋的人，也身处小黑屋
没违规的一举报一个准，违规的反而不管。我评论没一个脏字结果被举报，别人脏话连篇问候全家我举报没一个成功的，审核人员在干什么？在某平台的官方帖子下面，时常可以看到类似的用户评论。
从用户角度来看，社区氛围似乎取决于审核员是否有所作为，事实果真如此吗？
在上海闵行区银山路科技园的字节大楼里，和其他部门敞亮高级的工区不同，审核部门的工区总是灯光昏暗，员工们面无表情地盯着一块块电脑屏幕。
审核员的工作，看似拥有一键拉黑的权利，但这些管理小黑屋的人，自己也身处于小黑屋之中。
《哈佛商业评论》的一篇文章中提到，审核员就像在扮演民俗中的食罪者角色：这种历史仪式的要旨是穷人在精神上承担死者的罪孽，往往通过吃掉摆放在尸体上的面包来换取金钱。
据苏珍介绍，大厂审核员主要分为三种：正式员工、外包员工和兼职。苏珍是字节的正式员工，在审核岗每个月能拿到1万到1万2左右的工资，但是除去一个月四五千的房租，剩下的钱仅够生活。
外包员工一般在三四线城市，据她了解，工资大约是四五千块钱，兼职员工则多劳多得。
刚入职的时候，一切都聊得很好，工作时间也都很正常。但正式工作两周左右，就会排班次。我们是三班倒，白班朝九晚五，晚班从下午三点到凌晨两点，大夜班从十二点钟到早上七点。每个人每天都有KPI，我当时是一天审核200条视频，外加几千到一万条评论。
长时间坐着加上熬夜，让苏珍的身体状况很差。她告诉《豹变》：入职几个月就胖了十多斤，脸上疯狂长痘，每天处于压抑当中，经常半夜就会哭醒。
最让我觉得痛苦的是，过去二十几年，我们生活在一个相对安全、善良的现实环境里，干了审核员之后，我发现，网络上竟然会有那么多的恶意。现在我会觉得坏人就藏在身边，很多人可能生活中是善良的，他会去照顾小孩、捐款，但是不耽误他在网络上辱骂他人。
苏珍表示，网暴的比例在视频里大概能占到百分之十几，在评论里非常多，大概占到百分之六七十。
她说：干过审核员之后，完全可以理解那些因为网暴而自杀的受害者们的心态，因为这些谩骂绝对超出了一个人可以承受的极限，甚至网友看到的都是审核之后放出来的一小部分。那些没放出来的污言秽语可能是大家看到的几十倍，并且这是一个持续性的攻击。
另外，除了工作本身，在每天接收负能量的同时，苏珍还需要完成周报。心理状态都这么差了，周报里却不能抱怨，只能写自己有多热爱这份工作。每天工作内容都一样，却还要写工作计划。
苏珍表示，这种工作状态下精力确实是不够的，她也承认有时候免不了会消极怠工，这也是用户抱怨审核人员不管用的部分原因。
另外，除了这些精神和心理上的巨大压力，由于审核岗位工资低、没什么晋升空间，这个岗位的平均生命周期只有三到六个月。很像小作坊里流水线上的女工，没有任何未来。苏珍感叹道。
然而，随着网民数量的增长以及各个平台对于活跃用户的增长需求，需要的审核员也越来越多。苏珍表示，越来越多的审核工作都被外包出去，因为这样能给公司省下一大笔资金。
但这似乎形成了一种恶性循环，审核人员的心理、生理状况由于大量的消极内容受到影响，导致消极怠工、人员流动大，而更多的用户加入让互联网环境更为复杂，审核需求量更大，但外包出去审核人员的待遇却又在下降。
在这种情况下，把施暴者关进小黑屋就能阻止网暴似乎成了一个伪命题。
苏珍认为，以几万个审核员的力量去审核上亿网民发出的内容是有限的。从平台角度来看，不仅要加大处罚力度、提高评论门槛，完善防护功能，人工智能需要继续学习，而审核人员的现状也需要被看到。
为什么平台阻止不了网暴？
中国政法大学教授罗翔老师曾在文章中提到群体极化现象，这也是互联网时代网暴滋生的深层原因：
网络世界中，我们的情绪极容易就被极端意见挑动，也越来越倾向对他者进行非黑即白的评判；而这种情绪和判断，又会像利刃一样刺向身处舆论漩涡的个人。
豆瓣用户王然告诉《豹变》，自己曾在豆瓣上写过一篇有关性别议题的影评，没想到引来很多用户在评论区对骂。由于观点不同，两个用户能在评论区对骂50多条。有的用户在评论区发几百字来反对你的观点，有人甚至没看完文章就直接侮辱你。
正如王然表示，尽管她文章下面评论区和转发里的不友好言论非常多，但这也是她所有文章里热度最高的一篇，有600多条评论，将近2000个点赞和300多收藏，并且热度持续了好几周，甚至一年之后还有人留言。
2020年，导演毕志飞也曾在微博晒出截图，大量三观不正、努力拉开话题转移注意力的留言给他的微博带来2.1亿阅读量，广告收益约3万元。
实际上，当前的社交、视频、信息平台都是以广告收入作为主要的商业模式，日活跃用户、月活跃用户是各个平台进一步商业化的基础。所以，对平台而言，流量与用户都是获取利益的工具，这导致平台上的内容大多以流量为导向。
也就是说，社交平台上的情绪与争议，归根到底都是流量与利益。
根据上文审核工作人员提到的网暴内容比例，如果对有网暴行为的账号完全禁言，那么平台的用户留存可想而知。
另一方面，在网友们已经习惯了随意表达的网络环境后，过度限制发言必然会引起不满。
最典型的例子是豆瓣，王然最近发现，自己备受争议的那条影评下面的不友好言论已经消失了，评论里的很多账号被注销，一些评论内容也看不到了。
然而，大部分平台并不会因为某个账号犯一次错就将其永久关进小黑屋。
《豹变》发现，各平台只是确定了违规会处罚，但如何处罚并没有详细说明，通常使用的表述是将视情况对违规内容或账号采取以下处置，以及如果违反公约，平台有权对用户的账号进行封禁、禁言处罚或暂停账号部分或全部服务。
也有平台使用了信用分的方式来管理用户，比如微博、知乎。
根据微博社区公约的细则，用户初始信用分为120分，可以通过在线答题等方式加分。在扣分方面，发生网暴行为，一般扣3到5分，信用历史分低于0分，用户账号会被禁言。计算下来，一个信用分满分的微博账号，发生大约40次网暴行为才会被封号。
从平台角度看，如何平衡商业利益和用户体验一直是个难题，但保证用户安全却是最基本的问题。也许，面对网暴，稍显无能为力的平台，仍然需要承担起更多的责任。
（应受访者要求，文中人物均为化名）
