IChannel | 互联网无产者的悲歌

IChannel | 互联网无产者的悲歌 by ICV MKT

序 | 内容审查员

审查员制度最早来自于对网络社群自发维护的行为。比如贴吧管理员、qq群管理员等自愿对其所在的网络虚拟社区内的色情、暴力、毒品等不良非法内容以及不符合其虚拟社区成员共识的内容与行为进行过滤。轻则删帖禁言，重则直接移除。而直到随着社交媒体的进一步发展海量的用户内容要求人们以更快的速度审查大量照片、视频和文字，从而产生了专业化的内容审查行业。

身处人类劳动力的解放年代，打工有奥特曼帮着削面，下棋有阿尔法狗私人陪练，马上机器人也能撸猫了，只有内容审查员们还是没有办法解放双手。

△和平年代没有怪兽，奥特曼下海削面被狗仔偷拍

△《爱，死亡，机器人》性感机器人，在线撸猫

“

如果不是一些审核意外，

你永远也不知道互联网有多脏。

”

2017年4月，美国俄亥俄州一名男子在复活节当日通过Facebook直播枪杀路过74岁老人的全过程，据悉该视频在Facebook上流传2小时左右。

同年，稍晚些时候，泰国一男子将杀害亲生女儿的两段视频发布到Facebook上，随后自杀，视频在Facebook上被保留约24小时。

除直播以外，Facebook早先也因用户上传的大量凶杀，色情，虐待儿童等内容受到诟病。随着短时间内直播杀人事件的高频率曝光以及相关视频，特别是上述事件中后者视频的较长保留时间，引起了人们对于Facebook针对类似问题的不作为，低效率的不满和对其不良内容审查能力的怀疑。

作为回应，扎克伯格随后通过个人Facebook账号发帖，表示对不幸感到痛心，强调Facebook正在为建立更安全美好的网络社区而不懈努力，其中的重要举措，便是在原本4500人的内容审核员团队的基础上，再招3000人。

2018年4月，快手因“播出有违社会道德节目”等问题，被国家网信办约谈并被勒令全面整改，随即，快手宣布在原有2000人的基础上，扩招3000名审核人员。而在此之前，快手因品台上大量出现的 “未成年妈妈”视频被央视点名批评，引起舆论的轩然大波。

同样在2018年4月，今日头条创始人公开道歉，表示”产品走错了路”，并宣布新招聘4000名内容审核人员。早从2017年起，今日头条就因低俗，色情，涉黄等原因被国家网信办约谈，并在全国“扫黄打法”期间被查处。

国内外UGC (User Generated Content) 企业的流行和良莠不齐的海量内容数据所带来的问题，使得网络内容审查员这一职业群体不断扩大进一步走入公众视野。他们在人工智能尚不能够独当一面的当下，也可能会坚守在相关技术仍有待进一步发展的未来。他们正在、并将在诶来很长一段时间内，依旧承担起互联网内容“守夜人”的职责”，面对浩如烟海的线上内容不眠不休。

而随着相关负面事件的披露，人们对互联网内容审核员群体本身处境的关注度也不断提高。

“

审查员永远不知道你会在何时何地上传什么不堪入目的内容，**就像你永远不会知道，为了你的绿色冲浪体验，背后站了多少替你承受不堪的守夜人。**

”

“我们不做信息的制造商，我们只做信息的搬运工**。”**曾经有审查员如此调侃自己。然而，这话的语境应该不会是近几年，因为随着各类新媒体的兴起，朋友圈、公众号、微博，以及各类短视频、影视作品成为新世代大多数人的主要“精神食粮”和表达方式，连你姥姥可能都开始在抖音上讲《故事会》笑话时，当代的信息搬运工们已经累得连调侃的力气都没有了。

以脸书为例。作为全球最大的社交网络平台，坐拥最多的用户数量也意味着最大的工作量。脸书在2017的月度活跃用户总数已经高达19.3亿，并以平均每秒5个新用户的速度增长；平均每分钟动态更新数30万分钟，每日上传照片3000万张，帖数48亿，连起来可绕地球14圈。

所以在你一边抱怨朋友圈里充斥着的“我11点才起错过了早课我怎么办（表情包配图）”“我中饭只吃了沙拉我要瘦了（沙拉配图）”“今天太阳好好（闭眼享受自拍配图）”等有多无聊然后点上一个赞时，审查员可能已经被迫浏览了1122334455个用户的吃喝拉撒生活片段。

然而以上只是两年前的数据，今年2月脸书的月度用户总数已经高达23.3亿。并且，48亿也不过是通过审查标准最终成功发布的帖子总数，还没有算上大量没有通过审查的帖子，以及帖子底下同样需要被审查的评论，这意味着需要被审查的信息数目远远超出想象。另外，由于社交网络上近乎无限的人际传播可能性，举例来说，一张涉嫌暴力的照片可能在一瞬间被大量用户转发，并因出自不同的IP地址而反复出现在内容审查员的工作台上，这无疑进一步增加了他们的工作量，使他们需要高强度地工作。一位前Facebook审查员表示，每天她需大概要审核8000份帖子。因此，行业对人工劳动力的需求巨大，如前文Facebook，快手，头条的大规模扩员。

尽管劳动力基数不小，但当任务分配下来时，每个审查员还是需要承担庞大的工作量。据一位从互联网公司离职的审查员描述，“全年无休，人休审不休”。日均2500条视频的审查量只是保证业绩不落后的底线，休息室无人问津。由于超出负荷的工作量和内容产生的不间断性，审查员需要三班倒、两班倒地机械性工作。遇到电脑排班，审查员们可能还需要忍受晚班接早班，大夜班之后休一天接早班的工作时间。另据英国卫报称，Facebook每周需要审查的内容超过650万份。即使在机器识别过滤掉很大一部分明目张胆的内容之后，剩下的对于这些内容审核员来说，依旧是“不能承受之重”，以至于上厕所的时长都受到干涉个人生活服从于公司利益。接踵而来的是生物钟乱套，内分泌不调，创造力丧失，在机械重复中丢失自我。

除了挑战生理极限，对于审查员来说，最难以忍受的还是精神上的折磨。他们要毫无预兆地接收突如其来的不定量暴力、色情、恐怖主义信息，包括但绝不限于：自杀、砍头、毒品、性变态、虐待动物，恐怖程度无异于每天不定时义务浏览暗网。

过滤各种挑战人性的文字、图片、视频的同时，也是在无形中对审查员的人性的挑战和压榨。而长时间、不限量、无保护地暴露在不同程度的色情、暴力、恐怖主义中，不可避免地对他们造成了无法挽回的心理伤害。为了辨别一个暴力视频中受害者的行为是否属于自卫，或者实施者是否就是上传视频的人，需要反复观察视频里被活生生殴打的人，有时需要看上十几次，去确定施暴者和上传者是否为同一人。

另外，由于社交网络上近乎无限的人际传播可能性，举例来说，一张涉嫌暴力的照片可能在一瞬间被大量用户转发，并因出自不同的IP地址而反复出现在内容审查员的工作台上，以Facebook单次人工处理10秒计算，这些潜在的危险每隔10秒都有可能再次出现在审查员的眼前，这无疑使精神压力和损害的可能性剧增。长时间、不限量、无保护地暴露在不同程度的色情、暴力、恐怖主义中，不可避免地对他们造成了无法挽回的心理伤害。

前 Facebook审核员赛琳娜就因此患上 PTSD（创伤应激综障碍其症状可能在她触摸电脑鼠标、进入冰冷的大楼、在电视上观看暴力、听到巨大的噪音或受到惊吓时触发。

同样，Bowden在MySpace的类似工作也使他对人抱有强烈的抵触心理，以致他离职后大概有 3 年的时间不肯和人握手，因为觉得人们都很恶心。“我无法触碰别人。世界上最普通的人也都是他妈的怪胎。我从那里出来的时候对人性感到厌恶。我的同僚们，大多数也和我有一样的感觉。我们都对人性留下了可怕的观感。”

在聚焦网络审查员生存业态的纪录片《The Cleaners》中，受访者还披露曾有负责审核自残视频的老员工在三次申请调职失败后自杀。

△网络审查员生存业态的纪录片《The Cleaners》

“

我们仍需要投入大量的人力来训练机器，**互联网人工审查可能只是即将被取代的过渡性行业。**

”

这是一个处在困境中的行业群体，既像是追光下的主要角色，又像是被有意忽略的边缘人。

就上文提到的，面对海量的用户内容，在目前以及将来很长一段时间，互联网内容审核员是不可或缺的。首先，机器审核可能误判。有个段子：加菲猫是很有可能被机器冤死的，因为它有大面积的黄色，而且有时候像极了光滑的大腿。

△ 我好惨一猫

这个段子的真实性有待考察，但它生动地说明，单靠机器/算法的条条框框是远远不够的。因为审查很多时候并不是非黑即白的。举个例子，如果有用户在Facebook上发状态称，未来五天或更久之后要自杀。这样的帖子将会被保留。因为用户发表自伤性的内容有助于其宣泄和表达，删帖可能反而会阻止他们的表达，（从而导致原本想避免的结果）。或许这里的保留是暂时的，抑或者由于相关事件的多发此类内容需要宝贝有关部门，但确实没有被删除。再比如，内脏器官、骨骼、筋脉等照片是不可以的，但是深度伤口、大量的血是可以展示的；只要不露出内部，被碾碎的头部、肢体也是可以展示的。因此，为了作出准确的判断需要考虑各种场景细节。

如果要让机器学会识别这些内容，需要有供机器学习用的大量语音，画面，文字的样本数据积累和甚至相关的人工操作实例记录。就像Google前首席营销官Philipp Schindler所说：“我们仍需要投入大量的人力来训练机器。”

然而与它当前的不可或缺性相悖的，是这一群体在企业整体内的边缘和不平等地位。首先，多数的互联网公司选择以业务外包的形式解决对内容审查员的需求，且收入较低，权利义务关系不对等。与Facebook的第三方承包商包括Vertisystem，Cognizant等，其中许多的职位都外包给了印度和菲律宾等国家，或者刚毕业的美国人。至于薪资， The Verge报道，通过Cognizant招募的审核员为15美元/小时，这大概是2016年加州最低工资水品。另外，当审核员入职时，他们被要求签订关于冒犯性内容的弃权协议。

△ 这在各种意义上都像是公司明哲保身的免责申明，仿佛在说，既然你同意了，那你自作自受吧

而在中国，快手和今日头条同样通过第三方企也来招聘内容审核员，而他们的宣传，则多少有点模棱两可，避重就轻和误导的意思。强调快手和今日头条的名号，而试图隐藏真正的直接招聘实体，这就埋下了日后劳动纠纷的隐患。

不难发现，不论是Facebook还是快手/今日头条，开出的薪资待遇在各自的社会经济背景下以及在与同行业其他从业者比较之下，都处与较低水平。而当这些召之即来的外包合同工，这些互联网无产者夜以继日地用身心健康换和机械性劳动取有限的薪水的时候，他们的很大一部分的附加值是被忽略了的。正如前面提到的，他们的实践案例记录是机器学习的有效资料，可以反馈人工智能，最终促进企业效益，但他们并没有因这一点获益。甚至，我们可以想象，假如有一天人工智能发展到足够完善以至于能在能容审查方面独当一面的时候，内容审查员这个过渡性行业也就走到了终点。

讽刺的是，他们自己很有可能正是自己的掘墓人。

IChannel 往期回顾

[