旗下微信矩阵:

秒拍归来、斗鱼再上架背后,那些年轻内容审核员的围困与挣脱

内容审核员,这个本应是互联网世界最为隐秘的角色,因近来各互联网公司频涉违规的行为,被环境裹挟,被平台推至人前,接受众人的审视与窥探。
2018-10-26 01:22 · 微信公众号:猎云网  王明雅   
   

  从北京到天津,从广东到西南,二十多岁的年轻人们大都相似,不分昼夜,将时间拱手于互联网的信息洪流。不一样的地方在于,尚有万千个体位于屏后。

  内容审核员,这个本应是互联网世界最为隐秘的角色,因近来各互联网公司频涉违规的行为,被环境裹挟,被平台推至人前,接受众人的审视与窥探。国内问答社区“知乎”上,一则询问“内容审核员日常”的提问下,“鉴黄师”成为出现最多的调侃字眼。当误解与窥伺成为围绕在周身的常态,这些20出头的年轻人们如何自处?

  “你不得不承认,其实没我们是不行的。”他们如是说。意外的坦陈,意外的爽快。

  内容审核招募浪潮

  今天,在招聘网站上输入“内容审核”四个字,百度、腾讯、新浪、斗鱼、哔哩哔哩(以下简称:B站)等企业依次弹出,能接受夜班,再加上几则关于熟悉行业的要求,职位便敞开大门,常更常新。

  字节跳动的动作,一定程度上代表了这一岗位的总体走势。年初,其旗下新闻聚合APP今日头条因涉嫌传播低俗、色情内容,违规提供互联网新闻信息等服务依法被整改,字节跳动随后加大内容审核员招聘力度。从年前的4000人团队,到年初继续增加2000人,并在4月份被点名后再度宣布扩招,字节跳动宣布,公司人工审核团队数目要达到一万人。

  其余者如快手、B站。四月,同头条一起,快手亦因播出有违社会道德节目问题被广电总局约谈,发布整改声明次日,便宣布在现有2000人的审核团队基础上,扩招3000人。

  7月,央视新闻直播间报道B站涉不良内容,在紧随而来的网信办网络短视频集中整治行动中,B站APP被勒令下架。B站发布公告,称将严格对全站进行整改,加强审核力量。8月26日,APP解封,并重新上架各大应用商店。这家刚于今年3月底登录纳斯达克的公司,在这一个月内跌去7亿美元的市值。

  10月12日,在下架了79天后,秒拍也终于重获上架机会。因平台“放任传播低俗、恶搞、荒诞甚至色情、暴力等违法和不良信息”,秒拍同在7月被网信办点名。一下科技创始人兼CEO韩坤在旗下短视频平台秒拍和波波视频重新归来时反思:“当秒拍和波波视频成为一些互联网负能量视频的藏身之所时,我们还在为数据增长而兴奋。直到主管部门一声棒喝,才让我们幡然惊醒。”同时,韩坤也在全员信中表示,内容整治行动的79天中,全体人员重新学习并考核部门规章制度、内容安全管理制度,通过人工复查工作日志,追究责任,同时继续加强人工审核覆盖度和渗透率,以此来提高违规内容识别的准确性。

  从“算法没有价值观”到“价值观出现偏差”,人工审核,让企业愈发臃肿不堪。

  自然,将所有扩张的由头都甩给“内容监管”并不合理,其本身业务的扩张也是促使内容审核团队增加人手的原因之一。

  从位于天津西青的公司到居住的华苑小区,不到两公里的距离。因为有房补,即便是实习,成城也和很多同事一样租在了这里。他隶属于字节跳动国际内容部,负责一款与抖音类似的短视频产品musical.ly的内容审核工作。musical.ly于去年12月被字节跳动收购,主要面向欧美等国外市场,产品数据回传国内,审核工作也在国内进行。成城告诉猎云网,该产品审核团队在今年2月组建,短短几个月时间,已经从几十人扩大至200人。

  易新则是觉得,“部门增加了好几组,看样子有一倍多”。太多新面孔的加入,以至于“很多人都接触不到了”。易新在虎牙直播珠海分部做一线内容审核,他告诉猎云网,外界更喜欢喊他们“超管”。“主播被封了,大家都会说是’超管’干的。”易新看出我的疑惑,旋即解释。

  快手的陈杨也感受到了变化。两年前他刚入职时,所在的广告组审核部门初成立,年前离开时也达到200人。审核团队的人数随平台的扩张迅速增长。“日上传视频的总长度加起来能达到一万年。”

  “广告组类似于微博粉丝头条,可以花钱购买流量推送视频,这样就产生了审核工作,”陈杨介绍:“购买的视频都会进入我在的审核部门,自动截取八帧图带视频封面,呈现出九宫格,然后根据规则查看可不可做。”

  同时,随各大公司招聘工作的启动,各招聘平台上逐步更新招聘需求,大专学历及以上,党员优先,至本科学历及以上,党员优先,招聘门槛进一步提升。

  许铭感受很明显,他三年前入行的时候,同事大多专科学历,“后来才是本科”。“公司”指的是奇虎360,较于字节跳动、快手和B站等平台显著的内容属性,不太能注意得到这家主要做互联网安全服务的公司人工审核需求。“论坛、问答、直播,这些有内容的地方,肯定有相应的审核机制。”许铭呷了口大麦茶,继续解释。

  谁是互联网内容审核员

  “到现在公司(其他部门)的同事还觉得我们是帮神秘的人。”许铭开玩笑。他的微信回复最快,几乎是“秒回”,被我调侃“工作量不饱和”后,他摸摸脑袋,说了句“哎呀,我就是这么一人”。

  许铭是北京人,有股子老北京的直爽劲。在社交网站上联系到他表明来意、并先行告知身份信息会保密后,他反倒来一句“我这种小人物,公开也没啥”,只是这并不妨碍他用“我觉得这工作真没什么好说的”作回复。

  360的内容审核岗是12小时轮值,做一休一,按组别划分为24小时接班制,简言之,晚班接班,早班再行,一月一排。KPI核算为两万条/日,包括评论,用户头像、论坛文章等内容,后台自动计算。许铭说,内容审核员需每天下班报告完成的工作量,考核完不成会扣分,月度评级时若连续三个月拿到C就会被辞退。

  他一直在北京读书,15年从学校毕业后便直接进入360,本学习工科的他一直想找一份互联网企业运营工作,只是无奈“很少有大公司”要。内容审核于他而言,是曲线救国的选择。更重要的是,“大公司,镀金嘛”。

  成城记得大半年前,将简历投至字节跳动在智联招聘上的入口后,次日便接到了HR打来的电话,他从西安的学校奔赴天津,经过三轮面试后顺利入职。

  迢迢千里,成城原是听在字节跳动的同学说公司福利不错,“每天都有各种小零食,过得特别快乐”,便决定尝试一下。这个20出头的年轻男生声音朝气蓬勃。再者,同许铭一样,他也希望从事一份互联网相关的工作。他告诉猎云网,自己本科学习管理,但专业是调剂的,并不喜欢,平日里“常会做些美工、视频后期类的东西”。

  因为24小时不间断审核的要求,“轮班制”是互联网公司内容审核员的工作特征之一,各家区别只在于时间及班制的差异。字节跳动的轮班制度下,女性可以选择只上早班,男性必须接受三班倒。“如果*天上夜班,次日会给一整天的休息时间。”成城觉得自己可以适应。

  视频审核方式通常是从后台截取其中几帧进行查看,倘若不确定,则可以再点击电脑屏幕左侧的视频确认。他记得刚入职的时候,老大告诉他:“量可以先不作要求,但必须保证正确率。”工作熟悉后,他每个小时审核400~500个短视频,通常情况下一个班次3000个,不过“敏感时期会增加到4000个”。“下腰舞”是最为常见的视频。他还记得,要不就是一个人开着车,把副驾驶门打开,外边一个人就跟着车跳舞。成城注意到,他的同事们年纪都差不多大,大部分都是天津本地刚毕业的大学生,“元老级”的也存在,能呆好几年。“干这份工作要不就坚持下来,要不就不适应早早转岗了。”他这样觉得。

  这个周末轮到易新值“小夜班”。虎牙班制分为四种,早班从早上9点到下午5点,晚班从下午1点到晚上9点,小夜班则是从下午6点到半夜2点。除此之外,还有一个通宵班次,从晚上9点半到次日早上9点,较于其他三班的八小时工作制,中间半小时的休息时间,通宵班可以休息两个小时。公司配备休息间,沙发、抱枕一应俱全。

  最近他上四休二,按照平台的规定,八小时制系做四休二,通宵班制的话则可以做二休二,一个月换一次班制。“长期形成习惯,所以不会觉得有问题。”他还记得自己刚上班时,经常在夜间打瞌睡,现在已经完全不存在这个问题了。轮值的日子,他日均处理约逾万张图片,这些图片来自平台成千上万个直播间,直播过程在后台被机器自动截取成几帧,连带封面一起被送上他面前的电脑屏幕,他一张张扫过去。结束工作后,他习惯回家洗个澡,四五点钟准时睡觉。按照正常操作,结束小夜班,他可以睡在公司准备的休息室。但易新还是选择找一辆共享单车,骑行10多分钟回到家。

  23岁,每个月4K,房租800。3个数字,是易新身上的标签,年纪尚浅,经济压力大,看不清未来,他与众多漂泊一线城市的年轻人并无不同。

  迄今,易新仍认为自己当初应该学计算机。“发现这一行大家的专业都是千奇百怪的。”他笑了笑,继续补刀自己,“跟我一样都是自己专业没学好的。”他参与同事间的闲聊,大家都调侃着:“专业学好了,谁来做这个呀”。

  陈杨在快手的岗位名称准确来说是“风险控制”。因快手的平台属性,常常会在审核员晚班刚开始时积压大量视频量,便也是他最忙的时候。一直到半夜2点至早上6点,视频量数目放缓的时候,他就可以休息一下了。只是这并不意味着审核员可以放松,“时效性”是陈杨反复提及的一个词。“用户的举报,倘若一天还没有反馈,效果肯定不好,用户上传视频多久还没审核过,肯定也不行。”

  用户的下沉使得快手内容呈现出总体质量不高的“初印象”,而对于陈杨来说,难点也在于对“低俗”的定义。“你不能要求你的用户都是高素质的。”

  与工作和解

  提及人工审核,人们的关注点常常被“无处不在的生殖器、恐怖主义、虐杀”吸引去——现有的媒体报道中,以Facebook、YouTube为代表的国外社交平台充斥了大量色情、暴力内容,常常对内容审核员造成难以磨灭的心理创伤。

  易新的日常工作中,接触的违规内容大多为涉黄信息,再者是低俗和赌博。“极端情况比较少,我觉得可能是因为环境的不同。”他如是解释。但易新并未否认极端信息的存在,“‘黄赌毒暴’中,我觉得能对身心造成*伤害的应该是’暴’,比如亲眼目睹自杀、见血等等。”易新说。目前,他所接触的涉黄内容通常为“软色情”,一般情况下,“主播胸漏的有点多,语言和动作相对较色情”,严重者为招嫖广告。

  他记忆中,斗鱼出现过一例直播造人事件,“那时候我还是个孩子”。易新发过来一个“衰”的emoji以示惊恐。

  相对来说,直播平台的内容审核*人们的“想象”。2016年,中国互联网直播产业大爆发,被业界称之为“元年”,而直播本身的社交、打赏属性在平台的不规范监管中频频出现低俗、涉黄等丑闻,在监管政策和平台的整治中,迄今这一“色情”标签依然没能根除。内容审核便也成了一线“狙击手”。

  易新所在的直播平台将涉黄用户称之为“大秀”。通常情况下,“秀女”会手持小卡片,亦或是用口述的形式,向直播间的用户兜售自己的微信号以卖色情视频。因为这类违规用户会不断切换账号,他需要记住“秀女”的样貌。易新所在的审核团队,通常分为5~7人一组,其中3~4名一审,负责初步审核,2名左右高危审核,通常情况下,高危审核内容涉黄比例要多一些。

  “女生比例很小,两组里面能有一个。”易新观察到,审核组几乎都是刚毕业的男生。在他看来,男生对黄赌毒暴这类信息的确要比女生更容易接纳一些。从最初的好奇、紧张到现在的平常心,易新随工作愈发变得“平和”。对于他来说,两年多的工作时间,已经步入舒适区,轮值与否都是“正常上下班”,面对软色情,不过是“一张图片、一份数据”。

  许铭负责审核的内容中,涉黄也是所有违规内容中占比最高的,负责文字审核工作的他接触的大多为招嫖信息和黄色小说,这也被他定义为“危险性*的内容”。“主要较于枪支弹药、大麻等违禁品来说。”他补充道。

  事实上,对于内容审核员来说,更为敏感的并非赤裸裸的黄赌毒暴等,机器审核技术的进步已经能够过滤掉这部分明显违规的内容,人工审核需要着重关注的是目前技术尚无法精准识别的事物。“平台上以人工+机审结合的方式中,人工主要还是关注一些涉限内容。”成城举例,musical.ly的审核敏感处在于未成年人。“比如小女孩不可以露上身,但小男孩也是不可以露上身的,”他告诉猎云网:“3、4岁的小男孩就不能露了。”此外,这款平台不符合规范的内容大多为抖臀舞、抽大麻和电子烟等。

  成城经历过一次平台危机。之前,musical.ly曾出现小孩子跳抖臀舞的视频,经媒体报道后,负责人“赶紧开会,制定新规则”,自此,平台上但凡有小孩子扭腰的视频就一律下架。

  与此同时,各家平台还会在人工审核处设置多重关卡,以防止误操作。成城就出现过误操作的情况,但幸运的是“被其他同事拦回来了”,这种机制有赖于同一视频两人处理的模式。成城解释,倘若两人处理结果不一致,视频就会流入质检组,质检组最终判断孰对孰错。“每天会更新一个表格,质检组贴出当天所有误判结果,一个小错误被扣1分,涉黄涉政的大错误则会被扣10分,最终以分数评等级做绩效。”除却数量外,审核员也面临正确率压力。

  但并非每家平台都如此幸运。今年7月,斗鱼网红主播陈一发儿因“调侃南京大屠杀”等不当言论被封杀,视频被全网下架,斗鱼随后关停其直播间。易新还记得,当时“新闻一出来后”,自己就跑到了陈一发儿的直播间,“发现已经发不了言了”。但国庆期间,斗鱼再次被下架,10月13日,斗鱼官方终于透露原因,“由于平台管理失误,在已封禁主播陈一发儿直播间仍然出现打赏、弹幕运行事件”。同时,斗鱼也表示,会*关闭该直播间,并处理相关责任人,再次加强内容审核监管。

  他们停留,他们上岸

  从字节跳动的实习工作离开后,成城没再找正式工作。他告诉猎云网,自己在准备今年的考研。

  今年6月毕业季,多次往返西安和天津两地后,他有些疲倦,便提了离职,结束了自己职业生涯中*份全职工作。爆米花、冰激凌,人性化福利没能让22岁的成城留下来。半年多的实习让他觉得倘若以后不继续做审核的话,这份工作经验“并没有什么卵用”。在成城看来,自己长时间重复、机械地干同一件事,实在没有意义,更称不上“长久之计”。

  不过,他也认为,高强度工作下的承压力或许是再谋求一份互联网行业相关工作时的*优势,“互联网公司的工作压力都很大,我能适应得了”。

  他不怎么玩抖音,如今走在路上,自己熟悉的“满世界都在抖”的感觉终远去了。

  从前东家离开的时候,许铭已经成为小组长,他拥有封号销户的权限,但明白“涉及到用户体验的问题,尽量少用”。

  选择跳槽是因为“钱”,他直言不讳。入职360的*年,工资每个月算上饭补3.7K不到,着实被他吐槽了好几个“抠”字。随之便感慨,家不在北京的话,真活不下去。“北京租房太贵了。”因为低工资,团队流动性也很大,更多时候,许铭认为是大家都想来“镀个金”或者“了解一下这个行业”。

  “现在看来,这个跳板很有用啊。”许铭毫不怀疑。从这家做了两年内容审核的互联网安全公司离职后,他找到一份不错的内容运营岗,准确地说,这份工作仍会有审核相关内容,但已经更偏向运营侧了。“我入了互联网的门。”许铭对这份工作还比较满意

  事实上,许铭身上更为显著的特点是——目标明晰以及愿为目标不遗余力付诸行动的主观能动性。他告诉猎云网,那份360的内容审核工作并不能达到自己期望所学,更多时候接触到的都是一些“该知道和不该知道的”。“但进了公司就一定会有收获。”于他而言,收获并非工作带来的,而是环境。“进入一家大型互联网公司,你接触到的都是互联网人,互联网思维。”

  两年多时间内,他学会总结工作技巧,因“审核这个东西没什么技术性可言,只要不傻,谁都能干”。而“如果没有技巧的话,每天两万二的量,长时间盯着屏幕看会累死”。说这话的时候,他把一碗麻酱倒入鸡丝凉面,我适时地吐槽了一下“来到北京后才知道吃火锅和麻辣烫都要就麻酱”。他呵呵一乐:没毛病。

  陈杨把快手的这份工作当作“阴差阳错”的结果,计算机毕业的他最初从事一份传统企业的线下运营工作,为求转型线上运营,他选择“先进去再说”。一年的内容审核经验让他觉察自我发展受到限制,于是选择再次转型,并成功跳至字节跳动旗下一款短视频平台做运营。

  “程序员通常处于一个接需求并处理出来即可的状态,而运营需要与各部门打交道。”他的语速很快,确不像通常意义上不善言辞的程序员。

  “审核自然是很重要的,对每个平台都很重要。”陈杨觉得,倘若不是审核的存在,世间猎奇者众多,违法者众多,不健康的东西倘若赤裸裸呈现在公众面前,必然会造成极大的负面影响。“外界觉得你就是个看视频的,一个很低端的劳动力,但其实是一个相对来说能看清世间百态的岗位。”

  “逃离北上广”,成为是易新的一个必然抉择。最初追随女朋友来到广州时,他就没想好未来,可是女朋友需要他给予一个承诺。不断的争吵中,女朋友认为他“不上进”。

  “那你觉得你自己不上进吗?”

  “有懒的成分在吧。”易新沉默。

  他预备定居重庆,因为“重庆有买房的可能”,广州飙升的房价已经让他早早有了去意。尽管尚未动身,易新已经有了去往重庆后的目标,他了解到腾讯在重庆的西南分部有内容审核岗位招聘,因此希望能够继续从事这份职业。“相对来说工作好找一点,相对于别的工作,这是我*的优势。”

  易新知道自己进了舒适区,这份工作被他形容为“富士康流水线工人”,熟能生巧,已经没了什么思考的动力。但他并不同于“随波逐流”,易新坦陈:“起码这份工作属于我比较喜欢做的,会开心。”更重要的是,他认为自己适合。

  “细致”是他对自己的评价。在他看来,做事谨慎小心,其实很重要。

【本文由投资界合作伙伴微信公众号:猎云网授权发布,本平台仅提供信息存储服务。】如有任何疑问,请联系(editor@zero2ipo.com.cn)投资界处理。