阿里妈妈有支“拆弹部队”,比鉴黄师更掏空身体

2018年6月13日11时14分来源:天下网商

阿里妈妈有支“拆弹部队”,比鉴黄师更掏空身体

每天,芭珠需要处理1.5万张“敏感”图片。这个看上去近乎机械的工作流程,实际上扮演了类似于警察,或者消防队员那样的角色,保护了每一个可能会接近风险的人。



文|孙姗姗


(温馨提示:本文配图可能会引起不适)


直到今天,芭珠仍记得刚入行时的一幕——一双长满密密麻麻莲蓬乳(湿疹的某种病症)双手的图片,出现在电脑屏幕上。只停留了不到一秒,芭珠迅速地将它下线了。随后,她直接吐了出来。系统里待处理的图片正在排队,喘息的短暂时间,远不足以消化它带来的冲击。结束这天工作,她已无胃口吃饭,闭上眼睛,就是图片中那双手。

甚至之后的几年,这个阴影也并没有因为时间的流逝而淡化,但是工作、生活乃至心态都发生了变化。

每天,芭珠需要处理1.5万张类似的图片。她唯一能安慰自己的是,或许因为这个删除的动作,某一天,当一个消费者在淘宝上搜索“湿疹”相关的内容时,将免于受到困扰。

当科技产业迅速发展,网络世界变得纷繁复杂,放眼全球,数以万计的人像芭珠那样,加入到了内容审查和风控行业。他们活跃在每一处产生内容的地方,被行业内称为“时间线上的信息擦洗工”,或者更为细分的“鉴黄师”。他们已形成一支隐匿且庞大的联盟,我暂且称他们为互联网上的“拆弹”部队。


看见丑陋


8年前,学经贸英语的芭珠,从没想过会这样开始自己的职业生涯。她懵懂地进入这个行业,之后的工作内容几乎重塑了她的认知。

芭珠所在的阿里妈妈,是阿里巴巴集团旗下的大数据营销平台。她所在的风控部门要完成的工作,是针对淘宝商家们投放的广告内容进行质量审核、管理,对广告推广过程中的违规行为进行监控及处置。通俗点来说,我们平时能够在淘宝、天猫等阿里生态体系内看到的所有广告,实际上都要经过芭珠们的“过滤”。

那时,阿里妈妈的业务以单纯的搜索广告为主,这是淘宝生态中最早的广告形态之一。芭珠的工作内容也相对简单,学习最基础的审核规则后,每天审核工单,在系统中排除带有高危关键词的图片。你所能想到的,比如色情低俗、丑陋暴力、减肥丰胸、壮阳缩阴、危险武器、假货侵权等标签的内容,芭珠就要把它们从物料库里下线。


这个看上去近乎机械的工作流程,实际上扮演了类似于警察,或者消防队员那样的角色,保护了每一个可能会接近风险的人。毕竟这些丑陋的内容,并不是人人都能接受的了。

8年过去,她依旧能清晰记起那几个让自己失语的瞬间——第一次面对赤裸裸的生殖器图片时的不知所措,第一次看到血腥腐烂的丧尸时的触目惊心,第一次看到清肠药广告中出现的一脸盆大便时难以形容的恶心……


审核处理的广告图


在很长一段时间内,她都感觉整个世界都是灰色的。长时间盯着这些图片,导致芭珠的胃口变得极差,体重一度轻了十几斤。而除了身体上的反抗,更多来自心理上的折磨,“如果用一个词来形容当时我的心情,那就是‘生不如死’。”


走钢索的人


看见丑陋,是这份职业绕不开的第一步,但如何与丑陋斗智斗勇,以及消化这些丑陋给自己内心带来的影响,是比想象更难的事。

起码要一年,风控人员才能熟悉整个链路上的内容处理技巧。期间,有一些人因为无法忍受工作的枯燥和折磨陆续离开。但芭珠留了下来。她也说不清楚为什么,只是觉得自己在做一件不那么“负能量”的事儿。

2011年之后,阿里妈妈在直通车基础上,逐渐开发了更多新的广告产品。作为一个已经在审核团队待了一年多的“老员工”,芭珠也慢慢脱离基础审核,逐步投入到准入机制的制定,以及行业资质的研究当中。这就需要她探索图片背后的轨迹,分析商家们的投放行为特征,再为产品运营提供数据。


相比其他平台,阿里妈妈更有特殊性。它同时连接商家和消费者,风控的标准,不能只是控制了多少风险,还要考虑是否影响商家的商业收益。

在淘宝上,广告投放的基础原理,大都围绕增加精准的点击,进而影响销售转化展开。这时候,一张构思和投放巧妙的图片便几乎决定生死,商家们需要大开脑洞,思考增加点击量的技巧。

在金钱跟欲望面前,商家们深谙此道。

比如午夜12点,正是投放性、肉体、情色相关广告的最佳时刻。尽管图片背后的链接,不过只是一条普通的连裤袜、内裤而已。无论如何,只要产生点击行为,便正中广告主下怀。


这类肉体广告图片,是不被允许投放的


“出于人的好奇心,这些图片更抓人眼球,点击率自然会高很多。但绝对是不被允许的。”芭珠曾研究过这类图片的投放轨迹和数据,之后不断进行数据评估和业务权衡,再制定相关的风险控制规则。

与社交网络中的内容审查相比,广告业务风控既参杂着人性中最恶的部分,还时刻处在商业伦理的博弈中。一边是商家权益,一边是消费者体验,他们需要小心翼翼地游走在钢索上,并试图寻找两者的平衡。

但有时候,内容上的判断标准更来自于,把自己当作是一个普通人。芭珠一边说着话,一边在淘宝上搜索“湿疹”这一关键词,之后,广告位置的一张图片立马抓住她。几乎没有迟疑,她把图片发给了同事,并在键盘上用力敲下三个字:“做掉它。”

即使是随意一瞥,这张信用卡大小的图片,已足以令常人感到不适。

没有明确标准化的判断机制,芭珠常常能在几秒间做出抉择。多年的工作经验,已经让她形成一个认知阈值,“一旦超过承受能力,哪怕它能为商家带来的收益很高,我们也不会让这样的广告存在。”

现在,芭珠慢慢变得百毒不侵。“都走过最黑的路了,我还怕什么鬼,走着走着还能自娱自乐了。”


风险变异


随着淘宝平台上产品的不断发展,业务量级呈几何倍数增长,越来越复杂的风险、违规作弊的商家,也随之而来。

阿里妈妈的风控业务因此做了调整,由每个人负责某几个具体行业,对行业中的风险特征深入研究和挖掘,并制定对应的行业风控规则。策略成为核心,而一些基础的工作,则外包给专门的信息处理公司。

芭珠负责的是洗护及食品行业。每天打开电脑,她就要面对一堆夸大的虚假描述和丑陋信息,一个个标注样本风险类型,及时处理下线,并找更多的类似图片来丰富样本库。

2013年,阿里巴巴开始引入人工智能。这些底层数据标签的增加,就是帮助提升机器的识别和学习能力,让它逐渐拥有人的思维模式,之后变得更智能的机器,则再反向帮助芭珠们更精准地挑选出图片,提高筛选效率。

从某种程度上来说,这是一场人工与科技的接力赛,双方演变成一种新型关系。阿里安全部称,99.9%的图片可以由人工智能机器鉴定。

2014年开始,阿里妈妈图像团队重点攻坚OCR技术,就是通过机器视觉的方式从图片中识别出文字,再鉴别出违规的文案信息。之后,这项技术刷新了世界最好成绩,每天可以处理图片近千万张,自动反馈疑似违规图片准确率达95%以上。光2015年,阿里妈妈累计屏蔽了4600万条恶意推广。

但当机器编织的网眼缩小,露骨的图片信息减少,也并不意味着新的风险就不会发生。

相比较之前较为显现的丑陋图片,那些可能带有歧义、有模糊边界的隐性内容,是芭珠当下的新难题。因为即使是看上去平常的话语和图片,在脱离完整的语境后,消费者会产生更多元化的解读。再加上持续性的舆论发酵,可能会产生无法预估的风险。


暗含“深意”的足部磨砂膏广告图

最近,她就遇上过一些可以有多种解读的内容,比如“一张倒立放在墙上的扫帚图”。如果仅仅是作为一个普通的创意广告,这不过是配合产品广告的道具;但有一些隐喻后,有人会将之看成是女性的隐私部位。“一念艺术,一念邪恶。有艺术细胞的人认为是艺术,没有艺术细胞的普罗大众认为是污秽。”

当时,团队内部争论了很久,最后决定分析广告的相关性和商家的使用意图。结果发现,扫帚广告背后要么是毫无关系的男装,要么是有一些微妙关系的吊灯,商家们用此图,无非是为了流量。因此,这样的创意最终被处理。

在巨大的信息海洋中,新的浪潮不断袭来,芭珠需要不断升级风险防御措施,将那些可能会随时引爆的炸弹一个个排除。

“但风险仍然会随时爆发,因为我们永远都不知道,在某个阴暗的角落,有怎样的定时炸弹会随时被引爆。唯一能做的,就是把所有声音收集起来,复盘风险漏出的原因,再联合技术团队,进行模型训练,提升系统识别能力。”芭珠说。

因此,她们团队的招人标准也发生了变化。以前,考核的是是否够冷静,看重稳定性、细腻性和敏感度。现在,防控体系相对成熟了,更需要一些思路活跃的人,能突破传统的防控模式,出奇招对抗作弊团伙。


“不想让女儿看到”


吃完晚饭,把小孩哄睡,孙晓晨打开电脑,进入每天三小时的“拆弹”时间。她是另外一支志愿者“拆弹”部队中的元老级人物。

早在2009年,当时还是淘宝卖家的她,偶然看到淘宝在招募信息安全志愿者,没有多想便加入了进来。她曾在网上受骗过,也看到行业内很多侵权、山寨、色情、暴力的图片,因此想要用自己的微薄之力,对这个电商世界做出一些改变。同芭珠一样,在最初的一年多时间内,她的工作就是审核图片、打标、归档成数据库,然后让机器学习,每天要审核500多张图片。

这份工作没有丝毫报酬,还要承受相当大的压力,我问她是怎么坚持下来的。她腼腆一笑说:“或许是正义感吧。”而正义感也几乎成为芭珠们最大的工作动力。

2014年,芭珠和孙晓晨都升级成为妈妈,这种信念感则变得更强。累了的时候,妈妈们的动力很多时候来自于小孩,“将来不想让女儿看到。呼吁更多的人能参与进来,只有工作做好了,假货可以少一点,丑陋的东西可以少一点。”孙晓晨说。

芭珠的团队中,90%是女生,50%是妈妈。在妈妈的角色里,她们都需要日夜照顾小孩,成为他们坚强的遁甲,在工作岗位上,她们也要拉起这张大网,保护更多的人。

但有一次,芭珠在出差好几天之后回到家,想要抱抱自己的小孩,结果被拒绝了,“我不要妈妈抱,妈妈一直不在家。”芭珠转头坐在沙发上大哭,多年来的情绪在这一刻爆发。

擦干眼泪,在夜间值班的时候,妈妈们依旧要一边哄孩子睡觉,一边用手机排查风险;当在特殊安保节点的时候,又需要把钉钉的音量调到最大声,并带着耳机睡觉,这样既不会漏过任何一条监管指令,又不会吵醒熟睡中的孩子…

风控的岗位需要像妈妈一样,能在多重身份中协调,虽然需要忍受委屈和孤独,但仍然能不顾一切为了和谐稳定奉献自己。

“在你往第一张图片上看第一眼的时候,你就被永久性地改变了。”

英国NCS(相当于美国联邦调查局)曾经一位职业健康与福利部负责人在研究信息审核员职业时这样评价。为了共建一片净土,起码现在,这些拆弹专家们仍需要负重前行。


编辑 | 陈晨


    微信文章

    最值得关注的微信公众号