最近几个月,在持续不断的自杀直播事件发生后,扎克伯格今年5月初宣布要新招 3000 多名内容审查员帮助平台筛选不适合展示的内容。

在此之前这个队伍里已经有 4500 人了。暴力、色情、恐怖主义、自残等这一系列被用户举报的争议性内容都在他们的审查范围之内。

英国卫报报道称,Facebook 每周需要审查的内容超过 650 万份,其中还包括一些僵尸账号。

内容审查员往往需要在 10 秒内做出判断。为了让他们更容易做出判断,公司内部专门为他们提供了内部审查指南,形式包括 PPT、电子表格及流程图。

英国卫报日前公开了这些审查指南的部分详细内容。

目前,利用算法 Facebook 将一些极端的内容如虐待儿童和恐怖主义屏蔽以外,人工审查员是否需要删除内容的决定也很复杂。

同样的内容,它们在符合一些条件的情况下,内容审查员可以允许保留在网站上并被分享。所以限度是这样的:

对于一些非性虐待或欺辱儿童的照片,如果不含有庆祝虐待成分,它可以被保留;

对于一些动物虐待的照片可以被分享,如果有特别令人不安的画面,它会被加上“令人不安”的标记;

通过手工作品展示的裸体或性行为允许被分享,但是视频形式的相关内容会被删除;

只要没有裸露镜头,堕胎视频允许被展示;

类似“有人要射杀特朗普”的句子规定应该被删除,因为作为国家元首,他应该受到保护。但如果是“想掐这个混账的脖子”或者“去死吧”类似的句子将被允许保留;

如果有用户在平台上发状态称,未来五天或更久之后要自杀。这样的帖子也将会被保留。因为用户发表自伤性的内容有助于其宣泄和表达,删帖可能反而会阻止他们的表达。

Facebook 的全球政策管理负责人 Monika Bickert 称,目前 Facebook 的用户近 20 亿人,如果要让所有人对同一条内容达成共识是一件不太可能的事情。这其中总会有很多灰色地带,比如讽刺和不恰当内容之间的界限就很模糊。

根据这些评判标准,卫报专门做了一个互动网页,让人们参与测试了解 Facebook 内部的人工审查标准。来测试一下?

Facebook 怎么人工审查内容的?这里有一份指南
  是否删除或忽视这张 3K 党的手绘?答案是删!

Facebook 怎么人工审查内容的?这里有一份指南
  这张特朗普+纳粹呢?Facebook 说不删,因为是开玩笑的

Facebook 怎么人工审查内容的?这里有一份指南
  你会怎么处理这张虐待动物照片?反正 Facebook 是不删

简单做一遍,你会发现 Facebook 人工审查的标准其实相对宽松,但要做出这些判断还是一件挺费神的事情。