「我審核了數百段令人毛骨悚然和創傷的影片」

在过去的几个月里，BBC一直在探索一个黑暗、隐秘的世界——一个最终汇集了最糟糕、最令人恐惧、最令人不安，并且在许多情况下是非法网络内容的世界。

斩首、大屠杀、虐待儿童、仇恨言论——所有这些内容最终都进入了全球内容审核员的收件箱。

你通常看不到他们，也很少听到他们的声音——但这些人正是负责审查并在必要时删除由其他用户报告或由技术工具自动标记的内容的人。

在线安全问题已变得日益突出，科技公司面临更大的压力，要求迅速删除有害内容。

尽管投入大量研究和投资来开发技术解决方案以提供帮助，但目前，审核工作主要还是由人类完成。

审核员通常受雇于第三方公司，但他们处理直接发布在大型社交网络上的内容，包括Instagram、TikTok和Facebook。

他们遍布全球。我在制作BBC Radio 4和BBC Sounds系列节目《审核员》时接触到的许多人都生活在东非，并且都已离开这个行业。

他们的故事令人心碎。我们记录的一些内容过于残酷而无法播出。有时，我的制作人Tom Woolfenden和我会在录制结束后只是沉默地坐着。

“如果你拿起手机然后打开TikTok，你会看到很多活动，跳舞，你知道，快乐的事情，”前内罗毕审核员Mojez说，他曾负责审核TikTok内容。“但在背后，我个人审核了数以百计的可怕和创伤性的视频。

“我自愿承担了这些，让我的心理健康受到冲击，这样普通用户就可以继续在平台上进行他们的活动。”

目前有多起正在进行的法律诉讼，声称这份工作破坏了审核员的心理健康。一些东非的前员工已经联合起来成立了工会。

“实际上，我登录社交媒体平台和观看斩首视频之间唯一的屏障，就是某人在某个办公室里观看这些内容并审查它们，这样我就不必看了，”Foxglove的负责人Martha Dark说，她是一个支持法律行动的活动团体。

2020年，当时名为Facebook的Meta同意支付5200万美元（约4000万英镑）给因工作而患上心理健康问题的审核员作为赔偿。

这起法律行动是由美国前审核员Selena Scola发起的。她将审核员描述为“灵魂的守护者”，因为他们看到的画面包含了人们生命的最后时刻。

我采访的前审核员在描述这份工作对他们的影响时都使用了“创伤”这个词。有些人睡眠和饮食都有困难。

一个描述说听到婴儿哭声让同事惊慌失措。另一个说，他因为看到虐待儿童的画面而难以与妻子和孩子互动。

可以通过BBC行动热线找到信息和支持。

我期望他们会说这项工作是如此情绪和心理上艰辛，没有人应该做——我以为他们会完全支持整个行业实现自动化，使用AI工具来扩大工作规模。

但他们没有。

传达出来的是，审核员们对自己在保护世界免受网络伤害中所扮演的角色感到非常自豪。

他们认为自己是一个至关重要的紧急服务机构。一个人说，他想要一套制服和一个徽章，把自己比作是医护人员或消防员。

“没有一秒是浪费的，”一个我们称之为David的人说。他要求保持匿名，但他曾参与过训练ChatGPT的材料，以确保其不会输出可怕的内容。

“我为训练这个模型成为今天的模样的人们感到骄傲。”

但David帮助训练的工具，有一天可能会与他竞争。

Dave Willner是OpenAI的前信任与安全负责人，ChatGPT的创造者。他说他的团队构建了一个基于聊天机器人技术的初步审核工具，该工具能够以约90%的准确率识别有害内容。

“当我完全意识到‘哦，这将行得通’时，我确实有点哽咽，”他说。“[AI工具]不会感到无聊，不会感到疲倦，也不会感到震惊……它们是不屈不挠的。”

然而，并非所有人都对AI是解决审核困境的灵丹妙药充满信心。

“我认为这是有问题的，”格拉斯哥大学的媒体与民主高级讲师Dr Paul Reilly说。“显然，AI审核内容的方式可能相当粗糙、二元化。

“这可能会导致过度封锁言论自由问题，当然也可能错过人工审核员能够识别的细微之处。人工审核对平台来说是必不可少的，”他补充道。

“问题是他们的数量不够，而且这份工作对从事的人来说是非常有害的。”

我们也联系了系列节目中提到的科技公司。

TikTok发言人表示，该公司知道内容审核并非易事，它致力于为员工创造一个关怀的工作环境。这包括提供临床支持，并创建支持审核员健康的项目。

他们补充说，视频首先由自动化技术审查，他们称这可以删除大量有害内容。

与此同时，OpenAI - ChatGPT背后的公司 - 表示它非常感谢人类工作者在训练AI识别这些照片和视频方面所做的重要且有时具有挑战性的工作。一位发言人补充说，与其合作伙伴一起，OpenAI执行了保护这些团队健康的政策。

而Meta - 拥有Instagram和Facebook - 表示它要求所有合作公司提供24小时现场支持，并配备专业人员。它补充说，审核员可以定制他们的审查工具，以模糊图形内容。

《审核员》将于格林威治时间11月11日至15日，每周一至周五13:45在BBC Radio 4播出，并在BBC Sounds上提供。