时事分析 | 创新及科技发展 | 2018-03-03 | 《经济日报》

网编也需要精神健康



高登、连登、香港讨论区、亲子王国等,都是不少香港人喜欢流连的网上讨论区。网上世界不乏精彩内容,但也有些不良,甚至令人反感的资讯。[1]虽然各大讨论区皆明言管理人有权将这类内容移除[2],保用家六根清净,不过负责审查这些内容的工作人员,却有机会因为经常接触这些资讯,饱受精神折磨。外国已经有从业员因而报称出现精神问题。在网络资讯爆炸的年代,这些「把关人」的精神健康,愈来愈需要社会关注。

在网上「把关」,不限于负责打理网上讨论区的人员。我们日常使用的社交媒体如Facebook,也会聘用「内容审查员」(content moderator),审查用户检举的内容。[3]从事这类工作的人,可能会不断接触到粗言秽语、仇恨言论,以至色情、变态、血腥的资讯。甚至有Facebook内容审查员称每分钟都在看斩首片段,工作毫无快乐可言。[4]

更甚的是,有从业员声称出现精神问题。两名前微软内容审查员便在2016年入禀美国法院,指控微软早已知悉审查工作会对雇员及其家庭造成损害,但却没有预先警告他们,要求微软赔偿。[5]其中一位由2008至2014年任职内容审查员的原告[6],声称工作令他发恶梦、幻听,以至患上创伤后压力症,觉得难以使用电脑和留在小童身边,否则会忆起工作时看过的儿童色情及暴力片段。[7]另一位原告从事审查的时间虽然较短,但也同样出现创伤后压力症,在公众场合见到成人,会联想他们乃潜在施虐者;遇上儿童则会担心对方安全。[8]

从业员要懂自救 雇主也有角色

其他从业员即使没有如上述个案般熬出精神问题,但工作期间或多或少都要承受一些精神冲击。要减轻其不良影响,从业员首先需要懂得自救,例如调节工作安排和自我开解。在外国,有负责处理以儿童为对象的网上犯罪的警员表示,会尽量限制自己每天面对涉案的儿童色情物品不多于三至四小时,并尽可能只在早上观看,以免晚上回家时记忆犹新。下班后他亦会提醒自己,这类罪案的犯案者及受害人相对上只占少数。[9]

当然,未必每名打工仔都可以决定自己的工作方式。在此情况下,雇主在保障员工精神健康方面的角色,便显得更为重要。海外一众科网龙头也逐渐注意到各类不良资讯为员工带来的负面影响,其中微软在2009年开始,已为从事内容审查的团队提供辅导服务。[10]

由包括苹果、Facebook、微软、Google等多间龙头公司成立的组织The Technology Coalition[11],则就如何增强雇员面对儿童性侵影像的抗逆能力出版手册,建议企业在审查员职前坦白说明将要处理的资讯;由曾接受心理创伤治疗训练的专业人士提供教育、评估及辅导服务;以及考虑要求所有员工接受辅导,以消除员工因求助而生的羞耻心。[12]

小型企业缺乏资源 外判员工亦难受惠

上述的一些建议,例如事先让「把关人」清楚将要面对的资讯[13],实行会较为简单,成本也不太高;但如果要聘请专业人士替员工做辅导,便未必是一般小型企业(例如本地讨论区的营运者)所能负担。即使是有能力投入资源的巨擘,所提供的服务也不一定切合员工实际需要。上述控告微软的人就认为,辅导人员欠缺适当及足够的知识和训练,而且没有权力安排雇员调职,批评微软的措施不足以修补雇员所受的持续性伤害。[14]

再者,某些「把关人」只是外判员工,没法受惠于支援直属员工的措施。「香港讨论区」就明言讨论区管理团队不是其公司职员,而只是讨论区的会员[15],也即是一班「志愿者」。

而更具规模的科技公司,更可能将相关工作外判到海外。过往就有报道指,美国有愈来愈多这类工作被外判至菲律宾,理由是可以大大节省薪金开支,而菲律宾作为美国前殖民地,仍与美国保持紧密文化联系,也有助当地的外判员工判断出令美国人感到冒犯的事物。[16]此外,提供手机即时分享照片服务的公司,亦透过群众外包平台Amazon Mechanical Turk外判照片审查服务[17],而该平台表明接受工作的人是独立合约工,而非提供工作的公司或该平台的员工,由于不存在雇佣关系,他们亦不能享用员工福利。[18]

科技可助减少「眼冤」 但始终有「把关人」受苦

与提供辅导服务这类亡羊补牢的措施相比,运用科技移除网上令人不安的内容,似乎更能直接处理问题。微软开发的PhotoDNA技术,便宣称能把影像转换成数字,并建成资料库,藉以辨识非法影像,而即使相关影像曾被修改,亦难逃其法眼。[19]不过,上述技术只能协助过滤已知的影像,意味全新的影像仍需靠真人作首次辨识及归类。

当然,科技进步下,人类也可以「训练」电脑辨别不同物件的特征[20],令其即使面对全新影像,也有能力判断是否含有不当内容,例如亚马逊的Amazon Rekognition辨别影像服务,就在去年加入了审查照片及影片的功能,协助用户识别明显或具暗示性的色情内容。[21]

但另一方面,纵然电脑技术发展到能准确无误地辨别出令人不安的内容,也不代表人类无需「眼冤」。因为判断某些内容是否适宜发布,不能仅靠事物表象,一件事物是否猥亵、色情、暴力、应否被社会大众看到、是否符合讨论区或社交媒体的使用规则,都涉及人的价值判断还有文化知识。例如出现女性乳头的照片,在某些情况下是色情物品,但同时Facebook亦容许发布母乳哺育的相片或带有切除手术伤疤的乳房相片,以及描绘裸体的绘画、雕塑或其他艺术品的图片档案。[22]

再以惊吓影像为例,2009年,有人在YouTube上载一段影片,当中记录了一名女子在伊朗抗议期间被子弹击中的状况,片段中该女子双眼涌出鲜血,在其背后形成血池。片段虽恐怖,也涉及人的死亡,但也具有政治意义 ——示威者被政府当局镇压。结果负责审查内容的团队决定保留影片,仅对有意观看者警示影片含有血腥暴力内容。[23]由此可见,即使电脑认得出乳头与鲜血,仍不代表其可以就是否删除相关内容作最后判断。

除非程式厉害得可作一些涉及价值取向的判断,并获大众信服,否则各类网络审查工作,最终还是避不开人的参与,也意味始终有人要时常观看令人不安的内容。我们往后在讨论区或社交媒体畅所欲言,也不应忘记幕后「把关人」的敬业乐业。

1 Adrian Chen, "The Laborers Who Keep Dick Pics And Beheadings Out Of Your Facebook Feed," WIRED, October 23, 2014, https://www.wired.com/2014/10/content-moderation; "HENRY SOTO and SARA SOTO, husband and wife and the marital community composed thereof, SARA SOTO, as guardian for her minor child CALUM SOTO, GREG BLAUERT and SUSAN BLAUERT, husband and wife and the marital community composed thereof, Plaintiffs, vs. MICROSOFT CORPORATION, a domestic corporation, Defendant." Ben Wells & Associates, December 30, 2016, p. 9.
2 「香港高登服务条款」。取自香港高登网站:https://forum.hkgolden.com/terms.aspx,查询日期2018年2月6日;「Baby-Kingdom.com使用条款」。取自亲子王国网站:http://www.baby-kingdom.com/tof.php,查询日期2018年2月6日;「使用条款及免责声明」。取自香港讨论区网站:http://www.discuss.com.hk/legal.html,查询日期2018年2月6日。
3 「社群守则」。取自Facebook网站:https://zh-tw.facebook.com/communitystandards,查询日期2018年1月31日;Olivia Solon, "Facebook is hiring moderators. But is the job too gruesome to handle?" The Guardian, https://www.theguardian.com/technology/2017/may/04/facebook-content-moderators-ptsd-psychological-dangers, May 4, 2017; "Mark Zuckerberg May 3 2017 post," Facebook, https://www.facebook.com/zuck/posts/10103695315624661, last modified May 3, 2017.
4 Olivia Solon, "Underpaid and overburdened: the life of a Facebook moderator," The Guardian, May 25, 2017, https://www.theguardian.com/news/2017/may/25/facebook-moderator-underpaid-overburdened-extreme-content.
5 "HENRY SOTO and SARA SOTO, husband and wife and the marital community composed thereof, SARA SOTO, as guardian for her minor child CALUM SOTO, GREG BLAUERT and SUSAN BLAUERT, husband and wife and the marital community composed thereof, Plaintiffs, vs. MICROSOFT CORPORATION, a domestic corporation, Defendant." Ben Wells & Associates, December 30, 2016, pp. 1, 3, 18, 19 and 32.
6 同5,第6、9页。
7 同5,第9、10页。
8 同5,第12、13页。
9 "Tried and True Coping Skills from an ICAC Lieutenant," SHIFT Wellness, http://www.shiftwellness.net/vermont, accessed February 1, 2018.
10 同5,第3、7、8页。
11 "Members," The Technology Coalition, http://www.technologycoalition.org/members, accessed February 1, 2018.
12 "Employee Resilience Guidebook For Handling Child Sexual Abuse Images," The Technology Coalition, January 2015, pp. 10-15.
13 同12。
14 同5,第7、8页。
15 「使用条款及免责声明」。取自香港讨论区网站:http://www.discuss.com.hk/legal.html,查询日期2018年2月6日。
16 Adrian Chen, "The Laborers Who Keep Dick Pics And Beheadings Out Of Your Facebook Feed," WIRED, October 23, 2014, https://www.wired.com/2014/10/content-moderation.
17 "SnapMyLife brings its users' photos live to the Web in real time, with help from Mechanical Turk," Amazon Mechanical Turk, https://requester.mturk.com/case_studies/cs/snapmylife, accessed February 1, 2018.
18 "Participation Agreement," Amazon Mechanical Turk, https://www.mturk.com/worker/participation-agreement, last modified October 17, 2017.
19 "New Technology Fights Child Porn by Tracking Its 'PhotoDNA'" Microsoft, https://news.microsoft.com/2009/12/15/new-technology-fights-child-porn-by-tracking-its-photodna/#sm.0001mpmupctevct7pjn11vtwrw6xj, last modified December 15, 2009; "PhotoDNA Cloud Service: Overview," Microsoft, https://www.microsoft.com/en-us/PhotoDNA/Default, accessed February 1, 2018.
20 Jeff Barr, "Amazon Rekognition – Image Detection and Recognition Powered by Deep Learning," Amazon Web Services, https://aws.amazon.com/tw/blogs/aws/amazon-rekognition-image-detection-and-recognition-powered-by-deep-learning, last modified November 30, 2016.
21 Jeff Barr, "Amazon Rekognition Update – Image Moderation," Amazon Web Services, https://aws.amazon.com/tw/blogs/aws/amazon-rekognition-update-image-moderation, last modified April 19, 2017; "Detecting Unsafe Content," Amazon Web Services, https://docs.aws.amazon.com/rekognition/latest/dg/moderation.html, accessed February 7, 2018; Jeff Barr, "Amazon Rekognition – Image Detection and Recognition Powered by Deep Learning," Amazon Web Services, https://aws.amazon.com/tw/blogs/aws/amazon-rekognition-image-detection-and-recognition-powered-by-deep-learning, last modified November 30, 2016.
22 「社群守则—倡导有礼貌的行为:露点照」。取自Facebook网站:https://zh-tw.facebook.com/communitystandards#nudity,查询日期2018年2月1日。
23 Catherine Buni and Soraya Chemaly, "The Secret Rules Of The Internet," The Verge, https://www.theverge.com/2016/4/13/11387934/internet-moderator-history-youtube-facebook-reddit-censorship-free-speech, accessed February 1, 2018.