時事分析 | 創新及科技發展 | 2018-03-03 | 《經濟日報》

網編也需要精神健康



高登、連登、香港討論區、親子王國等,都是不少香港人喜歡流連的網上討論區。網上世界不乏精彩內容,但也有些不良,甚至令人反感的資訊。[1]雖然各大討論區皆明言管理人有權將這類內容移除[2],保用家六根清淨,不過負責審查這些內容的工作人員,卻有機會因為經常接觸這些資訊,飽受精神折磨。外國已經有從業員因而報稱出現精神問題。在網絡資訊爆炸的年代,這些「把關人」的精神健康,愈來愈需要社會關注。

在網上「把關」,不限於負責打理網上討論區的人員。我們日常使用的社交媒體如Facebook,也會聘用「內容審查員」(content moderator),審查用戶檢舉的內容。[3]從事這類工作的人,可能會不斷接觸到粗言穢語、仇恨言論,以至色情、變態、血腥的資訊。甚至有Facebook內容審查員稱每分鐘都在看斬首片段,工作毫無快樂可言。[4]

更甚的是,有從業員聲稱出現精神問題。兩名前微軟內容審查員便在2016年入稟美國法院,指控微軟早已知悉審查工作會對僱員及其家庭造成損害,但卻沒有預先警告他們,要求微軟賠償。[5]其中一位由2008至2014年任職內容審查員的原告[6],聲稱工作令他發惡夢、幻聽,以至患上創傷後壓力症,覺得難以使用電腦和留在小童身邊,否則會憶起工作時看過的兒童色情及暴力片段。[7]另一位原告從事審查的時間雖然較短,但也同樣出現創傷後壓力症,在公眾場合見到成人,會聯想他們乃潛在施虐者;遇上兒童則會擔心對方安全。[8]

從業員要懂自救 僱主也有角色

其他從業員即使沒有如上述個案般熬出精神問題,但工作期間或多或少都要承受一些精神衝擊。要減輕其不良影響,從業員首先需要懂得自救,例如調節工作安排和自我開解。在外國,有負責處理以兒童為對象的網上犯罪的警員表示,會盡量限制自己每天面對涉案的兒童色情物品不多於三至四小時,並盡可能只在早上觀看,以免晚上回家時記憶猶新。下班後他亦會提醒自己,這類罪案的犯案者及受害人相對上只佔少數。[9]

當然,未必每名打工仔都可以決定自己的工作方式。在此情況下,僱主在保障員工精神健康方面的角色,便顯得更為重要。海外一眾科網龍頭也逐漸注意到各類不良資訊為員工帶來的負面影響,其中微軟在2009年開始,已為從事內容審查的團隊提供輔導服務。[10]

由包括蘋果、Facebook、微軟、Google等多間龍頭公司成立的組織The Technology Coalition[11],則就如何增強僱員面對兒童性侵影像的抗逆能力出版手册,建議企業在審查員職前坦白說明將要處理的資訊;由曾接受心理創傷治療訓練的專業人士提供教育、評估及輔導服務;以及考慮要求所有員工接受輔導,以消除員工因求助而生的羞恥心。[12]

小型企業缺乏資源 外判員工亦難受惠

上述的一些建議,例如事先讓「把關人」清楚將要面對的資訊[13],實行會較為簡單,成本也不太高;但如果要聘請專業人士替員工做輔導,便未必是一般小型企業(例如本地討論區的營運者)所能負擔。即使是有能力投入資源的巨擘,所提供的服務也不一定切合員工實際需要。上述控告微軟的人就認為,輔導人員欠缺適當及足夠的知識和訓練,而且沒有權力安排僱員調職,批評微軟的措施不足以修補僱員所受的持續性傷害。[14]

再者,某些「把關人」只是外判員工,沒法受惠於支援直屬員工的措施。「香港討論區」就明言討論區管理團隊不是其公司職員,而只是討論區的會員[15],也即是一班「志願者」。

而更具規模的科技公司,更可能將相關工作外判到海外。過往就有報道指,美國有愈來愈多這類工作被外判至菲律賓,理由是可以大大節省薪金開支,而菲律賓作為美國前殖民地,仍與美國保持緊密文化聯繫,也有助當地的外判員工判斷出令美國人感到冒犯的事物。[16]此外,提供手機即時分享照片服務的公司,亦透過群眾外包平台Amazon Mechanical Turk外判照片審查服務[17],而該平台表明接受工作的人是獨立合約工,而非提供工作的公司或該平台的員工,由於不存在僱傭關係,他們亦不能享用員工福利。[18]

科技可助減少「眼冤」 但始終有「把關人」受苦

與提供輔導服務這類亡羊補牢的措施相比,運用科技移除網上令人不安的內容,似乎更能直接處理問題。微軟開發的PhotoDNA技術,便宣稱能把影像轉換成數字,並建成資料庫,藉以辨識非法影像,而即使相關影像曾被修改,亦難逃其法眼。[19]不過,上述技術只能協助過濾已知的影像,意味全新的影像仍需靠真人作首次辨識及歸類。

當然,科技進步下,人類也可以「訓練」電腦辨別不同物件的特徵[20],令其即使面對全新影像,也有能力判斷是否含有不當內容,例如亞馬遜的Amazon Rekognition辨別影像服務,就在去年加入了審查照片及影片的功能,協助用戶識別明顯或具暗示性的色情內容。[21]

但另一方面,縱然電腦技術發展到能準確無誤地辨別出令人不安的內容,也不代表人類無需「眼冤」。因為判斷某些內容是否適宜發布,不能僅靠事物表象,一件事物是否猥褻、色情、暴力、應否被社會大眾看到、是否符合討論區或社交媒體的使用規則,都涉及人的價值判斷還有文化知識。例如出現女性乳頭的照片,在某些情況下是色情物品,但同時Facebook亦容許發布母乳哺育的相片或帶有切除手術傷疤的乳房相片,以及描繪裸體的繪畫、雕塑或其他藝術品的圖片檔案。[22]

再以驚嚇影像為例,2009年,有人在YouTube上載一段影片,當中記錄了一名女子在伊朗抗議期間被子彈擊中的狀況,片段中該女子雙眼湧出鮮血,在其背後形成血池。片段雖恐怖,也涉及人的死亡,但也具有政治意義 ——示威者被政府當局鎮壓。結果負責審查內容的團隊決定保留影片,僅對有意觀看者警示影片含有血腥暴力內容。[23]由此可見,即使電腦認得出乳頭與鮮血,仍不代表其可以就是否刪除相關內容作最後判斷。

除非程式厲害得可作一些涉及價值取向的判斷,並獲大眾信服,否則各類網絡審查工作,最終還是避不開人的參與,也意味始終有人要時常觀看令人不安的內容。我們往後在討論區或社交媒體暢所欲言,也不應忘記幕後「把關人」的敬業樂業。

1 Adrian Chen, "The Laborers Who Keep Dick Pics And Beheadings Out Of Your Facebook Feed," WIRED, October 23, 2014, https://www.wired.com/2014/10/content-moderation; "HENRY SOTO and SARA SOTO, husband and wife and the marital community composed thereof, SARA SOTO, as guardian for her minor child CALUM SOTO, GREG BLAUERT and SUSAN BLAUERT, husband and wife and the marital community composed thereof, Plaintiffs, vs. MICROSOFT CORPORATION, a domestic corporation, Defendant." Ben Wells & Associates, December 30, 2016, p. 9.
2 「香港高登服務條款」。取自香港高登網站:https://forum.hkgolden.com/terms.aspx,查詢日期2018年2月6日;「Baby-Kingdom.com使用條款」。取自親子王國網站:http://www.baby-kingdom.com/tof.php,查詢日期2018年2月6日;「使用條款及免責聲明」。取自香港討論區網站:http://www.discuss.com.hk/legal.html,查詢日期2018年2月6日。
3 「社群守則」。取自Facebook網站:https://zh-tw.facebook.com/communitystandards,查詢日期2018年1月31日;Olivia Solon, "Facebook is hiring moderators. But is the job too gruesome to handle?" The Guardian, https://www.theguardian.com/technology/2017/may/04/facebook-content-moderators-ptsd-psychological-dangers, May 4, 2017; "Mark Zuckerberg May 3 2017 post," Facebook, https://www.facebook.com/zuck/posts/10103695315624661, last modified May 3, 2017.
4 Olivia Solon, "Underpaid and overburdened: the life of a Facebook moderator," The Guardian, May 25, 2017, https://www.theguardian.com/news/2017/may/25/facebook-moderator-underpaid-overburdened-extreme-content.
5 "HENRY SOTO and SARA SOTO, husband and wife and the marital community composed thereof, SARA SOTO, as guardian for her minor child CALUM SOTO, GREG BLAUERT and SUSAN BLAUERT, husband and wife and the marital community composed thereof, Plaintiffs, vs. MICROSOFT CORPORATION, a domestic corporation, Defendant." Ben Wells & Associates, December 30, 2016, pp. 1, 3, 18, 19 and 32.
6 同5,第6、9頁。
7 同5,第9、10頁。
8 同5,第12、13頁。
9 "Tried and True Coping Skills from an ICAC Lieutenant," SHIFT Wellness, http://www.shiftwellness.net/vermont, accessed February 1, 2018.
10 同5,第3、7、8頁。
11 "Members," The Technology Coalition, http://www.technologycoalition.org/members, accessed February 1, 2018.
12 "Employee Resilience Guidebook For Handling Child Sexual Abuse Images," The Technology Coalition, January 2015, pp. 10-15.
13 同12。
14 同5,第7、8頁。
15 「使用條款及免責聲明」。取自香港討論區網站:http://www.discuss.com.hk/legal.html,查詢日期2018年2月6日。
16 Adrian Chen, "The Laborers Who Keep Dick Pics And Beheadings Out Of Your Facebook Feed," WIRED, October 23, 2014, https://www.wired.com/2014/10/content-moderation.
17 "SnapMyLife brings its users' photos live to the Web in real time, with help from Mechanical Turk," Amazon Mechanical Turk, https://requester.mturk.com/case_studies/cs/snapmylife, accessed February 1, 2018.
18 "Participation Agreement," Amazon Mechanical Turk, https://www.mturk.com/worker/participation-agreement, last modified October 17, 2017.
19 "New Technology Fights Child Porn by Tracking Its 'PhotoDNA'" Microsoft, https://news.microsoft.com/2009/12/15/new-technology-fights-child-porn-by-tracking-its-photodna/#sm.0001mpmupctevct7pjn11vtwrw6xj, last modified December 15, 2009; "PhotoDNA Cloud Service: Overview," Microsoft, https://www.microsoft.com/en-us/PhotoDNA/Default, accessed February 1, 2018.
20 Jeff Barr, "Amazon Rekognition – Image Detection and Recognition Powered by Deep Learning," Amazon Web Services, https://aws.amazon.com/tw/blogs/aws/amazon-rekognition-image-detection-and-recognition-powered-by-deep-learning, last modified November 30, 2016.
21 Jeff Barr, "Amazon Rekognition Update – Image Moderation," Amazon Web Services, https://aws.amazon.com/tw/blogs/aws/amazon-rekognition-update-image-moderation, last modified April 19, 2017; "Detecting Unsafe Content," Amazon Web Services, https://docs.aws.amazon.com/rekognition/latest/dg/moderation.html, accessed February 7, 2018; Jeff Barr, "Amazon Rekognition – Image Detection and Recognition Powered by Deep Learning," Amazon Web Services, https://aws.amazon.com/tw/blogs/aws/amazon-rekognition-image-detection-and-recognition-powered-by-deep-learning, last modified November 30, 2016.
22 「社群守則—倡導有禮貌的行為:露點照」。取自Facebook網站:https://zh-tw.facebook.com/communitystandards#nudity,查詢日期2018年2月1日。
23 Catherine Buni and Soraya Chemaly, "The Secret Rules Of The Internet," The Verge, https://www.theverge.com/2016/4/13/11387934/internet-moderator-history-youtube-facebook-reddit-censorship-free-speech, accessed February 1, 2018.