▲美國(guó)加州大學(xué)洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨 圖/Stella Kalinina

與絕大多數(shù)互聯(lián)網(wǎng)平臺(tái)的使用者不同，平臺(tái)的內(nèi)容審核員看到的是互聯(lián)網(wǎng)的另一面，他們是各種有害內(nèi)容的過(guò)濾者，而他們所承受的精神壓力甚至創(chuàng)傷鮮為人知。同時(shí)更值得追問(wèn)的是，為什么這種工作不得不大量存在，且規(guī)模并沒(méi)有隨著技術(shù)發(fā)展而減少？

作為商業(yè)性?xún)?nèi)容審核員，梅琳達(dá)負(fù)責(zé)審核社交媒體平臺(tái)上用戶(hù)上傳的內(nèi)容。每當(dāng)遇到用戶(hù)舉報(bào)的不恰當(dāng)內(nèi)容，她就會(huì)依據(jù)平臺(tái)政策，判斷是否需要?jiǎng)h除并上報(bào)。

【資料圖】

商業(yè)性?xún)?nèi)容審核員的工作節(jié)奏很快，一天往往要審核成千上萬(wàn)份圖片、視頻或文本，內(nèi)容通常會(huì)涉及暴力、色情、騷擾、仇恨言論等令人不適或潛在有害的內(nèi)容。這些圖文影像會(huì)成批出現(xiàn)在任務(wù)隊(duì)列中，且沒(méi)有固定的節(jié)奏和規(guī)律。

“可能一個(gè)暴力視頻后，會(huì)收到三個(gè)仇恨言論視頻，再收到一個(gè)騷擾視頻，緊跟著兩個(gè)暴力視頻。你會(huì)看到很多惡意，看到人類(lèi)的陰暗面，而且要看一整天，”梅琳達(dá)一位曾在硅谷工作的同行這樣描述道。

“食罪者”是在威爾士和英格蘭廣為流傳的民間傳說(shuō)形象。他們需要吃掉擺放在逝者身上的面包，喝掉麥芽酒，這些代表著逝者生前不可饒恕的罪惡。食罪者通常是社區(qū)里的窮人，他們通過(guò)這種方式替死者背負(fù)罪惡，從而獲得經(jīng)濟(jì)補(bǔ)償。

梅琳達(dá)在這個(gè)古老的傳說(shuō)中找到了自己曾經(jīng)的職業(yè)的影子。

數(shù)字平臺(tái)的特點(diǎn)是有趣、迷人、容易訪問(wèn)、永遠(yuǎn)在線，商業(yè)性?xún)?nèi)容審核是讓這一切成立的前提之一。為此，這個(gè)隱身幕后的龐大群體不得不化身為以身心為濾芯的“食罪者”。只是數(shù)字世界的“面包和麥芽酒”愈發(fā)難以下咽。有人會(huì)因此對(duì)人性不再樂(lè)觀；也有人開(kāi)始反思，或許正是社交媒體平臺(tái)本身導(dǎo)致了他們審核的這些負(fù)面內(nèi)容的產(chǎn)生，并對(duì)互聯(lián)網(wǎng)文化和政策背后復(fù)雜而病態(tài)的一面感到厭倦。

“這份工作損害你的大腦，讓你認(rèn)為暴力是正常的，殺戮他人、肆意轟炸是正常的，你會(huì)看到一個(gè)人被轟炸，四肢散落各處，頭和腿飛在空中……我可以跳過(guò)那些視頻，但如果質(zhì)檢部發(fā)現(xiàn)了，就會(huì)被記過(guò)。一個(gè)月我只被允許出現(xiàn)三次過(guò)失?！?2018年在圣丹斯電影節(jié)首映的紀(jì)錄片《The Cleaners（網(wǎng)絡(luò)審查員）》中，一位匿名的內(nèi)容審核員這樣自述。

莎拉·羅伯茨出任上述紀(jì)錄片的顧問(wèn)，梅琳達(dá)也是她的訪談對(duì)象之一。羅伯茨是美國(guó)加州大學(xué)洛杉磯分校教育與信息研究院助理教授。2010年起，她開(kāi)始研究這項(xiàng)“被刻意掩藏的數(shù)字勞動(dòng)”，持續(xù)至今。通過(guò)訪談分布世界各地，有著不同年齡、學(xué)歷和專(zhuān)業(yè)背景的商業(yè)性?xún)?nèi)容審核員，她希望能從陰影中拼湊出商業(yè)性?xún)?nèi)容審核的輪廓，并以此為切入點(diǎn)，呼吁改善數(shù)字勞工的工作條件，提高公眾對(duì)商業(yè)性?xún)?nèi)容審核所產(chǎn)生的社會(huì)成本和政治影響的關(guān)注，以及對(duì)信息環(huán)境和數(shù)字人文的反思。

跟其他技術(shù)挑戰(zhàn)不同，內(nèi)容審核這類(lèi)問(wèn)題很難通過(guò)投入大量工程師來(lái)解決。人工智能技術(shù)的進(jìn)步仍然無(wú)法滿(mǎn)足該領(lǐng)域的當(dāng)下需求。相反，隨著人們對(duì)數(shù)字技術(shù)的愈發(fā)依賴(lài)，反而催生了更多新生的勞動(dòng)形式。全球以兼職或全職方式從事這項(xiàng)有償職業(yè)審核工作的人數(shù)有增無(wú)減。

羅伯茨將其多年研究成果寫(xiě)進(jìn)了《幕后之人：社交媒體時(shí)代的內(nèi)容審核》，近期，該書(shū)中文版在國(guó)內(nèi)上市。南方人物周刊專(zhuān)訪了羅伯茨，與她就數(shù)字零工市場(chǎng)、信息商品化、社交媒體平臺(tái)影響力、言論自由邊界以及互聯(lián)網(wǎng)倫理等問(wèn)題展開(kāi)了討論。

技術(shù)無(wú)法解決內(nèi)生于經(jīng)濟(jì)體系的諸多問(wèn)題

南方人物周刊：你在書(shū)中將內(nèi)容審核員的工作模式分為：在科技公司內(nèi)部工作、為小型專(zhuān)業(yè)公司工作、在呼叫中心工作，以及通過(guò)零工平臺(tái)工作。不同模式的從業(yè)者之間似乎存在著一條鄙視鏈？

羅伯茨：是的。企業(yè)通常會(huì)將薪酬和地位較低的工作外包出去，這既是出于成本考慮，也能幫大型公司規(guī)避很多責(zé)任。擁有全球用戶(hù)群的網(wǎng)站和平臺(tái)需要依靠這種混合用工策略來(lái)滿(mǎn)足他們大規(guī)模、全天候的內(nèi)容審核需求，同時(shí)節(jié)省審核開(kāi)支，并由此引入一種復(fù)雜的分層組織結(jié)構(gòu)和匯報(bào)層級(jí)。

“鄙視鏈”確實(shí)存在，并與員工所處的地理位置、社會(huì)地位、性別、種族等因素相關(guān)。那些工作地點(diǎn)就在審核內(nèi)容最終流入平臺(tái)和公司的審核員，會(huì)覺(jué)得自身地位高于那些工作地點(diǎn)遠(yuǎn)離平臺(tái)和公司的外包人員。

然而，無(wú)論這些商業(yè)性?xún)?nèi)容審核員身在加利福利亞的科技公司，還是菲律賓的呼叫中心，都會(huì)被當(dāng)?shù)毓芾碚吣脕?lái)與印度同行比較。管理者會(huì)催促員工加速完成更大量級(jí)的工作，否則他們的飯碗就會(huì)被印度人奪走。無(wú)論這種情況是否屬實(shí)，都起到了鞭策本地員工的效果。但問(wèn)題是，印度本地的數(shù)字勞工也并未從這種格局中獲益。

南方人物周刊：全球數(shù)字零工市場(chǎng)的現(xiàn)狀如何？

羅伯茨：人們最初曾樂(lè)觀地設(shè)想，新型技術(shù)性知識(shí)工作能為參與其中的各類(lèi)工作者提供更高質(zhì)量的工作和生活、更豐富的人生和更多的休閑時(shí)間，但事實(shí)并非如此。以商業(yè)性?xún)?nèi)容審核為例，審核員們的工作環(huán)境并沒(méi)有人們想象中的美好，除了需要大量的勞動(dòng)力，并不需要特別高的技能。這只是一份重復(fù)性很高的無(wú)聊工作。商業(yè)性?xún)?nèi)容審核員不得不長(zhǎng)年累月地處理包括色情、血腥暴力及包含仇恨言論等的有害內(nèi)容。

很多內(nèi)容審核員最初接受這份工作是希望能以此為敲門(mén)磚，進(jìn)入熱門(mén)的科技行業(yè)，給自己的簡(jiǎn)歷加分，可這一邊緣性崗位無(wú)法幫助他們?cè)诖笮涂萍脊精@得一份永久性職位。而且，隨著社交媒體公司在全球范圍內(nèi)招募那些愿意從事數(shù)字計(jì)件工作的勞動(dòng)者，審核員的薪酬甚至進(jìn)一步降低了。在線內(nèi)容審核更像是經(jīng)歷了一種反烏托邦式的、由技術(shù)進(jìn)步導(dǎo)致的惡性競(jìng)爭(zhēng)。全球性的數(shù)字零工市場(chǎng)沒(méi)有最低工資限制，這也使得勞動(dòng)力的價(jià)值由全球出價(jià)最低的工作者決定。

新技術(shù)的出現(xiàn)以及后工業(yè)時(shí)代的新型網(wǎng)絡(luò)結(jié)構(gòu)，并不能神奇地消除那些內(nèi)生于世界經(jīng)濟(jì)體系中的諸多問(wèn)題。恰恰相反，在讓一些人獲利的同時(shí)，它也將不平等強(qiáng)加給另一些人，甚至制造了新的不平等。

南方人物周刊：這個(gè)領(lǐng)域最近有哪些值得關(guān)注的案件？

羅伯茨：在美國(guó)，與內(nèi)容審核員相關(guān)的案件多為集體訴訟，且往往在訴訟前就達(dá)成了和解，并簽署了保密協(xié)議。總體來(lái)看，美國(guó)政府監(jiān)管科技公司的政治意愿非常低。國(guó)會(huì)面向科技公司舉辦的聽(tīng)證會(huì)常常淪為政治表演，而非真正意義上的嚴(yán)肅探討。

前段時(shí)間公眾關(guān)注度較高的是國(guó)會(huì)眾議院能源和商業(yè)委員針對(duì)短視頻社交平臺(tái)TikTok的聽(tīng)證會(huì)。我并不了解背后的具體曲折。但有一點(diǎn)是比較清楚的，如果議員們認(rèn)為，一家公司會(huì)因?yàn)閾碛袕V受歡迎的社交媒體工具而對(duì)其他國(guó)家構(gòu)成生存威脅，那他們恰恰給了其他國(guó)家抨擊Facebook及其他類(lèi)型美國(guó)實(shí)體的論點(diǎn)。美國(guó)人會(huì)意識(shí)到，“哦，糟糕！我們也在做同樣的事情?！?/p>

我只是希望我們的政治家能夠提出更好的論點(diǎn)，并拷問(wèn)其中的邏輯。遺憾的是，因?yàn)橹忻乐g的緊張關(guān)系，人們并不關(guān)注其中的邏輯謬誤，也不會(huì)對(duì)自身做批判性審視。我們必須正視社交媒體在全球政治中扮演的角色。這也是我最初對(duì)內(nèi)容審核萌生興趣的原因之一。

▲紀(jì)錄片 《The Cleaners （網(wǎng)絡(luò)審查員） 》?

社交媒體不只是暴力和辱罵內(nèi)容的清理者，更是招攬者

南方人物周刊：你對(duì)紀(jì)錄片《The Cleaners（網(wǎng)絡(luò)審查員）》中的內(nèi)容并不陌生，但在觀看時(shí)你還是落淚了。

羅伯茨：是的。我在過(guò)去的訪談過(guò)程中聽(tīng)到過(guò)許多類(lèi)似的故事，但講述者的面容和語(yǔ)調(diào)中流露出的痛苦，依然會(huì)刺痛我。我對(duì)他們的經(jīng)歷充滿(mǎn)同情。這也促使我反思，為了維系這種商業(yè)模式，就要把這些普通人置于如此境地，真的值得么？我們可以做出哪些改變？

南方人物周刊：你訪談的一位前商業(yè)性?xún)?nèi)容審核員提到，為了能處理海量被舉報(bào)的暴力和色情內(nèi)容，他需要盡量克制自己的情緒反應(yīng)，冷漠應(yīng)對(duì)。這些心理策略真的能奏效么？

羅伯茨：有兩種可能。一種是人們認(rèn)為自己把情感抽離了，但實(shí)際并未做到。比如有訪談對(duì)象告訴我，他沒(méi)有因?yàn)檫@份工作而產(chǎn)生身心負(fù)擔(dān)。但幾分鐘后，他又不自覺(jué)地提到，從事這份工作期間，體重和酒精攝入量都增加了，也不太愿意和朋友談?wù)撟约旱墓ぷ?。這可不是超然的表現(xiàn)。當(dāng)然，也可能有人真的能做到情感抽離，但這意味著你對(duì)本應(yīng)令人震驚或不安的事情變得麻木了，你也因此失去了一部分人性。

南方人物周刊：內(nèi)容審核員能接觸大眾無(wú)法觀看到的互聯(lián)網(wǎng)的另一面。這會(huì)讓他們對(duì)網(wǎng)絡(luò)世界的理解更全面，還是走向另一種片面？

羅伯茨：一位訪談對(duì)象對(duì)我說(shuō)，總體上他對(duì)人性非常敬畏，因?yàn)槊慨?dāng)他覺(jué)得人類(lèi)沒(méi)法更邪惡的時(shí)候，總有人能做到；每當(dāng)覺(jué)得自己已經(jīng)看到了最黑暗的東西，第二天還會(huì)有更黑暗的東西出現(xiàn)。另一位女性審核員甚至在離職三年后都拒絕與人握手，因?yàn)樗龑?duì)他人失去了信任，會(huì)對(duì)他人抱有最壞的預(yù)設(shè)。內(nèi)容審核員的工作讓他們更多看到人類(lèi)的陰暗面，這可能會(huì)導(dǎo)致他們對(duì)人性得出片面的結(jié)論。而如果涉及到跨文化內(nèi)容的審核，審核員既有的部分刻板印象可能會(huì)被強(qiáng)化。

南方人物周刊：您的研究是否影響了你對(duì)社交媒體的使用？

羅伯茨：我很喜歡使用社交媒體，在這里你可以結(jié)識(shí)新的朋友，看到豐富而精彩的人生經(jīng)歷，但互聯(lián)網(wǎng)也有另一面。當(dāng)這些網(wǎng)站的商業(yè)模式就是依靠源源不斷的用戶(hù)生成內(nèi)容來(lái)吸引其他用戶(hù)的眼球和關(guān)注時(shí)，就很難將那些展現(xiàn)人性之惡的東西擋在門(mén)外。所以我的一些訪談對(duì)象會(huì)認(rèn)為，社交媒體不只是暴力和辱罵等有害內(nèi)容的清理者，還是這些內(nèi)容最初的招攬者。

實(shí)際上，我們這些用戶(hù)并非網(wǎng)站服務(wù)的核心對(duì)象，他們真正的顧客是廣告主。平臺(tái)通過(guò)跟蹤和記錄用戶(hù)的瀏覽痕跡等隱私信息，建立相應(yīng)的用戶(hù)畫(huà)像，并推送給他們的品牌客戶(hù)，實(shí)現(xiàn)廣告的精準(zhǔn)投放。我們以為自己是在免費(fèi)使用這些服務(wù)，實(shí)際上我們是在無(wú)償出售自己。

2023年是我使用互聯(lián)網(wǎng)的第30個(gè)年頭，我希望它能向更好的方向發(fā)展。這促使我去思考一系列問(wèn)題，比如線上互動(dòng)的本質(zhì)是什么？人類(lèi)的自我表達(dá)是否應(yīng)該被出售？我們使用這類(lèi)產(chǎn)品的代價(jià)是什么？有什么可以改進(jìn)的地方？我們?nèi)绾我砸环N更好的方式進(jìn)行線上互動(dòng)？在線上空間花費(fèi)如此多的時(shí)間，是否會(huì)犧牲其他類(lèi)型的互動(dòng)，這是否會(huì)導(dǎo)致公眾想象力的減弱？又會(huì)如何影響線下交流……

南方人物周刊：內(nèi)容審核員也會(huì)像普通人一樣沉浸于各類(lèi)數(shù)字應(yīng)用嗎？

羅伯茨：這讓我想到了邱林川（注：香港中文大學(xué)新聞與傳播學(xué)院教授）的《信息時(shí)代的世界工廠》。他在調(diào)研中發(fā)現(xiàn)，很多在手機(jī)代工廠工作的年輕女工會(huì)將大部分薪水用于購(gòu)買(mǎi)自己參與制造的最新款智能手機(jī)。我接觸的商業(yè)性?xún)?nèi)容審核員大多有智能手機(jī)，我并不掌握他們每個(gè)人的數(shù)字應(yīng)用使用習(xí)慣，但和那些年輕的手機(jī)制造工人一樣，他們也渴望成為其參與塑造的文化的一部分。

南方人物周刊：一些社交媒體平臺(tái)會(huì)邀請(qǐng)部分用戶(hù)加入社區(qū)委員會(huì)，對(duì)有爭(zhēng)議的用戶(hù)投訴進(jìn)行判定，也是希望剝離一部分內(nèi)容審核責(zé)任。

羅伯茨：對(duì)。企業(yè)希望用戶(hù)能承擔(dān)一部分自我管理責(zé)任。在當(dāng)前以成本為中心的模式下，能被審核處理的內(nèi)容仍然只占很少一部分。舉個(gè)不恰當(dāng)?shù)睦?，美?guó)實(shí)行判例法，法官判決遵循先例，但在網(wǎng)絡(luò)世界里，當(dāng)沒(méi)有足夠的人對(duì)不恰當(dāng)?shù)男袨檫M(jìn)行判定時(shí)，公司內(nèi)容審核的內(nèi)部“司法體系”無(wú)疑會(huì)漏洞百出。當(dāng)然，這些公司是否有權(quán)擁有內(nèi)部“司法體系”也值得探討。

▲制圖/盧俊杰

數(shù)字時(shí)代對(duì)知識(shí)勞動(dòng)力的依賴(lài)會(huì)增大

南方人物周刊：社交媒體平臺(tái)Meta公司CEO扎克伯格在2021年3月的國(guó)會(huì)聽(tīng)證會(huì)上表示，該公司依靠人工智能可以清除95%以上的“仇恨言論內(nèi)容”。你對(duì)此持質(zhì)疑態(tài)度。

羅伯茨：雖然一些人工智能專(zhuān)家聲稱(chēng)他們已經(jīng)可以借助先進(jìn)的技術(shù)解決大部分內(nèi)容審核問(wèn)題，但即便是Facebook，它也承認(rèn)在全球仍雇傭著成千上萬(wàn)名內(nèi)容審核員。輕率地表示內(nèi)容審核已經(jīng)可以被技術(shù)解決的說(shuō)法是不負(fù)責(zé)任的，這掩蓋了大量人類(lèi)內(nèi)容審核員的付出。

讓人不安的是，十多年前商業(yè)性?xún)?nèi)容審核員們跟我提及的問(wèn)題，仍然困擾著他們的后繼者。從當(dāng)前在柏林和愛(ài)爾蘭工作的訪談對(duì)象那里，我得知大公司在技術(shù)方面的投入真的很不足，除非有充分的財(cái)務(wù)激勵(lì)。平臺(tái)會(huì)一直尋求更便宜的人力，人類(lèi)員工在成本和能力上仍然優(yōu)于機(jī)器。我不相信人性會(huì)發(fā)生什么改變，所以這項(xiàng)工作不會(huì)消失，會(huì)沿著全球化的軌跡，不斷向那些擁有大量廉價(jià)勞動(dòng)力的地方轉(zhuǎn)移。

我也不認(rèn)為未來(lái)數(shù)年，計(jì)算機(jī)有可能接替人類(lèi)完成所有的內(nèi)容審核工作。相反，我們正在看到平臺(tái)對(duì)該崗位的需求越來(lái)越大。這一現(xiàn)象不只表現(xiàn)在內(nèi)容審核行業(yè)，我們也將看到各種新的職業(yè)類(lèi)型在數(shù)字鏈條的不同環(huán)節(jié)涌現(xiàn)。只要我們還在進(jìn)行人機(jī)交互，就會(huì)需要越來(lái)越多的人類(lèi)勞動(dòng)力以意想不到的方式嵌入數(shù)字系統(tǒng)中。

南方人物周刊：你在書(shū)中同時(shí)列舉了兩個(gè)觀點(diǎn)，一是“言論自由似乎總是讓侮辱他人的用戶(hù)比被侮辱的用戶(hù)擁有更大的權(quán)力”，二是“在商業(yè)網(wǎng)絡(luò)平臺(tái)上沒(méi)有真正的言論自由”。

羅伯茨：言論自由是指每個(gè)人都有權(quán)利在不被惡意攻擊的情況下發(fā)表自己的觀點(diǎn)。但在美國(guó)的政治體系下，言論自由的概念似乎更多地適用于一部分人。很多時(shí)候，人們并不是在行使言論自由，更像是在濫用權(quán)力來(lái)欺凌他人的自由。此外我們也會(huì)看到，雖然一些網(wǎng)絡(luò)平臺(tái)宣稱(chēng)自己是言論自由的前哨，但當(dāng)平臺(tái)與大廣告主的關(guān)系受到威脅時(shí)，用戶(hù)便有可能被限制言論自由。

南方人物周刊：另一個(gè)不幸的事實(shí)是，保護(hù)自己的責(zé)任長(zhǎng)期落在網(wǎng)絡(luò)暴力的受害者肩上。除了譴責(zé)和對(duì)施暴者依法懲處外，我們還應(yīng)該做些什么？

羅伯茨：人們需要對(duì)自己的線上行為負(fù)責(zé)。但令人沮喪的是，當(dāng)前的美國(guó)，人們?cè)谌粘Ｉ钪腥菀状舐暊?zhēng)吵，甚至要拔槍相向?？稍诰€上，對(duì)于一些重要議題的有益的公共討論熱度又跌落到了歷史低點(diǎn)。除了每個(gè)人應(yīng)該承擔(dān)更多的個(gè)人責(zé)任外，平臺(tái)營(yíng)造的環(huán)境也會(huì)讓人們不斷挑戰(zhàn)言論自由的邊界。平臺(tái)從它創(chuàng)造的網(wǎng)絡(luò)環(huán)境中獲利，卻可以免于承擔(dān)與之對(duì)應(yīng)的責(zé)任。它們會(huì)說(shuō)，我們只是提供了一個(gè)大眾交流平臺(tái)，對(duì)他們要說(shuō)什么，我們無(wú)法負(fù)責(zé)。但實(shí)際上，平臺(tái)有責(zé)任設(shè)定規(guī)則和基調(diào)，需要辨明什么才是可以獲得經(jīng)濟(jì)激勵(lì)的表達(dá)。平臺(tái)應(yīng)該反思，是什么導(dǎo)致你的用戶(hù)表達(dá)變得極端化？

南方人物周刊：面對(duì)這些難以改變的問(wèn)題，會(huì)有無(wú)力感么？

羅伯茨：確實(shí)會(huì)有，但我也能獲得一些正向的反饋。我的書(shū)被翻譯成不同的語(yǔ)言，我可以跟不同國(guó)家和地區(qū)的人交流這些重要議題，他們也會(huì)繼續(xù)和周?chē)朔窒?。確實(shí)有太多我無(wú)法解決的現(xiàn)實(shí)問(wèn)題，但我能做的是激發(fā)更多的批判性思考，更多擁有選票的人會(huì)向政治家發(fā)問(wèn)，要求他們提出關(guān)鍵問(wèn)題的解決方案。我經(jīng)常告訴我的年輕學(xué)生，雖然有些問(wèn)題在上一代并未受到廣泛關(guān)注，但年輕一代可以用上一代人無(wú)法做到的方式促成改變。我們?nèi)魏稳硕紵o(wú)法獨(dú)自解決問(wèn)題，需要一同努力。所以，我還在繼續(xù)研究，繼續(xù)籌備新書(shū)，雖然這些工作真的很累，但是我應(yīng)該去做的。

關(guān)鍵詞：