"他們就像是數字內容的看門人，像晚上出來工作的影子勞動力一樣清理動態訊息，在真正有價值的員工回家休息時，他們開始打掃地板，這不是一個好看的畫面。"
寫在前面：
Facebook更名Meta，好像讓公眾對這家公司的科技含量又多了一份想象。但在這樣一家努力追求技術極限的公司，存在著一種鮮明反差，大量底層工人在做著非常原始的工種——內容稽核。把違規內容剔出平臺，這是靠演算法和技術無法實現的一個效果。
這樣的人群數量龐大，且不僅限於Facebook。科技巨頭給他們付費，被要求觀看那些暴力血腥或者不健康的內容，自身受到反噬，必須得去看心理醫生。這也提醒我們，無論商業如何進步，總有無法逃脫的重力。
撰文｜史蒂文·利維
Facebook有一段長達 17 分鐘的影片，記錄了一場大屠殺的全過程，包括刺客從一家清真寺衝到另一家清真寺的經過，直播的時候只有大約200人觀看。事件發生 12 分鐘之後，Facebook 知道了這個訊息，並把影片撤了下來。但隨後，即便該公司使用數字指紋來阻止上傳，這段影片仍然在 Facebook 上傳播開來。
一場精心準備的貓捉老鼠的遊戲爆發了。
一邊是 Facebook 在遮蔽影片，一邊是使用者堅持不懈修改檔案以逃避審查。僅 24 個小時之內，使用者試圖上傳某個版本的影片內容高達 150 萬次，而 Facebook 遮蔽了其中的 120 萬次，這意味著平臺上成功出現了 30 萬份複製的影片。一週後，有人報告說，在Facebook 上仍然可以找到該影片。
為什麼成千上萬的人認為上傳這段影片是合適的？一直以來這都是一個謎。這也是另一條證據，證明連線世界也存在黑暗的一面。
比克特的角色是最前線的內容稽核員，Facebook 大約在 2009 年開始設定這個崗位，當時它在都柏林建立了首個國際內容稽核中心。內容稽核員替代了客戶支援人員，在 Facebook 創立之初，這些人的工作是遮蔽聚會上的裸照，與不雅圖片狂熱分子打交道。
在任務繁重時他們會瘋狂地招募人手。目前為止，Facebook 的內容稽核員已達數千人，其數量在 2016 年美國大選之後增加了三倍多，到 2019 年達到了 1.5 萬人。稽核員們在全球範圍內工作，需要清理數百萬條內容，這些要麼是被使用者報告為不當的內容，要麼是被人工智慧系統識別為潛在違規的內容。然後他們會很快做出決定，確定這些帖子是否真的違反了 Facebook 的規則。
然而，絕大多數內容稽核員與工程師、設計師甚至是制定這些規則的政策制定者幾乎沒有接觸，大多數人甚至不是該公司的員工。
自 2012 年在馬尼拉和印度建立內容稽核中心以來，Facebook 就開始透過外包的方式招募工作人員。這些人不能參加公司的全員會議，也沒有資格獲得 Facebook 的獎勵。
Facebook 不是唯一一家使用內容稽核員的公司：谷歌、Twitter，甚至像 Tinder 這樣的約會應用程式都需要監控各自平臺上發生的事情。但是，Facebook 使用的內容稽核員數量最多。
儘管全球內容稽核員的人數正在慢慢增加到數萬人，但這個現象最初基本上是不知不覺的。學術界首先意識到這個問題。薩拉·羅伯茨（Sarah T. Roberts）當時還是一名研究生，她和大多數人一樣，認為是人工智慧在完成這項工作，直到一名計算機科學專業的同學介紹了當時提供支援的人工智慧是多麼地原始。
“這讓我理解了這個問題，”她說，“唯一的補救辦法只能是招募大量的基本上是底層的工人。”在 2010 年，這些公司並不承認它們採取了這樣的措施。羅伯茨和其他了解這一現象的人發現了一種新型的工人，他們雖然不具備科技公司所偏愛的精英學位和工程背景，但對其運營來說仍然必不可少。
這也提醒我們，在前一個時代，21 世紀的網際網路曾是理想主義的標誌，但現在已經偏離了方向。
儘管扎克伯格在創辦 Facebook 時可能就期望不需要太多的人工干預，但他的支持者們很早就意識到，需要花費大量時間來篩選 Facebook 的內容，以保護大眾免受攻擊性甚至非法內容的侵害。
讓他們在工廠裡工作，這是一種自然的進化過程，他們就像是數字內容的看門人，像晚上出來工作的影子勞動力一樣清理動態訊息，在真正有價值的員工回家休息時，他們開始打掃地板，這不是一個好看的畫面。
這種清理可能會令人痛苦，因為每天都要面對強姦、非法手術和沒完沒了的生殖器圖片。所有這些令人反胃的內容的存在都是令人不舒服的事實，Facebook 希望其清洗大軍遠離視線。
新聞業出現了一個分支，揭露了內容稽核中心的狀況。儘管Facebook 說這些訊息被誇大了，但一些細節得到了多篇文章和學術研究的交叉證實：內容稽核員幾乎總是受僱於埃森哲和高知特等外包公司，他們的工資相對較低，通常在每小時 15 美元內。
他們以迅捷的節奏觀看數量驚人的恐怖內容，用來決定內容被保留或被刪除 的規則看起來很複雜，這份工作讓他們思維混亂。
辦公區裡，長長的黑色桌子上擺放著一排排的顯示屏，因為內容稽核員沒有指定的工位，所以沒有個人物品。再結合“無紙辦公室”的狀況，讓那些未被佔用的區域看上去有一種被遺棄的感覺。高峰期這裡有 400 名內容稽核員，辦公室裡 24 小時都有人值守。
我的嚮導是高知特公司的高管，是他設立了這間辦公室。他的專長是外包，而不是內容政策。所有的規則及其執行都來自“客戶”，這是他對 Facebook 的稱呼。
我遇到了一群自願跟我交流的內容稽核員，他們中大約一半的人讀過大學。他們都認為，在目前的情況下，這份特殊的工作勝過其他的工作。我們仔細研究了他們的工作細節。Facebook 希望內容稽核員每天處理 400 條內容，這意味著他們有大約 40 秒的平均處理時間來決定一個有問題的影片或帖子是否必須保留或被刪除，或者在極少數情況下，提升級別由經理來處理，經理可能會把最令人困惑的決定交給門洛帕克的政策制定者。
Facebook 表示，每項決定都沒有固定的時間限制，但記者以及對這一過程做過深入研究的幾位學者的報道都表明，思考每一條內容是否存在問題，會讓一名低薪內容稽核員的職業生涯處於危險之中。
與我交談過的一名內容稽核員似乎正在與這個不成文的任務配額進行抗爭：他的個人目標是每天處理 200 條。“當你做得太快時，你會錯過一些小細節。”他說，他還補充說，如果他較低的平均處理效率受到質疑，他希望他較高的準確率能予以彌補。
我們犯了多少錯誤？這很難說，但有一個指標可以參考，就是使用者對內容稽核員的決定提出上訴所獲得支援的次數。
2019 年頭三個月，Facebook 刪除了 1940 萬條內容。使用者對其中的 210 萬個決定提出上訴，其中有不到 1/4 的上訴得到了支援，也就是說，對這部分內容，內容稽核員最初的決定是錯誤的。另有 66.8 萬條被刪除的帖子在沒有上訴的情況下得到了恢復。
換句話說，儘管大多數的判定是正確的，但在用秒錶計時的氛圍中，能力不足的內容稽核員無法把事情做好，仍然有數百萬人會受到影響。
這項工作充滿挑戰性，其中部分原因在於他們試圖將存在問題的內容與他們的參考指引（即“社群準則”）相對照，這份指引延續了 Facebook 創立初期保羅·揚澤爾所使用的一頁篇幅的檔案，該檔案由戴夫·威爾納完善。內容稽核員需要先在課堂上學習如何解讀這份指引，然後在單獨工作之前，由一位資深員工帶著一起學習。該指引的部分內容在多次被洩露之後，Facebook 乾脆於 2018 年將其全部內容公之於眾。
“社群準則”證實了這項任務的複雜性。儘管要認定哪些內容是平臺允許釋出的，還存在文化上的差異，但同樣的一套規則適用於全球各地。這些標準適用於 Facebook 的所有產品和功能，包括動態訊息、Instagram、個人資料頁上的“時間軸”以及 WhatsApp 和messenger 上的私人資訊。
可以肯定的是，這份長達 27 頁的文件無法涵蓋所有的示例。Facebook 已經基於特定示例建立了大量非公開的補充檔案。
最困難的判定是仇恨言論。Facebook 不允許自己的平臺上出現仇恨言論，但是很難清晰地予以定義，這一點可以理解。“針對仇恨言論的政策是最難執行的，因為缺乏語境背景。”比克特說。
朋友之間開玩笑時所說的一些對話，在面對一名容易受傷害的陌生人或熟人時，它的意思可能完全不同。媒體上曾報道過一個案例，是一名喜劇演員釋出的一個帖子，寫著“男人都是人渣”。她因此被停職了。根據Facebook 的規則，不得對受保護的群體進行整體的侮辱。男性或女性都是受保護的群體。
仇恨言論太複雜了，所以 Facebook 將它分成了幾個層級。第一級，包括稱呼男人為人渣，以及將某個群體比作細菌、性掠食者或者“在文化上被認為智力或身體上低劣的動物”；第二級，是暗示低劣的侮辱，比如說某人或某個群體有精神疾病或一無是處；第三級，是一種政治或文化上的侮辱，包括呼籲隔離、承認種族主義或者直接咒罵。不同的層級對應不同的處罰措施。
問題是，針對男人或億萬富翁這樣的強大群體的仇恨言論，是否應該像針對性別或種族等受保護群體的誹謗一樣受到嚴厲對待。結果很有趣：報告稱，最好的結果是予以區分，讓人們對掌控權力的群體發洩。但是，這種處理方式沒有被接受，因為這就要求內容稽核員做出過於複雜的決定。
內容稽核員自己說，他們已經做好承擔責任的準備。不足為奇，這些承包商渴望將自己提升到員工的地位。這並不容易，因為內容稽核所需的“技能組合”，不同於那些建立或營銷 Facebook 產品所需的有用技能。
內容稽核員賈斯廷說，他曾令人痛心地處理過一些有問題的內容，不是因為使用者的不良行為，而是因為使用者已經去世。Facebook 的演算法經常會讓死者的賬號資訊出現在其至愛的人的動態訊息上，這可能會造成一具溺亡的屍體浮出水面的效果。Facebook 現在為去世的使用者精心準備了“紀念”的方案。“紀念真的很有壓力。” 他說。
鳳凰城的內容稽核員似乎認為，接觸到令人不安的圖片是工作中不那麼愉快但可以忍受的一部分。
有時候，某些事情會刺激到他們， 他們就去找治療師。有一位內容稽核員告訴我，有一個“狠狠揍我” 的帖子裡包含一條影片，其中有動物與人發生性行為、被屠殺、排便以及其他一些畫面。“這讓我難受了整整兩週。”他說。在治療師的幫助下，他渡過了難關。
Facebook 會定期審查內容稽核員所做出的決定，當出現重大錯誤時，它會進行事後分析以便改進。但是，時間和金錢的綜合因素決定了做出這些決定的速度，並導致錯誤經常發生。“如果每個人每天只審查一條內容，我們可能就不會犯錯誤。”前內容稽核員賈斯廷早些時候曾告訴我。
這是 Facebook 的主要困境：它一直在招聘內容稽核員，但他們需要瀏覽的內容數量仍然太多，以致他們不得不加快速度，最終導致無法做好自己的工作。
人們注意到，當內容稽核員錯誤地刪除一張照片時，釋出者就會去社交媒體投訴。當有人報告了令人不快的內容，而它沒有被刪除時，又會引起更多的投訴。
媒體注意到：寫一篇報道，說 Facebook 做出了一個現在看起來很糟糕的決定，這在新聞領域是易如反掌的事，但這個糟糕的決定很可能是一位工作勞累過度甚至精神受到創傷的內容稽核員所為。扎克伯格自己也承認這一點。“我們公開的問題中，十有八九並不是因為我們的政策得不到大家的普遍認可，而是因為我們在處理這個問題時搞砸了。”他說。
接受採訪的內容稽核員對我說，儘管會面臨時間的壓力，還會看到人性最糟糕的一面，但作為一份工作，為 Facebook 做內容稽核並不算太糟糕。他們將自己視為默默無聞的第一目擊者，保護幾十億 Facebook 使用者免受傷害。“我曾跟一些拯救過他人生命的內容稽核員交流過，當看到有人企圖自殺時，他們及時向執法部門做了報告。” 阿倫·錢德拉（Arun Chandra）說。2019 年，Facebook 聘請他來領導內容稽核工作。“令人驚喜的是，這項工作能讓人獲得滿足感和自豪感。”
薩拉·羅伯茨告訴我，她在自己的工作中發現，如果內容稽核員 意識到自己只不過是一臺機器的齒輪，而他們的僱主或者與他們僱主 簽約的公司又沒有真正傾聽他們的意見，他們良好的感受會大大削弱。
“即便有人聽取過他們的反饋意見，這種情況也是很罕見的。”她說。有一次，一名內容稽核員告訴她，一件自殺威脅得到了積極的解決。“我們從來沒有停下來問問自己，”這名內容稽核員說，“人們在我們 的平臺上看到的垃圾內容，在多大程度上導致他們想要自我傷害。”
幾個月之後，我採訪的鳳凰城內容稽核員們就遭遇了一起不愉快的意外事件。2019 年 10 月，高知特公司決定不再參與 Facebook 的內容稽核工作。Facebook 宣佈將關閉鳳凰城的辦公室，那些數字內容第一目擊者將面臨失業。
Facebook 真的很不高興，因為它要求成千上萬在辦公室工作的人以每天處理 400 個帖子的速度監控平臺上的內容。但 Facebook 找到了一個能大大改善運營狀況的長期解決方案，同時還可以減少低薪員工的數量，這些低薪員工負責處理 Facebook 使用者釋出的圖片，但需要接受心理治療。如果在使用者看到那些存在麻煩的內容之前， Facebook 就對它們進行了評估並予以刪除，而不是等到有人報告，那會怎麼樣？
他們認為，答案是人工智慧。對於看似棘手的內容稽核問題，這是長期的解決方案。
文章節選自《Facebook ：一個商業帝國的崛起與逆襲》
