文|豹變 趙若慈

編輯|劉楊

「核心提示」

10億用戶共享的網絡空間內，暴力藏匿于各個角落。在這個人人皆可發聲的時代，居于網絡輿論場中心的社交平臺，在防網暴方面做到了哪一步？為什么把施暴者關進“小黑屋”依然無法根除網暴？

三年前，25歲的B站UP主“卡夫卡松餅君”因肺癌離世，許多網友在她的微博下留言悼念，其中一條充滿惡意的熱評十分刺眼，只有短短五個字——“開香檳慶祝”。

松餅君生前經歷了多次網暴，她的最后一條微博寫道：“很多事情都是沒輪到自己頭上，所以能在旁邊為虎作倀，叫嚷熏天。”

黃韓也有類似的感受。去年她從公司裸辭之后，在B站發布的第一條視頻有5萬多播放量。然而，隨之而來的還有評論區和彈幕的質疑和攻擊。黃韓對《豹變》表示，一條讓她感到不舒服的評論，有200多人點贊。

2022年11月，中央網信辦印發《關于切實加強網絡暴力治理的通知》，要求網站平臺建立網暴預警、保護、防擴散等治理機制。今年3月6日，抖音、快手、微博、小紅書、B站、豆瓣、知乎等平臺，集中發布了防網暴指南。

盡管各個平臺一直在完善機制、整治網暴，但從結果來看，網暴事件依舊層出不窮。尋親被生母拉黑的劉學州、曬和爺爺合照的“粉發女孩”鄭靈華、開拖拉機自駕到西藏的旅行博主管管，都在遭遇大規模的網絡攻擊后離世。

據中國互聯網絡信息中心統計，截至2022年12月，我國網民規模達10.67億，普及率達75.6%。

在這個人人皆可發聲的時代，居于網絡輿論場中心的社交平臺，在防網暴方面做到了哪一步？在不斷整治后，為什么網暴依舊反復出現？面對網絡暴力，平臺為何無法“保你平安”？

01 “微博上拉黑了800多個人”

“產品早期引入的都是和平臺契合度較高的用戶，所以氛圍會更純凈，隨著用戶增長，必然會面臨多元化帶來的問題。”字節商業化部門的一位員工告訴《豹變》。

所謂的“多元化帶來的問題”，就是由于不同圈層的人匯聚在一起，評論越來越難控制。

豆瓣官方運營賬號會定期發送關于網暴治理的公告，3月13日發布的公告顯示，一萬多條信息被刪除，大多是網暴內容，還有一些賬號被階段性禁言以及永久封號。

小滿是微博的老用戶，由于追星積累了一批粉絲。她告訴《豹變》：“最初玩微博的時候，大家一起交流，氛圍很友好。這兩年明顯感受到‘沒素質’的人很多，我已經拉黑了800多人。”

除了用戶手動拉黑，現階段，平臺對于用戶的保護做到了什么程度？

首先是舉報和投訴功能。《豹變》測試了微博、B站、抖音、小紅書、快手、豆瓣、知乎等主流社區APP，評論區都可以“舉報”或“投訴”，并且都需要用戶選擇違規類型，測試結果如下圖。

平臺也提供了“一鍵防網暴”功能，用戶可以選擇在一段時間內屏蔽陌生人私信、評論，達到防止網暴的目的。

各個平臺“一鍵防網暴”的持續時間不太一樣，微博、知乎、小紅書最多可設置7天，豆瓣最多14天，抖音最多30天，快手沒有時長限制。

不過，平臺的“一鍵防網暴”入口比較隱蔽，用戶很難“一鍵”防護。比如，抖音進入“我”頁面后，點擊右上角“三道杠”圖標，選擇“更多功能”，找到抖音小安，進入界面后才能設置“一鍵防護”。

那么，在用戶發布內容之前，平臺是否有機會阻止網暴內容的出現？

2019 年，社交平臺 Instagram 推出了一個防網暴的功能，通過AI檢測用戶發布的內容，如果內容在發布前被判定為帶有攻擊性，會對用戶進行警告，提醒其三思而后行。

不過，這些看似完善的防網暴機制，發揮的作用并不大。2020年的一次網絡暴力全球調查顯示，騷擾攻擊在Instagram上的比例依舊高達23%

“粉發女孩”鄭靈華經歷了網暴、照片視頻被營銷號盜用、污名化之后，生前一直沒有停止維權，她還在社交平臺上記錄了自己的維權過程。在第一次維權記錄中，她表示自己向抖音官方人工電聯+郵件舉報投訴，但是“抖音只有到達億萬粉絲才能禁止他人下載原創作品”。

在后續的維權記錄中，她也提到，“抖音和百家號始終舉報投訴無果”。

據了解，目前大部分平臺主要有系統審核和人工審核兩種方式。在抖音審核崗工作的蘇珍告訴《豹變》：“系統的核查比例大約80%，比如觸發了一些關鍵詞，機器就可以識別出來，剩下一部分系統不能確定的，就交給人工復審。”

李敏曾經在今日頭條負責審核優質內容，她表示，文章內容的審核大部分都是走系統審核，但觸碰到一些關鍵詞，以及賬號量級比較大的時候，會進入到人工審核流程。

“實際上審核本身就是一個機械的工作，很多事情都慢慢交給算法、AI，并且會逐漸優化取代人工。”李敏告訴《豹變》，大概在2022年初，她這個崗位就被AI取代了。

然而，對于人工智能目前的發展水平而言，判斷“網暴內容”的準確性還不夠高。

蘇珍表示：“一些擬聲詞、新生的侮辱性言論的代替詞語、字母縮寫等內容，人工智能還不能辨識。再就是‘陰陽怪氣’的發言，系統根本聽不懂。” 

曾經在網易直播CCtalk工作過的阿哲表示，即使是在審核崗位實習，上崗之前也要培訓好幾天。“會有專門的人講PPT，通過案例說明哪些要做違禁處罰，以及如何根據違規程度來判定處罰的程度，還有價值觀和道德觀的培訓。”

蘇珍還記得，在面試時她被問到“對某個新聞事件怎么看”，入職前做了心理素質測試、人格測試、壓力測試，經過入職培訓，通過考試才能上崗。

正如阿哲所說：“說到底還是要根據審核員本人的判斷。”

02 管理“小黑屋”的人，也身處小黑屋

“沒違規的一舉報一個準，違規的反而不管。”“我評論沒一個臟字結果被舉報，別人臟話連篇問候全家我舉報沒一個成功的，審核人員在干什么？”在某平臺的官方帖子下面，時常可以看到類似的用戶評論。

從用戶角度來看，社區氛圍似乎取決于“審核員”是否有所作為，事實果真如此嗎？

在上海閔行區銀山路科技園的字節大樓里，和其他部門敞亮高級的工區不同，審核部門的工區總是燈光昏暗，員工們面無表情地盯著一塊塊電腦屏幕。

審核員的工作，看似擁有“一鍵拉黑”的權利，但這些管理小黑屋的人，自己也身處于小黑屋之中。

《哈佛商業評論》的一篇文章中提到，審核員就像在扮演民俗中的“食罪者”角色：這種歷史儀式的要旨是窮人在精神上承擔死者的罪孽，往往通過吃掉擺放在尸體上的面包來換取金錢。

據蘇珍介紹，大廠審核員主要分為三種：正式員工、外包員工和兼職。蘇珍是字節的正式員工，在審核崗每個月能拿到1萬到1萬2左右的工資，但是除去一個月四五千的房租，剩下的錢僅夠生活。

外包員工一般在三四線城市，據她了解，工資大約是四五千塊錢，兼職員工則多勞多得。

“剛入職的時候，一切都聊得很好，工作時間也都很正常。但正式工作兩周左右，就會排班次。我們是三班倒，白班朝九晚五，晚班從下午三點到凌晨兩點，大夜班從十二點鐘到早上七點。每個人每天都有KPI，我當時是一天審核200條視頻，外加幾千到一萬條評論。”

長時間坐著加上熬夜，讓蘇珍的身體狀況很差。她告訴《豹變》：“入職幾個月就胖了十多斤，臉上瘋狂長痘，每天處于壓抑當中，經常半夜就會哭醒。”

這種痛苦更多來源于審核工作對于精神的摧殘。蘇珍表示：“大概做三天，就能明顯感受到生理和心理的強烈不適。每天看的全都是極其負能量的東西，那些色情、暴力、血腥的視頻要看，評論里無緣無故辱罵、攻擊他人的言語都要審。”

“最讓我覺得痛苦的是，過去二十幾年，我們生活在一個相對安全、善良的現實環境里，干了審核員之后，我發現，網絡上竟然會有那么多的惡意。現在我會覺得壞人就藏在身邊，很多人可能生活中是善良的，他會去照顧小孩、捐款，但是不耽誤他在網絡上辱罵他人。”

蘇珍表示，網暴的比例在視頻里大概能占到百分之十幾，在評論里非常多，大概占到百分之六七十。

她說：“干過審核員之后，完全可以理解那些因為網暴而自殺的受害者們的心態，因為這些謾罵絕對超出了一個人可以承受的極限，甚至網友看到的都是審核之后放出來的一小部分。那些沒放出來的污言穢語可能是大家看到的幾十倍，并且這是一個持續性的攻擊。”

另外，除了工作本身，在每天接收負能量的同時，蘇珍還需要完成周報。“心理狀態都這么差了，周報里卻不能抱怨，只能寫自己有多熱愛這份工作。每天工作內容都一樣，卻還要寫工作計劃。”

蘇珍表示，這種工作狀態下精力確實是不夠的，她也承認有時候免不了會消極怠工，這也是用戶抱怨“審核人員不管用”的部分原因。

另外，除了這些精神和心理上的巨大壓力，由于審核崗位工資低、沒什么晉升空間，這個崗位的平均生命周期只有三到六個月。“很像小作坊里流水線上的女工，沒有任何未來。”蘇珍感嘆道。

然而，隨著網民數量的增長以及各個平臺對于活躍用戶的增長需求，需要的審核員也越來越多。蘇珍表示，越來越多的審核工作都被外包出去，因為這樣能給公司省下一大筆資金。

但這似乎形成了一種惡性循環，審核人員的心理、生理狀況由于大量的消極內容受到影響，導致消極怠工、人員流動大，而更多的用戶加入讓互聯網環境更為復雜，審核需求量更大，但外包出去審核人員的待遇卻又在下降。

在這種情況下，“把施暴者關進小黑屋就能阻止網暴”似乎成了一個偽命題。

蘇珍認為，以幾萬個審核員的力量去審核上億網民發出的內容是有限的。從平臺角度來看，不僅要加大處罰力度、提高評論門檻，完善防護功能，人工智能需要繼續學習，而審核人員的現狀也需要被看到。

03 為什么平臺阻止不了網暴？

中國政法大學教授羅翔老師曾在文章中提到“群體極化”現象，這也是互聯網時代網暴滋生的深層原因：

“網絡世界中，我們的情緒極容易就被極端意見挑動，也越來越傾向對他者進行非黑即白的評判；而這種情緒和判斷，又會像利刃一樣刺向身處輿論漩渦的個人。”

豆瓣用戶王然告訴《豹變》，自己曾在豆瓣上寫過一篇有關性別議題的影評，沒想到引來很多用戶在評論區對罵。“由于觀點不同，兩個用戶能在評論區對罵50多條。有的用戶在評論區發幾百字來反對你的觀點，有人甚至沒看完文章就直接侮辱你。”

2021年8月，《科學進展》雜志發布了耶魯大學的一項研究，研究人員通過對推特用戶的長期跟蹤，發現社交媒體的激勵機制正在促進憤怒的表達。

這就是所謂的“引流”，即通過各種方法吸引流量，而最直接的方法就是發布能夠引發討論的內容，平臺的算法會根據瀏覽量、點贊量、評論量等數據進一步“推薦”該內容。

正如王然表示，盡管她文章下面評論區和轉發里的不友好言論非常多，但這也是她所有文章里熱度最高的一篇，有600多條評論，將近2000個點贊和300多收藏，并且熱度持續了好幾周，甚至一年之后還有人留言。

2020年，導演畢志飛也曾在微博曬出截圖，“大量三觀不正、努力拉開話題轉移注意力的留言”給他的微博帶來2.1億閱讀量，廣告收益約3萬元。

實際上，當前的社交、視頻、信息平臺都是以廣告收入作為主要的商業模式，日活躍用戶、月活躍用戶是各個平臺進一步商業化的基礎。所以，對平臺而言，流量與用戶都是獲取利益的工具，這導致平臺上的內容大多以流量為導向。

也就是說，社交平臺上的情緒與爭議，歸根到底都是流量與利益。

根據上文審核工作人員提到的網暴內容比例，如果對有網暴行為的賬號完全禁言，那么平臺的用戶留存可想而知。

另一方面，在網友們已經習慣了隨意表達的網絡環境后，過度限制發言必然會引起不滿。

最典型的例子是豆瓣，王然最近發現，自己備受爭議的那條影評下面的不友好言論已經消失了，評論里的很多賬號被注銷，一些評論內容也看不到了。

由于審核時間過長，另一位豆瓣用戶小木最近每發布一條動態，都會記錄下審核的時間，短則兩小時，長則一兩天。還有用戶表示，自己的豆瓣賬號因為違規，到現在評論功能都是被折疊的。

然而，大部分平臺并不會因為某個賬號“犯一次錯”就將其永久關進小黑屋。

《豹變》發現，各平臺只是確定了“違規會處罰”，但如何處罰并沒有詳細說明，通常使用的表述是“將視情況對違規內容或賬號采取以下處置”，以及“如果違反公約，平臺有權對用戶的賬號進行封禁、禁言處罰或暫停賬號部分或全部服務”。

也有平臺使用了信用分的方式來管理用戶，比如微博、知乎。

根據微博社區公約的細則，用戶初始信用分為120分，可以通過在線答題等方式加分。在扣分方面，發生網暴行為，一般扣3到5分，信用歷史分低于0分，用戶賬號會被禁言。計算下來，一個信用分滿分的微博賬號，發生大約40次網暴行為才會被封號。

蘇珍也告訴《豹變》：“一個抖音賬號發布違規信息會給兩次機會，第三次一般會把這個賬號封禁7到15天，如果這種情況出現兩次以上，也就是到第三次的時候，就會觸發危險警報，這時候大概率會封號。”這是否意味著，一個抖音賬號或許可以擁有9次違規的“機會”。

從平臺角度看，如何平衡商業利益和用戶體驗一直是個難題，但保證用戶安全卻是最基本的問題。也許，面對網暴，稍顯“無能為力”的平臺，仍然需要承擔起更多的責任。

（應受訪者要求，文中人物均為化名）