界面新聞記者 | 肖芳

界面新聞編輯 | 文姝琪

在平臺內容生態治理上，字節跳動變得越來越開放。

去年11月，農夫山泉創始人鐘睒睒指責抖音和今日頭條隨意使用平臺手中的權力，進行謠言傳播，并要求兩個平臺立即撤除對其的個人名譽權的侵害的言論、圖片。

雖然字節跳動一直未對鐘睒睒的指責進行正面回應，但一系列改變卻在此事件之后相繼發生。從去年12月開始，抖音集團副總裁李亮開始在微博活躍，每天回應和解釋各種和平臺治理相關的信息。

近日，今日頭條首次舉辦“平臺治理開放日”，公開了目前對虛假謠言的治理舉措。今日頭條生態治理運營的負責人韓雨桐透露，謠言治理已經是今日頭條平臺治理最重要的工作之一，平臺也投入了非常多的資源和精力。

據其介紹，目前今日頭條在謠言治理上著重建設了三個方面的能力，包括謠言庫、權威信源庫以及專業審核團隊。

其中，謠言庫把今日頭條站內外的已知虛假信息及突發熱點事件的相關謠言錄入庫中，并在后續的新增發文環節進行攔截；權威信源庫是把權威媒體發布的內容作為核心信源，輔助判斷一些沒有信源采集能力賬號的新發布的內容是否真實可信；審核團隊招募了大量具有時政、社會、醫療、財經背景的專業人員，對相關信息進行人工判斷。

今日頭條公布的數據顯示，2024年攔截不實信息超500萬條。但從用戶反饋來看，很多人和鐘睒睒有相似的感受，他們并沒有感知到平臺在打擊謠言上的努力，反而感受到了大量謠言、低質量信息帶來的困擾。

這在一定程度上反映了當下內容平臺在生態治理上的困境。

生成式AI讓網絡謠言治理變得更難

2022年11月，OpenAI剛剛開始發布ChatGPT時，業界和學界對生成式AI給內容行業帶來的生產效率提升充滿了期待。但現實并沒有朝著很多人預期的美好方向發展，反而出現了更大的麻煩。

生成式AI讓創作成本變得更低，卻也生產了大量不實信息。一方面，網絡上本身就存在很多謠言，但生成式AI在搜索引用信息的過程中，并不能準確分辨謠言，導致了虛假信息被反復使用；另一方面，大模型的幻覺問題導致其在創作過程中憑空生成了很多不實信息，夾雜在真實的信息中讓人更加無法分辨。界面新聞對多款大模型進行測試發現，即使是DeepSeek，也會生成很多無中生有的信息，如果不經核實發布，很容易導致謠言的傳播。

清華大學新聞與傳播學院教授陸洪磊也注意到了相關問題。在今日頭條“平臺治理開放日”活動上，他展示了多條AI生成的新聞，在坐的觀眾很難分辨真假，但其實都是假新聞。

在陸洪磊看來，在AI技術的加持下，網絡謠言已經出現了一些新特征。在空間上，AI謠言可以做到分平臺、分渠道、分時段，而且是分媒介的定制化的生成和發布，跨平臺影響力更大；在速度上，AI謠言由于其低廉的成本，可以做到短時間內的成倍率的傳播，辟謠難度大大增加；在結構上，AI謠言本身就自帶自我學習和自我強化的特性會加劇AI幻覺，令謠言本身更加顯得無懈可擊。

這些新的特征帶來的結果就是，謠言模糊程度越來越低，越來越清晰，顯得非常逼真。比如，今年1月西藏日喀則市定日縣發生地震之后，一張“被壓在廢墟下的小男孩”圖片在網絡上引發了病毒式傳播，讓很多網友揪心落淚。實際上，這張圖片是由AI生成，其不僅混淆公眾視線，更無情地消費了公眾的情感。

韓雨桐在接受媒體采訪時明確表示，虛假謠言、低質AI內容等，破壞了平臺生態，也不利于創作公平。

面對快速發展的生成式AI，她表示，平臺在鼓勵用戶使用AI提效的基礎上，保護原創空間，迅速升級、迭代AI模型的識別能力，收嚴AI內容的審核力度。

在北京師范大學法學院院長梁迎修看來，AI虛假謠言加快了謠言的傳播速度，也增加了平臺的治理難度。平臺可以利用AI技術作為新工具，在謠言內容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。

提高公眾的網絡信息素養變得越來越重要

在鐘睒睒公開喊話之后，信息流算法再次引發爭議。爭議背后，是當下信息傳播高度依賴算法，算法推薦哪些內容確實直接影響著公眾認知。因此，很多人認為是算法帶來的謠言、網暴等低質內容泛濫的問題。

實際上，一味指責算法帶來的問題而忽視其積極影響也有失偏頗。雖然算法帶來了種種問題，算法提升了信息分發效率，素人擁有了更多被別人看到的可能，信息流動性高也同時對生產產生了促進作用。

在這種情況下，學界和平臺都認為，在積極治理謠言等低質信息的同時，提高公眾的網絡信息素養變得越來越重要。在很長一段時間中，網絡謠言并不能完全消除，但提高公眾的網絡信息素有助于普通個體分辨謠言，降低謠言的傳播力度和其帶來的損失。

在梁迎修看來，面對各種各樣的謠言變體，提高公眾的辨別力是一個非常有效的渠道，平臺可以通過自身影響力為公眾提供一些教育培訓。

目前，微信公眾平臺、今日頭條等平臺均對此有了一些探索。其中，微信公眾平臺建立了“謠言過濾器” 官方辟謠賬號，與人民網、果殼網、丁香園等各方合作，在內容運營、辟謠內容鑒定等方面聯手過濾微信平臺上的謠言，重點關注社會熱點類、科普類以及醫療健康類內容。

2023年以來，今日頭條推出了視頻內容《頭條講真的》，聯合醫學、財經、法律等領域專業創作者，為用戶進行辟謠、反詐宣傳。在內容傳播形式上，《頭條講真的》改變了過往辟謠、科普類內容嚴肅理性的風格，而是動畫演繹等更生動的形式觸達用戶，并與熊出沒、南京紅山動物園、我是小魔等知名IP、機構和優質創作者多元合作，為平臺治理工作拓展了新的思路。

除了這些措施之外，北京大學教授、北京大學中國社會與發展研究中心主任邱澤奇此前在接受界面新聞采訪時還表示，平臺可以針對有真假爭議的信息進行標記，對用戶盡到提醒義務。“我們在治理虛假信息過程中很重要的一點就是要讓平臺承擔提醒義務。”

據界面新聞了解，此前微博、微信公眾號等平臺試點過針對有事實爭議的內容對用戶進行提醒。今日頭條和抖音也在推進標注提醒的功能上線。

在處理謠言等低質信息的問題上，很多情況都是新出現的，平臺也沒有太多經驗可參考，只能不斷試錯。梁迎修表示，網絡謠言治理需要多方綜合施策，平臺也要與政府機構、媒體、公眾等加強協同。