通過持續迭代模型、增強系統對低質AI內容的識別能力；輔以加強人工審核、上線“AI創作內容”標簽、發布違規治理公告等舉措，平台全年共對超過93萬條低質AI內容進行了識別和管控，對近3萬個利用AI批量發布虛假低質內容或惡意抄襲、洗稿的賬號進行了處罰。
通過完善謠言庫、權威信源庫，組建醫療、財經、體育等專業領域的人工審核團隊，今日頭條去年共攔截不實信息超500萬條，處罰涉及造謠的賬號超4.7萬個。
現有治理手段外，各平台還在探索“用AI治理AI”。
目前，今日頭條已將AI模型引入識別AI生成虛假信息的流程。“我們將‘一眼假’的內容交給AI模型快速解決攔截，模型無法解決的複雜問題則交由專業審核人員判斷。”平台相關負責人告訴記者。
為何AI能夠更加快速高效地識別虛假信息？負責人解釋，關鍵在於生成式AI大模型能夠通過學習發文風格，更精準地鎖定虛假內容。
比如體育娛樂類內容，權威信源較少，容易出現錯判；治理人員通過分析海量數據，發現這一領域的虛假內容往往伴隨著誇張的文風和用詞。因此，平台在虛假信息檢索鏈路中引入“AI模型學習虛假內容寫作風格”機制。這一做法顯著提升了虛假謠言的攔截量級和攔截效率，用戶滿意度也提高了。
未來，大模型能力不斷升級，“揚長避短”最大化AI效能的探索也將進一步深入。
北京師範大學法學院院長梁迎修認為，借助AI的生成能力，未來網絡平台還可以根據目標受眾的認知偏好和背景信息，生成個性化的辟謠信息，幫助內容市場“莊稼代替雜草”“良幣驅逐劣幣”。 |
