記者6月13日獲悉，虛假內容、虛假人設、低質AIGC內容等將成為小紅書進一步打擊的重點違規內容，2025年上半年，該平臺處置虛假筆記320萬篇，處置虛假人設賬號1萬個，處置虛假低質AIGC筆記60萬篇。據了解，平臺還計劃引入更多用戶參與網絡社區共治。

您是否在互聯網上刷到這樣的博主——“霸總創業三年成功買下8000平辦公樓”；您又是否刷到過——“一位鮮少露面的老牌知名藝人在視頻中推薦三無化妝品”，小紅書虛假內容治理負責人蒂法介紹，網友看到的這些內容可能涉及人設造假，以及AIGC“換臉”。當前，虛假不實內容、虛假人設和AIGC造假是社區打擊的三個重點方向。

然而網絡上每天都有數以萬計的新內容發布，平臺該如何有效率地審核及判斷這些內容？據介紹，在虛假不實內容方面，平臺已上線內容信息量模型、筆記摘要提取模型、AIGC謠言診斷模型等15個識別大模型，并建立了真實信源庫和謠言庫，能夠實現了對虛假內容的實時攔截和批量回掃。當前，大模型已廣泛應用到互聯網社區的內容審核中。

此外，在虛假低質AIGC內容方面，平臺也加大了對AIGC識別模型的研發投入，目前，平臺對AIGC生成內容做主動標識工作，提升信息透明度。

除了技術的力量外，平臺還將優化舉報機制，鼓勵用戶參與共治。據介紹，網友可通過平臺監管網站、APP客戶端舉報、舉報熱線和舉報郵箱四種途徑參與共治。

人民大學傳播學教授董晨宇表示，應對當前互聯網虛假內容快速增長與傳播，需要各平臺積極打擊，更多全社會共同參與。“虛假內容無法完全被消滅，但可以通過科普、舉報、公眾傳播學素養的提升，將虛假控制在較低的水平線。”董晨宇說。

來源：北京日報客戶端

記者：鹿楊

如遇作品內容、版權等問題，請在相關文章刊發之日起30日內與本網聯系。版權侵權聯系電話：010-85202353