欧美在线日韩-欧美在线区-欧美在线看欧美视频免费网站-欧美在线精品一区二区在线观看-www..com黄-vr专区日韩精品中文字幕

《法治周末》記者 仇飛

小紅書2025年上半年社區(qū)虛假內(nèi)容治理成果。

6月12日，小紅書在北京舉辦“打擊虛假”治理開放日。開放日上，公布了2025年上半年社區(qū)虛假內(nèi)容治理成果：通過建設(shè)虛假內(nèi)容全鏈路治理體系，共處置虛假筆記320萬篇，處置虛假人設(shè)賬號1萬個，處置虛假低質(zhì)AIGC（人工智能生成內(nèi)容）筆記60萬篇；通過持續(xù)建設(shè)“同質(zhì)化識別”能力，全面提升處置手段，升級機(jī)器對抗，共封禁批量造假黑灰產(chǎn)賬號超1000萬個。

在持續(xù)主動治理之外，小紅書也積極鼓勵用戶參與共治。在6月11日的中國網(wǎng)絡(luò)文明大會上，小紅書副總裁、總編輯許磊介紹，小紅書持續(xù)優(yōu)化舉報機(jī)制，今年上半年，虛假信息的平均審核時長同比降低25%；接下來，還將通過改進(jìn)產(chǎn)品等措施，吸引更多用戶參與到虛假內(nèi)容的共治中。

“虛假和打假之間注定一直是一種動態(tài)制衡。在這場持久戰(zhàn)中，如果真實(shí)想要穩(wěn)居上風(fēng)，公眾媒介素養(yǎng)的提升是關(guān)鍵?！眳⑴c開放日的中國人民大學(xué)新聞學(xué)院傳播學(xué)副教授董晨宇表示，應(yīng)對當(dāng)前互聯(lián)網(wǎng)虛假內(nèi)容快速增長與傳播需要“立體式”的行動，其中不僅包括平臺的努力，更包括全社會的共同參與。

高效打假、精準(zhǔn)鑒假，320萬虛假筆記被處置

“‘鋼鐵保姆’機(jī)器人引發(fā)市民搶購？假資訊！霸總創(chuàng)業(yè)三年成功買下8000平辦公樓？假人設(shè)！知名藝人在視頻中推薦‘三無’化妝品？AIGC造假！”小紅書虛假內(nèi)容治理負(fù)責(zé)人蒂法介紹，虛假不實(shí)內(nèi)容、虛假人設(shè)和AIGC造假是當(dāng)前社區(qū)打擊“虛假”的三個重點(diǎn)。

在虛假不實(shí)內(nèi)容治理方面，小紅書建構(gòu)了“前置攔截、事中追蹤、分析回掃”的“前中后”全鏈路治理體系；上線了內(nèi)容信息量模型，筆記摘要提取模型，AIGC謠言診斷模型等15個識別大模型，并建立了真實(shí)信源庫和謠言庫，實(shí)現(xiàn)了對虛假內(nèi)容的實(shí)時攔截和批量回掃，今年上半年間共處置虛假筆記320萬篇。

在虛假人設(shè)治理方面，小紅書設(shè)置了內(nèi)容前置審核制度，采用了賬號關(guān)系挖掘分析策略，并上線多個圖像及視頻識別模型，通過綜合筆記內(nèi)容和賬號信息進(jìn)行分析判斷，對虛假人設(shè)進(jìn)行精準(zhǔn)打擊，半年共處置虛假人設(shè)賬號1萬個。

在AIGC技術(shù)爆發(fā)式發(fā)展的當(dāng)下，虛假低質(zhì)AIGC內(nèi)容也成為治理的重中之重。小紅書不斷加大對AIGC識別模型的研發(fā)投入，進(jìn)一步提高識別精準(zhǔn)度，減少虛假低質(zhì)AIGC內(nèi)容的曝光。同時，平臺對AIGC生成內(nèi)容做主動標(biāo)識工作，提升信息透明度。半年內(nèi)，共處置治理虛假低質(zhì)AIGC筆記60萬篇。

“虛假是社區(qū)的癌細(xì)胞，決不能放任其發(fā)展危害健康生態(tài)。”蒂法表示，小紅書將打擊“虛假” 作為長期治理重點(diǎn)，持續(xù)投入人力和技術(shù)力量，不斷提升治理效果。

封禁超1000萬，黑灰產(chǎn)賬號迎來最嚴(yán)治理

開放日上，小紅書黑灰產(chǎn)賬號治理負(fù)責(zé)人必行用一組治理成果數(shù)據(jù)展示了社區(qū)對黑灰產(chǎn)賬號堅(jiān)定打擊的態(tài)度：2024年11月中，小紅書黑灰產(chǎn)賬號治理專項(xiàng)開啟；專項(xiàng)開展1個月，封禁126萬個黑灰產(chǎn)賬號；開展3個月，封禁320萬個黑灰產(chǎn)賬號；開展7個月，封禁超1000萬個黑灰產(chǎn)賬號。

必行介紹，黑灰產(chǎn)組織批量制造黑灰產(chǎn)賬號，通過虛假、重復(fù)、低質(zhì)內(nèi)容騙取用戶流量；養(yǎng)號漲粉后，又會發(fā)布虛假、惡意營銷內(nèi)容，或銷售灰色商品，或提供灰色服務(wù)，甚至從事違法活動，從而實(shí)現(xiàn)不當(dāng)牟利。從建號到養(yǎng)號再到牟利，黑灰產(chǎn)賬號進(jìn)行全鏈路批量造假，對社區(qū)生態(tài)和秩序的危害十分巨大。

“因此我們開展了小紅書史上最嚴(yán)黑灰產(chǎn)賬號治理行動，對黑灰產(chǎn)堅(jiān)決打擊，絕不讓步半分?！北匦姓f，為了應(yīng)對黑灰產(chǎn)賬號的數(shù)量巨大、隱蔽深、變體快和對抗強(qiáng)等挑戰(zhàn)，治理團(tuán)隊(duì)從識別能力和處置能力兩方面重點(diǎn)做功。

在識別能力方面，小紅書上線50多個模型，建立了以“同質(zhì)化識別”為核心的風(fēng)控體系，將對黑灰產(chǎn)的識別召回率提升了72%。在處置能力方面，不斷優(yōu)化處置策略，極大提升黑灰產(chǎn)作惡成本；全面升級機(jī)器對抗，用機(jī)器判罰大規(guī)模代替人工判罰，大幅提高對黑灰產(chǎn)賬號的處置量級及時效性。

在線上治理的同時，小紅書案件調(diào)查團(tuán)隊(duì)還向多地警方和市場監(jiān)督部門積極提供線索，對黑灰產(chǎn)團(tuán)伙進(jìn)行線下打擊。目前，有7起案件在偵辦中。

持續(xù)優(yōu)化舉報機(jī)制，鼓勵用戶參與共治

小紅書審核培訓(xùn)師在開放日上給現(xiàn)場觀眾上了一節(jié)“打假”志愿者培訓(xùn)課，展示了近10個不同類型的造假案例，引發(fā)了觀眾的鑒假熱潮，大家踴躍發(fā)言，一起“來找茬”。 在場多位觀眾表示，會將學(xué)到的鑒假方法應(yīng)用到對虛假內(nèi)容的鑒別和舉報中。

在前一天的中國網(wǎng)絡(luò)文明大會上，許磊也介紹了小紅書較為完善的虛假信息舉報制度。小紅書開通監(jiān)管網(wǎng)站、APP客戶端舉報、舉報熱線和舉報郵箱四種途徑。在常態(tài)化轉(zhuǎn)發(fā)重要辟謠稿件的基礎(chǔ)上，搭建起辟謠專區(qū)，為用戶提供一站式辟謠信息服務(wù)；官方賬號“薯管家”每周定期發(fā)布辟謠筆記。

小紅書還持續(xù)優(yōu)化舉報機(jī)制，鼓勵用戶參與共治。許磊介紹，2025年上半年，小紅書虛假信息的平均審核時長同比降低25%。下半年，小紅書還將進(jìn)一步簡化用戶舉報流程，實(shí)現(xiàn)一個頁面、一次提交即完成舉報，讓更多用戶低成本、無門檻地參與到虛假信息的共治中來。

許磊表示，小紅書是“普通人創(chuàng)作內(nèi)容”的社區(qū)，“分享真實(shí)的內(nèi)容”和“真誠分享”不僅是平臺用戶自發(fā)形成的內(nèi)容創(chuàng)作準(zhǔn)則，也是小紅書的社區(qū)價值觀。因此，打擊虛假，提倡真實(shí)是小紅書的必然選擇。小紅書還設(shè)立了“真誠分”賬號體系，從分享動機(jī)、內(nèi)容質(zhì)量多方面判斷賬號是否真誠，從而對真誠的創(chuàng)作者給予流量傾斜，對虛假低質(zhì)的雜音噪聲進(jìn)行壓制。

開放日上，董晨宇從傳播學(xué)角度分享了虛假信息的傳播規(guī)律與應(yīng)對策略?！皯?yīng)對當(dāng)前互聯(lián)網(wǎng)虛假內(nèi)容快速增長與傳播，需要各平臺積極打擊，全社會共同參與。虛假內(nèi)容無法完全被消滅，但可以通過科普、舉報、公眾傳播學(xué)素養(yǎng)的提升，將虛假控制在較低的水平。”董晨宇說。