在數(shù)字時代，互聯(lián)網(wǎng)平臺已深度融入經(jīng)濟社會發(fā)展與公眾日常生活，以短視頻、直播等形態(tài)蓬勃發(fā)展的內(nèi)容社區(qū)，成為串聯(lián)各行各業(yè)的重要紐帶。近日，快手發(fā)布2025社區(qū)治理報告。報告顯示，快手社區(qū)治理體系向縱深邁進，持續(xù)深化違規(guī)內(nèi)容治理與長效防控，運用多維策略守護用戶權(quán)益，強化重點用戶關(guān)懷與網(wǎng)絡(luò)安全保護實踐，構(gòu)建全維度電商生態(tài)治理體系，守護清朗有序的溫暖家園。

　　持續(xù)深化內(nèi)容治理 規(guī)范人工智能生成內(nèi)容傳播秩序

　　過去一年，快手聚焦擾亂傳播秩序、破壞網(wǎng)絡(luò)生態(tài)等違規(guī)內(nèi)容，堅持向下挖根、向前筑堤，推動社區(qū)治理從違規(guī)處置向規(guī)則完善延伸，將治理觸角穿透表層、觸及本質(zhì)。

　　報告披露，針對短視頻惡意營銷行業(yè)亂象，平臺專項治理累計處置違規(guī)視頻15.3萬條，處置違規(guī)賬號1.2萬個。針對以“低俗擦邊”“軟色情”等方式誘導(dǎo)打賞的違規(guī)行為，截至2025年11月，平臺累計處罰主播超3.74萬名，直播誘導(dǎo)打賞違規(guī)舉報率同比下降28%。此外，對于利用特定人群特點進行定向誘騙打賞的行為，平臺除封禁賬號外，還通過打賞資金前置預(yù)凍結(jié)、賬號特征挖掘與拓展布控等方式，將管控關(guān)口前移，遏制此類違規(guī)行為。

　　在團播向?qū)I(yè)化、優(yōu)質(zhì)化發(fā)展的過程中，部分主播為追逐流量頻頻出現(xiàn)擦邊試探行為。對此，平臺建立起覆蓋事前管控、事中識別、事后處置的立體化治理體系。報告顯示，整治網(wǎng)絡(luò)直播打賞亂象專項行動期間，平臺累計處置4600個低俗團播直播間。通過壓縮低俗團播的生存空間，讓團播的發(fā)展真正回歸內(nèi)容質(zhì)量本身。

　　人工智能的興起對平臺內(nèi)容治理提出了新要求。在AIGC管理方面，平臺上線了“人工智能生成合成內(nèi)容標(biāo)識”和用戶“主動聲明”功能，通過多種形式引導(dǎo)創(chuàng)作者準(zhǔn)確、規(guī)范標(biāo)注AI生成內(nèi)容，并開展濫用AI技術(shù)專項治理，持續(xù)凈化AI應(yīng)用生態(tài)。專項治理期間，平臺累計對104萬條視頻添加AI標(biāo)識，處置違規(guī)內(nèi)容8.9萬條，處置違規(guī)賬號2900余個。

　　當(dāng)前，短劇行業(yè)正迎來質(zhì)效雙升的關(guān)鍵期?？焓轴槍`規(guī)片名、違規(guī)內(nèi)容以及違規(guī)劇“換馬甲”傳播行為，持續(xù)開展專項治理。報告顯示，過去一年，平臺累計處置違規(guī)網(wǎng)絡(luò)微短劇2000余部、相關(guān)違規(guī)劇集片段等內(nèi)容600萬余條、賬號1000余個。此外，快手還陸續(xù)推出了“AI創(chuàng)想劇場計劃”、“星芒創(chuàng)想計劃”，推動網(wǎng)絡(luò)微短劇向精品化演進。

　　在內(nèi)容真實性方面，平臺從信息本身與傳播源頭同時入手，推動網(wǎng)絡(luò)謠言治理模式由事后處置向風(fēng)險前置、事中干預(yù)升級。重點治理AIGC造假與社會熱點謠言，開展假冒仿冒新聞媒體、冒充公眾人物等違規(guī)行為專項治理。此外，平臺持續(xù)打擊網(wǎng)絡(luò)暴力，通過建立評論區(qū)管控模型、優(yōu)化開盒風(fēng)險識別模型、建立熱點當(dāng)事人保護機制等舉措，提升網(wǎng)暴風(fēng)險識別與前置預(yù)防能力，致力于將風(fēng)險阻斷在傷害發(fā)生之前。

　　AI大模型賦能升級反詐治理體系，詐騙風(fēng)險阻斷率提升到98%

　　作為一家以普惠為底色、高互動、強參與的數(shù)字社區(qū)，快手通過多維策略，在反詐治理、打擊虛假等方面，全力為用戶權(quán)益保駕護航。報告顯示，2025年，快手使用自研反詐AI大模型開展線上引流詐騙識別攻防，顯著提升風(fēng)險感知治理能力，前置識別并攔截大量風(fēng)險信息，將詐騙風(fēng)險阻斷率提升到98%。

　　為對抗變化多端、花樣百出的詐騙信息和引流手段，平臺日均運行風(fēng)控反詐模型170個、反詐策略2500余個。全年開展AI外呼反詐提醒累計1670萬次，主動提醒潛在受害人1.66億人次，發(fā)送反詐提醒10.18億次，成功勸阻大量潛在受害用戶。主動向各地警方提供犯罪線索1.6萬余條，協(xié)助警方打擊犯罪嫌疑人960名，助力打擊網(wǎng)絡(luò)違法犯罪。

　　在持續(xù)強化技術(shù)反制手段的同時，快手還構(gòu)建“線上+線下”立體化反詐宣傳矩陣。在“全民反詐在行動”集中宣傳月期間，快手聯(lián)合多地警方走進校園開展反詐公益宣傳；同時，積極創(chuàng)新線上宣傳形式，如云南警方聯(lián)合山人樂隊、快手推出養(yǎng)老反詐版云南山歌《酒歌》，揭露各類養(yǎng)老騙局?？焓诌€聯(lián)合中國警察網(wǎng)、演員陳都靈、四平董叔、二龍湖浩哥等多方力量，推出警察與明星反詐小短劇，揭露冒充明星、冒充警察等針對未成年人的高發(fā)詐騙套路。通過持續(xù)豐富宣傳內(nèi)容與形式，全方位提升用戶反詐防騙意識，營造全民反詐的社區(qū)氛圍。

　　報告還提到，針對發(fā)布虛假信息等侵害用戶權(quán)益的違規(guī)行為，平臺開展多維打擊。平臺基于多維度頻控策略與識別策略，處罰直播間刷人氣用戶84萬個；針對涉企侵權(quán)內(nèi)容，通過專項治理、明確平臺規(guī)則、設(shè)立侵權(quán)投訴機制等方式，維護企業(yè)正常經(jīng)營秩序和良好網(wǎng)絡(luò)營商環(huán)境。報告顯示，平臺下架涉企侵權(quán)視頻7.5萬余個。

　　此外，平臺持續(xù)加強顯性和隱性AI水印識別檢測、人臉深度偽造技術(shù)研究，體系化提升治理水平。截至2025年11月，平臺累計攔截、清理涉濫用AI技術(shù)仿冒名人的違規(guī)視頻內(nèi)容10萬余條，有力打擊了此類誤導(dǎo)公眾的違規(guī)行為。

　　強化重點用戶關(guān)懷保護 共筑科技向善的同行方舟

　　在不斷優(yōu)化治理效能的同時，快手開展多元化網(wǎng)絡(luò)安全保護與人文關(guān)懷實踐，致力于在紛繁復(fù)雜的網(wǎng)絡(luò)空間中激發(fā)善意、傳遞溫暖。

　　快手始終將未成年人保護視為平臺治理工作的重中之重，持續(xù)為未成年人打造安全、健康的網(wǎng)絡(luò)環(huán)境。報告顯示，快手積極推進未成年人模式體系建設(shè)，與多家手機廠商聯(lián)動開發(fā)未成年人模式一鍵啟動功能，并新增涵蓋語言學(xué)習(xí)、教育、科學(xué)等領(lǐng)域的主題專區(qū)及語音文字搜索等新功能，以更優(yōu)質(zhì)、豐富的內(nèi)容提升未成年人使用體驗。

　　去年暑期，平臺開展了未成年人網(wǎng)絡(luò)環(huán)境整治專項行動，針對危害未成年人健康成長的網(wǎng)絡(luò)違規(guī)行為開展全面整治。專項行動期間，累計處置違規(guī)內(nèi)容19.1萬條、處置賬號2.7萬個、解散群聊2270余個，下架違規(guī)商品1290余個。此外，針對“開盒”等新型網(wǎng)絡(luò)暴力，平臺細化風(fēng)險識別場景，上線細分識別模型，推出“群聊彈窗提示”，并新增“發(fā)布開盒信息”舉報標(biāo)簽，有效提升了風(fēng)險發(fā)現(xiàn)與違規(guī)處置效率，強化了群聊場景的風(fēng)險阻斷能力。

　　在守護未成年人成長方面，去年9月，由共青團中央宣傳部指導(dǎo)，快手作為戰(zhàn)略合作單位，發(fā)起了青少年健康用網(wǎng)公益行動。幾個月來，公益行動走進六省十地校園與社區(qū)，邀請家庭教育、網(wǎng)絡(luò)安全、AI等領(lǐng)域的專家學(xué)者，以及法官、檢察官、民警、思政課老師和快手創(chuàng)作者，圍繞隔空猥褻、網(wǎng)絡(luò)詐騙、AI使用風(fēng)險、親子關(guān)系培養(yǎng)等角度開展科普，推動青少年網(wǎng)絡(luò)安全宣傳教育深入基層、貼近生活，助力未成年人安全上網(wǎng)。

　　報告還提到，平臺持續(xù)迭代升級自殺干預(yù)預(yù)警系統(tǒng)，依托大模型的意圖洞察與風(fēng)險定位能力，預(yù)警系統(tǒng)可在海量直播中自動鎖定高危風(fēng)險信息，并聯(lián)動預(yù)警機制直通平臺自殺干預(yù)救助小組。大模型自動生成風(fēng)險摘要與關(guān)鍵信息鏈?zhǔn)寡信行侍嵘?0%，核實時間成本縮減至分鐘級，實現(xiàn)“風(fēng)險信號及時干預(yù)、救助聯(lián)動分鐘級響應(yīng)”，當(dāng)好用戶生命安全的“守門人”。

　　AI大模型落地 構(gòu)建全維度電商生態(tài)治理體系

　　隨著直播電商進入高質(zhì)量發(fā)展新階段，行業(yè)正由“規(guī)模擴張”轉(zhuǎn)向“質(zhì)量深耕”。報告顯示，2025年，快手電商以AI大模型為核心，構(gòu)建全維度電商生態(tài)治理體系，針對虛假宣傳、不正當(dāng)營銷、假貨等行業(yè)亂象開展專項治理，推動生態(tài)健康可持續(xù)發(fā)展。

　　針對長期困擾電商行業(yè)的虛假宣傳、劇本炒作等頑疾，快手電商在2025年實現(xiàn)了從人工審核向AI大模型治理的轉(zhuǎn)變。平臺通過AI模型算法對高風(fēng)險商品進行全量回掃，整體風(fēng)險漏放率已降至0.1%，虛假宣傳舉報率降幅達35%。

　　特別是在治理劇本炒作和虛假人設(shè)方面，平臺構(gòu)建了全鏈條治理體系。例如，系統(tǒng)可實時識別直播間演繹家庭矛盾誘導(dǎo)下單的行為，并自動觸發(fā)彈窗預(yù)警、直播遮罩乃至斷播處罰。2025年，此類炒作賣貨舉報率同比降低了61%。

　　此外，針對短視頻領(lǐng)域AI仿冒名人明星、虛假人設(shè)情感綁架等新型虛假違規(guī)行為，平臺屏蔽相關(guān)電商類短視頻5000多條，封禁清退商家700余人次。

　　在商品質(zhì)量與知識產(chǎn)權(quán)保護方面，AI技術(shù)同樣發(fā)揮了核心作用。快手電商2025年實現(xiàn)抽檢機制的全面自動化。目前，所有品類均可實現(xiàn)問題商品自動識別與自動派單，大幅降低了人為干預(yù)風(fēng)險。

　　報告顯示，2025年快手電商升級假貨識別模型，全年識別攔截風(fēng)險商品190萬件，處置假貨商品3萬余件，打擊治理相關(guān)風(fēng)險商家1.58萬個。在禁售商品治理上，極端風(fēng)險商品日均攔截能力提升至3萬件以上；借助多模態(tài)大模型，高風(fēng)險類目錯放漏放率降至0.47%。同時，平臺對接國家版本館等權(quán)威數(shù)據(jù)庫，下架超40萬不合規(guī)圖書商品。