郑子龙介绍，平台(tai)建立了内容与账号双重管控机制进行AIGC治理。在内容层(ceng)面，通过敏捷监控、聚类发文及用户复评等方式，持续挖(wa)掘低质AI内容特征，迭代管控标准，并反(fan)哺模(mo)型训练进而提升识(shi)别能力；在账号层(ceng)面，对持续发布低质内容的作者实施流量打压乃至禁言处罚，同时通过发布治理公告，引导、教育创作者自觉抵制低质AI内容，提升内容创作质量。

不实信息的传(chuan)播不仅(jin)损害公众知(zhi)情权，更危害着健康和谐的网络生态。郑子龙表示，在网络虚假谣(yao)言治理方面，平台(tai)搭建了全链路处置体系，依托权威信源(yuan)比对、大模(mo)型识(shi)别能力，能实现1小时内存量谣(yao)言回扫清理，全年清理虚假内容700余万条，处置违(wei)规账号3.3万个。

收到作品审核结果通知(zhi)、投诉侵权内容、举(ju)报不友善(shan)评论……这些都属于今日(ri)头条安全运营负责(ze)人闫梦茹所带领(ling)团(tuan)队的工作范畴。据她介绍，反(fan)诈、网暴、水(shui)军三(san)大领(ling)域是平台(tai)安全团(tuan)队的打击重点(dian)。在反(fan)诈治理上，平台(tai)构建注册登录、行为特征、内容识(shi)别、团(tuan)伙打击四维全链路体系，2025全年处置涉诈内容135万余条、封禁涉诈账号约18万个，推送风险提醒300余万次。

加大打击力度的同时，平台(tai)也在不断改进科普传(chuan)播形式。“我们努力用更‘接(jie)地气’的动画短片、条漫，甚至是真人短剧形式，把复杂的诈骗套路讲清楚，让用户理解什么(me)情形可能是骗局，提升防范意识(shi)。”闫梦茹说(shuo)。

中国政法大学网络法学研究所所长李怀胜在会上提出(chu)，提高公众参与度是反(fan)诈的重要一环。“报告数(shu)据显示，一方面，平台(tai)向用户发送了300余万次高危风险提醒，另一方面，部分用户对反(fan)诈提示存在抵触情绪。这两组数(shu)据进一步(bu)说(shuo)明，没有公众的主动参与，再严密的技术防线、再完善(shan)的法律制度都可能被突(tu)破。”

中国政法大学网络法学研究所所长李怀胜发言。图源(yuan)主办方

近(jin)年来，网络暴力与体育“饭圈”乱象(xiang)愈(yu)演愈(yu)烈。去年，中央网信办曾多次发文，开(kai)展相关行动整治拉踩引战、互撕谩骂等体育饭圈不良行为。闫梦茹介绍，为此(ci)，平台(tai)建立内起内容与账号双线治理机制，精准识(shi)别辱骂攻击、拉踩引战内容，分级处置违(wei)规账号，主动为用户开(kai)启防护功能。全年处置违(wei)规评论 3.6亿余条，为70余万个账号启用“一键防网暴”功能。

“网络水(shui)军一直是平台(tai)生态的顽疾。不法分子通过抹(mo)黑品牌、个人，发布不实信息，极大地损害创作者以(yi)及用户体验。”她提到，AIGC技术的发展使网络水(shui)军行为变得更难管控。平台(tai)对其团(tuan)伙化行为特征进行总结、实施阶梯式处罚，全年封禁账号13.9万个，同时通过向公众揭露水(shui)军“套路”，实现合力共治。

采写：南都N视(shi)频记者 樊文扬