知乎升级治理算法功能“瓦力保镖” 不良信息处理能力提升260%

小仓优子

1月3日，知乎宣布社区治理算法功能“瓦力保镖”完成全面升级，进行治理覆盖率和识别准确度等方面的升级，实时拦截处理不良信息的能力提升260%，并新增对涉诈骗内容的主动识别和覆盖，推动平台涉诈骗内容的用户举报量下降95%。

　　“瓦力保镖”作为知乎7×24小时在线的社区治理保护功能，自2016年上线以来，保护创作者百万余人、拦截不良信息近千万条。通过对评论区和私信场景下阴阳怪气、不友善、引战、诈骗等违规内容，进行实时地识别和处理，“瓦力保镖”帮助社区有效减少和预防用户遭受言论攻击的风险，在社区治理策略和算法技术上保持着一定的独创性和行业领先。

　　2022年知乎发布了“生态第一”战略，其中为了构建良好的社区氛围，通过算法和规则的优化，强化社区治理成为重要手段。基于此，知乎对“瓦力保镖”进行持续升级，全面提升治理覆盖率和识别准确度。

　　升级后的“瓦力保镖”新增对欺诈内容的主动识别和覆盖，日均识别欺诈风险对话8000余次。对识别出的风险内容，系统将主动向收到信息的用户发布风险提示。在“瓦力保镖”的帮助下，知乎涉诈骗内容的用户举报量显著下降95%，有效地保障了用户的人身财产安全。

　　通过对“瓦力保镖”的算法策略进行优化和调整，知乎对阴阳怪气、引战等不友善内容的识别和处置能力大幅提升。升级后的瓦力保镖，对用户评论区和私信场景实现了有效覆盖，对不良信息的识别和处置，由日均处置4万条提升至日均处置14万条，实时拦截处理能力提升260%，持续提升用户体验。

　　截至2022年第三季度，知乎累计拥有5.79亿条内容，在社区治理层面，知乎不断强化机器学习算法和人工审核手段，先后开发了算法功能“瓦力保镖”、反作弊系统“悟空”等多个产品和功能，并于2021年下半年启动可信生态体系建设，推动治理·位置从末端治理向业务内生化迈进，营造健康、友善的社区氛围，打造清朗的社区空间。