国家互联网信息办公室于2019年12月15日发布《网络信息内容生态治理规定》将“网络信息内容生态治理”定义为,政府、企业、社会、网民等主体,以培育和践行社会主义核心价值观为根本,以网络信息内容为主要治理对象,以建立健全网络综合治理体系、营造清朗的网络空间、建设良好的网络生态为目标,开展的弘扬正能量、处置违法和不良信息等相关活动。并要求网络信息内容生产者应当采取措施,防范和各类不良信息,营造良好网络生态。
内容生态治理源于内容演变速度与社区管控能力存在的冲突。如果社区内容是稳定不变的,那么只需要一套固定的管控能力,不需要长期地治理。这也就是为啥随着社区内容的丰富,各家企业开始重视生态治理、内容风控业务,大量招人的原因。
内容生态治理负责平衡内容质量与业务规模存在冲突。社区需要优质内容和优质用户,而优质内容和优质用户是稀缺的,且很难被大众理解的。为了迎合不那么优质的,但能给社区带来大量dua、gmv的用户,社区原本定义的优质内容也会变成不良内容,比如知乎一开始只是针对特定有影响力的作者开放,后来开始削弱大V点赞订阅不再推送给所有粉丝,某些有理有据的文章会出现“争议较大的观点”提示,比如小红书最近的“照骗”事件,博主上传精心拍摄、后期的优质内容原本是一件双赢的事,博主收获了粉丝和变现,平台也收获了用户和广告分成,但依然会有用户觉得被骗了,小红书肯定马上会对“照骗”内容进行一波生态治理。
生态治理有2大来源,一种是外部倒逼的,一种是内部自发的。不同的来源的紧急程度、判断方式不同。
指令有两种,第一种是国家部门公开发布的清查、指令。这类指令一般描述得较为抽象和宽泛,需要专业的政府关系部门和风控部门共同进行研判解读后,基于平台定位制定具体的执行范围和方向。
比如:6月15日,中央网信办宣布在全国范围内开展“清朗·‘饭圈’乱象整治”专项行动。豆瓣开始对违规账号、问题小组等进行删除和解散,爱奇艺对集资、打榜彻底“自查自纠”。
另一种是国家部门直接给企业下达的查杀的指令,比如互联网举报中心收到xx举报,命令平台处理,这类指令必须执行。
舆情一般指用户或媒体在站外对平台出现的内容进行负面评价,并达到一定传播量,如果不及时处理,可能对平台品牌形象、声誉有恶劣影响。官媒发出的负面评价,严肃程度不亚于指令。
比如:9月末,《新京报》和《央视网》等多家媒体报道了社交媒体的“佛媛”现象,一时间上了热搜。各个社区在第一时间进行了清查,抖音共处罚利用“佛媛”形象营造人设开展虚假营销行为相关帐号48个,其中永久封禁帐号7个,同时,清理违规视频148条。小红书第一时间已启动专项检查,清理违规笔记70篇,封禁账号3个。10月,很多人假期出游后,在社交网络上吐槽小红书“滤镜景点”,一时冲上了热搜,之后小红书进行了公开道歉。
对于外部倒逼的指令、舆情,一般由企业内专业的公关部门,政府关系部门进行快速交涉和判断,给出应对措施到各个部门执行落地,进行生态治理是其中必备的措施之一。
日常观察社区整体内容风险的监控数据,以及定期对社区内容的抽样摸底,及时发现风险的变化。风险上升主要体现为:
内容特征升级,需要在原有治理策略的基础上进行迭代,比如一开始大家喜欢在简介里导流微信,发现容易被平台和谐,后来大家发现还可以通过多个视频封面连在一起导流微信。
内容影响变大,之前只有个别人喜欢这么玩,突然很多人这么玩,比如剧本卖货一开始是头部主播在玩,大家还觉得新鲜,但后来模仿者越来越多,影响了业务指标(比如观众浏览直播的时长变低、退货率变高等),于是平台开始进行干涉。
比起外部舆情指令,这类内部监测到的风险变动,有更充足的时间来进行判断分析,所以需要进一步通过数据分析该内容的实际风险情况来做决策。一般使用以下指标:
定义治理对象,基于用户特征、内容场景特征等,给出治理对象的具体定义和机器/人工可执行的规则。
当我们得出初步的治理方向后,落地执行的第一步就是基于社区内容现状的分析,定义及刻画治理的对象。比如要对社区“侮辱谩骂”评论进行治理,分析步骤如下:
取出社区内过去n天,可能存在侮辱谩骂内容的评论内容、用户id、评论点赞次数、评论曝光次数。
对每条样本标注特征标签、有害程度。标记前,需要制定标注规则,确保判断维度一致,如果对内容比较陌生,标记时尽可能用细致的标签,标记完成后可以进行同类项合并。
汇总标注结果并得出结论。将各类标签照合理的逻辑框架整理汇总,综合影响面、风险情况确定优先级,作为接下来的策略依据。对于侮辱谩骂来说,明确对他人进行人身攻击、引战的评论风险最高,需要进行治理,而脏话口头禅类风险较低,只需要保持观察或轻度干预。
对于侮辱谩骂内容来说,明确对他人进行人身攻击、引战的评论风险最高,需要进行治理,而脏话口头禅类风险较低,只需要保持观察或轻度干预。在实际情况中,需要根据社区的生态特征穷举可能出现内容类型和特征,下表仅作为简单示例:
百度贴吧还曾对“”进行过精细地治理,一开始“”被设成禁发词,后来很多人都爱用 “伞兵”指代“”,官媒发文说了请不要污名化伞兵。为了避免网友又演化出其他词替代,带来不可预估的风险,百度不再简单粗暴地对“伞兵”进行屏蔽,而是把“”两个字放开,输入可以直接发布,但是发送后会自动被这张图代替,也算是业界清流了。
上线后复盘效果,验证治理策略是否解决问题,如果有解决,有没有进一步优化空间、有没有引入新的问题,优化/解决手段是什么,如果没有解决,分析为什么,以及如果要达到目标,接下来要做什么。
确定问题及后续做法时,同样也从第一步走进行,如果某类内容特征出现演变、或者曝光量、风险出现变化,则需要调整对应的策略。
下一篇文章,我会用具体的案例来讲解这三步走的实际运用,比如小红书“照骗”如何治理、非原创视频如何治理等。欢迎同行留言一起讨论~