站长之家用户 - 传媒 2021-12-31 17:15

网易易盾深度解读 | 清朗网络的背后,看见知乎长期生态治理的初心

“能力越大,责任也就越大。”这句话同样适用于汇聚着亿万双眼睛的互联网主体平台。

随着互联网信息载体和内容主体的不断丰富,网络不可避免地出现了鱼龙混杂的局面。无视版权、低俗涉黄、诈骗信息、涉恐涉暴……种种问题交织在一起,严重破坏了网络生态。为了改善网络环境,知乎致力于构建认真、专业、友善的社区氛围,并在此过程中,始终坚持长期主义,在不断升级的内容风控对抗中持续自我提升。

知乎一直以来都非常重视社区生态治理,面对海量数据,治理方找准方法很重要。“我们需要充分利用好算法模型的优势,并与第三方服务商合作。网易易盾是国内领先的内容安全服务商,我们非常认可其安全服务的专业性和可靠性。”知乎表示。

知识社区坚持「获得感」的长期主义

诸如「如何打造一个不凌乱的家?」「如何开家长长久久的咖啡馆?」「电脑内部是如何沟通工作的?」「我是否卷入了一场骗局?」「艺术品的收藏价值来自于何处?」等的问题在知乎中随处可见,透露着未知与求知的博弈。

与每个疑问面对面的瞬间,人们总是迫切地寻找答案,搜寻一本答疑解惑的书,询问一名相关领域的专家,或者是转向知识社区“知乎”。即使是没有学过的专业知识,没有经历过的人生,没有触达的未知,我们大概也会在翻阅数个帖子后,知晓一二。

从几个人,到几万个人,再到数千万人,对知识有渴求的内容创作者很快顺着网线会合,以一砖一瓦的“智慧”聚集构成了全知全能的“知乎”。在招股书上,知乎给自己下了这么一个定义:“中文互联网高质量的问答社区,创作者聚集的原创内容平台”。自 2010 年成立以来,知乎以“让人们更好的分享知识、经验和见解,找到自己的解答”为使命,在诸多领域建立起了以社区驱动的内容变现商业模式。目前,知乎已经覆盖问答社区、会员业务、商业内容解决方案、热榜、机构号、视频、直播等一系列产品和服务,并建立了包括音频、视频在内的多元媒介形式。

截至 2021 年第三季度,知乎共累计 4.59 亿条多元形式的内容,其中问答条数达到 3.98 亿,知乎平均月活跃用户首次突破一亿大关,知乎拥有累计超过 5300 万的内容创作者,月活创作者数量达到 364万。

可以说,知乎有着属于自己执着且独特的内容风控情怀,即获得感。一直以来,知乎将能够「开阔眼界,带来帮助或引发共鸣」的内容高度概括为「获得感」。截至目前,「获得感」已经成为知乎衡量内容价值的标尺,用来强化社区治理,调整内容结构。好内容因此得到了更多关注、流量和收益,社区生态也因此更加健康繁荣。

打造知识海洋深处的净化器

以往,提到内容风控,大家都会想到博人眼球的黄色擦边球、性感裸露图片……

在知乎看来,内容风控是指对合规内容的保护与对不合规内容的治理。这里面提到的「规」既包括法律、政策要求,也包括平台对内容风控的自驱要求。如此看来,内容风控需要做到的其实就是识别、判断不同载体(文本、图片、声音、视频等)中信息的合规性。

基于这样的目标,知乎设定了四个关键需求:法律法规的建设、内容风控技术的攻关、标准化的风控体系与高水平的人才,衍生出四大内容安全能力方向,简单举例:

一是,法律法规、政策要求、平台自身规则往往是精炼的,在实际的内容安全业务中,需要在充分理解规则的基础上,转化为可以直接指导业务的标准,再同步到内容安全业务各个环节有效落地。

二是,面对每天海量的数据,对内容的智能理解能力成为了内容安全业务的强需求,知乎目前通过自研+采买服务的形式不断补强风险内容的识别能力。

三是,采用人机结合的内容风险控制体系,能够良好地辅助审核人员对内容进行把关,提升工作效率。知乎自研的策略引擎「哪吒」与审核系统「天玑」,将内容安全业务各环节高效串联并运转。

四是,设立了专门的内容安全培训团队,并搭建了完整的培训流程,旨在长期培养出思想站位高、视野宽广、经验丰富的内容安全业务人员,帮助平台把关的同时,为清朗网络空间培养守护者。

AI赋能,不合规内容识别更高效

AI(Artificial Intelligence,人工智能技术)技术应用到内容风控中并非新鲜事,AI参与识别不合规内容越来越普遍。受疫情影响,许多工作都放在线上进行,知识的分享和获取也不例外。通过AI进行内容检测是一个节省人力、物力的全新方式,在几年前就受到了知乎的采用。

虽然AI算法模型不能完全代替人类审核员,但却是重要的违规“定位”工具。知乎采取AI机审和人审相结合的方式,离开了AI或是审核员,内容安全业务的质量和效果将大大下降。

在引入易盾的AI算法模型之后,知乎表示,易盾深厚的技术沉淀以及个性化定制的服务,在风险内容组织性与对抗性日趋增强的今天,能够补强知乎对于不合规内容的识别、判断能力。

近年来,知乎持续加大内容治理方面的投入,从内容安全红线底线、不友善、内容质量、未成年保护等多方面入手,将第三方模型和自研模型相结合,大大提升了相关违规内容的召回率和准确率。

知乎表示,内容风控作为生态建设的基本盘,在其内部已经建立起来一套新产品、新功能上线的内容风控评估流程,任何功能更新、上线前都需要经过内容风控评估。对于公司未来发展的方向和重点,知乎也提前做了行业调研和能力储备,确保基本盘一直是稳的,是可以跟得上行业发展的。

相关话题

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,文章为企业广告宣传内容,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

推荐关键词

24小时热搜

查看更多内容

大家正在看