站长之家用户 - 传媒 2022-06-30 15:43

阻断危险攀谈,易盾反欺诈机制立新功

在社交网站上,你是否小心翼翼地与屏幕对面的用户保持着安全距离?在易信,沟通头先被赋予了充分的信任感与安全感,用户正式告别了网络对面真假难辨的时代。

网易易信作为 2013 年由网易集团与中国电信联合研发推出的社交软件,在为全国上亿用户提供基础聊天功能的同时,于 2019 年上线精细化运营的话题社区版块“说吧”。

在“说吧”内,陌生用户可以通过内容彼此互动、相识,分享生活本来的样子。“说吧”秉承着“有态度,不盲从”的原则,让用户在熟人社交之外有了更多选择。

当社区生态更加丰富之际,易信引入了针对即时聊天软件的信息内容安全解决方案,举一反三自动化拦截不良有害内容,并关注平台用户的真面目,还用户一片治安良好的互联网天地。

方案中“人机结合+内容识别+行为识别”的办法获得了很高的评价,易信得以快速审核用户发布的内容,划出用户群体中的“害群之马”,让上亿用户能够放心使用社交软件,拉近了人与人之间的距离。

数字世界的守护者,携手阻断社交恶意

在 2000 年之前,“上网”还是一件相当仪式感的事情,而如今大家已经没有了“我现在要上网了”的临界感,网络就像生活中的水电气一样自然,现实生活美好地融入了网络编织的数字世界。

然而,数字风险远在天边,却又近在眼前,网络的交互性和匿名性为作恶提供了土壤。网络诈骗案件五花八门,无奇不有,其中不少正是隔着网络攀谈引诱受害人上钩。

欺诈信息危害性较高、变化多端。有这样一群人默默地在幕后协作,去除不符合产品定位的内容与有害违法信息,留下优质的 UGC 内容,大力提升社区活跃度。

从内容入手 架设信息安网络络,阻断欺诈信息

上亿人在易信的社区中表达自我,商品使用心得、生活瞬间分享、兴趣爱好心得等内容充分丰富了社区生态,编织出了一个“万花镜”一般的数字世界。

易信为这个数字世界架设了一个隐形的信息安网络络,由易盾提供全栈式数字内容风控技术,涉及审核、算法、运营、数据统计展示等体系,以便建设一个适合交流、分享、娱乐的安全社区。

违法信息即国家法律明确指出的内容,如涉黄、涉赌、涉毒、涉暴等,有害信息可理解为与产品定位、发展相左的内容,如广告、无意义刷屏等等。针对多种内容违规类型,对抗的轻重缓急和难度有所不同。易信采用了易盾的 AI 智能检测能力,非常方便地将上述常规有害违规内容纳入即时巡检雷达中,准确触发并过滤,确保社区 UGC 内容绿色健康。

深入账户生态 绘制专属用户图谱,及时发现风险账号

易盾拥有一支富有经验的运营和技术团队,基于仔细深入的案例研究,令内容安全算法对话术机敏,自动化拦截欺诈类的“花言巧语”。机器每秒能够识别成千上万条对话,以一种任何人工审核团队都达不到的速度,跟上即时聊天软件的业务场景。

同时,易信采用了易盾的“用户风险图谱”技术,该技术借助于人工智能算法,联合了易盾长期积累的更多安全历史数据,如手机号黑名单、设备黑库等,提前识别一些跨平台的“惯犯”。

正所谓“天网恢恢,疏而不漏”。网络诈骗具有突出的行为特征。作为一个有组织的商业化团伙,网络诈骗犯不经意间流露出许多团伙特征:一是使用相似的公司名称;二是注册账号使用的手机号前几位是连号;三是签名、头像、昵称等用户信息大同小异;四是共用“手机号”、“移动设备”、“IP 地址”、“银行卡”等基础黑产资源。

易信利用易盾的“内容安全”与“反作弊”技术能力,捕获全链路的内容、行为、用户关系等信息,对这些行为进行意图分析,将真人的欺诈行为做分类识别,让正常用户更安全放心。

效果展现

双方继续合作,通过持续观察问题账户,逐渐摸清网络诈骗犯的作案方法、团伙特征、黑产设备与手机号等信息,为后续查处提供支持。基于“内容”与“账号”的双维度出击,易信日均召回数百个嫌疑用户,问题用户识别准确率超 99%,数字风控技术有效降低社交数字化转型带来的风险。

即时聊天软件通过打字和发消息来交谈,令沟通边界进一步消失,人际互动的成本更低。不过,网络空间不是法外之地,易信在构建数字社区的同时,积极引入数字风控技术拦截风险与恶意,让用户安心使用。

当前,易信成立了防诈骗委员会,组建“诈骗信息普及吧”,邀请域内法律从业用户、防欺诈志愿者用户、有过被欺骗经历用户等入驻该说吧,分享自己了解的网络诈骗案例。

易信团队表示,一旦涉及到支付宝、转账、微信、银行卡等敏感关键词时,官方都会发出提醒,所有涉及金钱往来的事情,一定要慎之又慎。易信官方也会不定期在站内向用户推送各类防骗指南,保护用户财产安全。

相关话题

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,文章为企业广告宣传内容,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

推荐关键词

24小时热搜

查看更多内容

大家正在看

国内音频内容为何不讨喜?

国内音频内容为何不讨喜?