近日，新型开放式社交平台Soul App（下简称“Soul”）发布《2024年第二季度Soul生态安全报告》。报告显示，该季度平台重点动作在诈骗治理、网络暴力治理、未成年保护、完善社交礼仪体系等方面展开。
随着近年来“清朗”系列专项行动全面深化，Soul始终将企业责任放在首位，积极响应有关部门提出的网络安全问题及其他潜在风险，坚决遏制不良行为对网络环境的负面影响，同时关注未成年人用户网络安全。
期间，Soul 持续上线反诈新策略，前置拦截高危风险;建设完善社交礼仪体系，加强对违规内容识别能力;聚焦网络暴力治理，分辨打击站内网暴问题;筑牢未成年人保护防线，完善相关保护体系。
持续上线新策略 赋能反诈工作
Soul一直致力于采用先进的技术手段，打造了一个全面而有效的反诈风控体系。在本季度，Soul引入了多种创新的风险预警机制，包括"锁定对话框"、"对话框横栏强提醒"和"客服电话强提醒"等，根据用户面临的风险等级，实施了分级预警策略，并取得了显著的成效。
数据显示，本季度Soul利用其强大的大模型和内容理解能力，成功识别并甄别超过3000个“假军警”人设案例，同时对超过2万起网络乞讨行为发出预警。
此外，Soul还积极与全国各地的执法机构合作，协助调查了37起案件，并向司法机关提供了近千条涉及黑灰产业链的线索，为从根本上打击网络犯罪活动做出积极贡献。
建设完善社交礼仪体系 打造文明友善社交环境
第二季度中，Soul在违规行为和低质内容的治理、社区的共同建设和治理、群聊管理以及私聊社交生态的构建等方面持续发力，不断完善社交礼仪体系，致力于打造一个积极健康的社区环境，确保用户在无压力的氛围中享受社交乐趣。
Soul将群聊治理作为工作重点之一。通过技术手段，Soul在本季度成功识别超过1.5万条疑似违规的消息流内容，并拦截了2.8万条违规文字消息;采用人工审核、用户举报审核和自动化策略相结合的方式，对7800名违规用户实施了梯度处罚，以维护平台的秩序和安全。
同时，Soul也在积极推动私聊社交生态的建设。其中“消息盒子”和“守护弹窗”功能，每天平均保护超过1万名用户免受骚扰，为用户营造更加健康、友好的社交环境。
此外，Soul一直在鼓励和邀请用户参与到社区的共治共建中来。截至2024年第二季度，已有超过3万名用户担任站内内容推荐官。他们积极参与平台对争议性动态的评审工作，帮助筛选和推广健康优质的内容，为打造一个更加积极、优质的社区环境做出贡献。
聚焦网络暴力治理 让不文明社交“止于微末”
2024年6月12日，国家互联网信息办公室正式出台《网络暴力信息治理规定》，体现了监管机构对网络暴力零容忍的态度和保护网民权益的坚定意志。Soul 紧跟步伐，不断优化群聊和公共互动区的反网络暴力措施，通过报警和自动处罚机制，比较大限度地减少用户遭受的网络暴力和骚扰，确保网络空间的清朗与文明。
在本季度，Soul积极引导用户在私聊中文明发言，提醒次数超过20万次，日均发送友善评论提醒6088次。网络暴力的整治，需要每位网民用户的身体力行，Soul鼓励用户参与到抵制网络暴力的行动中，共同营造一个文明的社区环境。截至第二季度，已有超过17万用户签署了友善互动声明，显示了Soul社区成员对建设积极网络文化的高度认同。
此外，Soul的官方"风纪球长"在本季度发布了多条关于生态安全的重要信息，信息触达63万用户，进一步强化了Soul对网络文明的承诺和对用户安全的保障。
筑牢未成年人保护防线 保障青少年网络安全
Soul App始终把未成年人网络安全作为重中之重，不断完善身份认证、防沉迷、隐私保护等措施，构建了全面的未成年人网络保护体系。
在本季度，Soul对未成年用户识别模型进行了重要迭代，从单一消息识别扩展到复杂场景下的多维度识别，显著提高了识别潜在未成年用户的能力。
目前，Soul平台不允许18岁以下的用户注册账号。对于可能存在的少数未成年存量用户，Soul通过实施一系列保护策略、先进的年龄识别技术和有效的举报系统，迅速识别并引导这些账号切换到专为青少年设计的"青少年模式"。此外，我们平台还提供了隐私保护和陌生对话过滤等功能，以比较大限度地保障未成年用户的网络安全。
在数据方面，本季度Soul推出了40多项未成年识别和保护策略，这些策略在识别虚假成年人身份方面取得了高达98.0%的贡献率，进一步证明识别策略的有效性和比较准确性。
维护网络生态是项长期的社会工程。Soul 利用自身的技术专长和全面的管理策略，全力以赴地参与到这一进程中——通过严格查处违规现象、拓展宣传网络、丰富积极内容，并与用户、行业和执法部门等进行广泛协作，不断加强平台的自我监管，力求提高治理效能，助力构建一个健康、有序的网络环境，推动网络生态的持续进步。