今天是:
您现在位置:经济网_经济日报《经济》杂志社官网 >> 产 经 >> 浏览文章

发布《2025生态安全半年报》,Soul以AI技术筑牢社交反诈与安全防线

2025-10-20 来源:经济网   加入收藏

作为聚集大量年轻用户的社交平台,Soul始终将生态安全置于战略核心,积极响应国家“清朗”系列专项行动号召。Soul发布的《2025生态安全半年报》(以下简称“报告”),通过详实数据与具体举措,系统展现了平台以AI技术为核心,结合警企协作、社区共治构建的全方位安全体系,为用户打造清朗、健康的社交环境。

在网络诈骗手段日趋隐蔽的背景下,Soul以AI技术为基石,搭建起“识别-预警-拦截”全链条反诈防御机制。两大核心技术模型——“图片/文本反作弊大模型”与“杀猪盘发帖文案识别大模型”协同发力,提升了对文本变体、图像伪装等复杂场景的识别精度,大幅提高黑产分子绕过风控的对抗成本。同时,平台反诈官号接入AI反诈助手大模型,通过智能回复实时提示用户风险,将反诈防护渗透到交互环节。报告数据显示,得益于这套体系,平台整体涉诈人群数量较此前下降约20%,从源头为用户财产与信息安全筑起屏障。

技术防线之外,Soul通过深度警企协作构建线下防护网络,形成线上线下联动的犯罪打击合力。过去半年,平台向警方推送网络谣言线索50个、黑灰产线索25个,协助查明盗用照片、侵犯用户权益案件20余次,累计处理警方调证协作需求80余次。这种“技术识别+执法联动”的模式,不仅实现了对诈骗行为的精准打击,更推动安全治理从平台内部延伸至社会协同层面,强化了整体防护效能。

针对社交场景中的违规内容与行为,Soul以AI技术为核心优化全场景治理策略。报告显示,平台新增识别色情交易变体的反作弊大模型,进一步覆盖新型违规场景;AI机审系统累计拦截违规内容932万条,对同一设备下存在多个违规账号的2.1万台设备实施拉黑处理,从源头压缩黑灰产作恶空间。在群聊与私聊场景中,技术治理同样精准高效:日均中断语音违规消息4万余条、拦截违规文字消息2.7万余条,对违规用户实施梯度处罚1.7万余人次;“骚扰消息自见”策略日均保护2.3万余名用户,“消息盒子”功能辅助用户高效管理信息,让私密交流更具安全感。此外,平台通过系统提示、社区公告等形式教育用户文明发言,累计触达33.7万用户,将“疏堵结合”的治理理念落到实处。

针对未成年用户这一特殊群体,Soul进一步细化安全防护,构建全方位未成年保护体系。51条专项策略涵盖身份认证、年龄识别、18岁以下年龄限制、防沉迷系统、正能量内容池、隐私保护等维度,其中策略识别假成年人的贡献率高达99%,精准屏蔽未成年人接触不良信息的风险,为青少年健康使用社交平台保驾护航。

从AI反诈到全场景治理,从防网暴到未成年保护,Soul的生态安全实践始终围绕“技术服务用户安全”的核心。与此同时,平台还将持续深化AI技术在安全领域的应用,完善警企协作与社区共治机制,不断优化生态安全体系,为年轻用户打造更安心、更友善的社交空间,助力清朗网络空间建设。


0
上一篇: “烫手山芋”变“香饽饽”,开歌评估如何让一宗短年限工业地产实现溢价?
下一篇:没有了

经济智库