|
消费
|
从反诈到未成年人保护，Soul用AI打造清朗社交空间
随着数字化社交的日益普及，平台生态安全建设已成为行业健康发展的关键基石。Soul发布的《2025生态安全半年报》显示，平台通过AI技术全面升级治理体系，在反欺诈、内容审核、未成年人保护等领域取得明显成效，为用户构建了一个更加清朗、安全的社交空间。
面对网络诈骗手段不断翻新的挑战，Soul建立了智能化的"识别-预警-拦截"全链条防御体系。平台自主研发的"图片/文本反作弊大模型"和"杀猪盘发帖文案识别大模型"协同工作，能够有效识别文本变体、图像伪装等复杂诈骗行为。据统计，这一体系使得黑产分子的对抗成本显著提高，平台整体涉诈人群数量较此前下降约20%。在技术防护之外，Soul还注重与公安机关的协同治理。半年报数据显示，平台累计向警方推送网络谣言线索50个、黑灰产线索25个，协助查明盗用照片等侵权案件20余次，处理警方调证协作需求80余次，形成了线上线下联动的安全治理网络。
在社交内容治理方面，Soul通过多维度策略持续优化平台环境。平台新增了可识别色情交易变体等违规行为的反作弊大模型，进一步提升了对新型违规行为的发现能力。数据显示，平台通过AI技术实现违规内容机审拦截量级达932万，累计拉黑同设备下存在的多个违规账号2.1万个。针对群聊场景的特殊性，平台实施了精细化管控措施。日均中断语音违规消息4万余条，拦截违规文字消息2.7万余条，并对违规用户实施梯度处罚，日均处理量达1.7万+人次。在私聊场景中，平台通过骚扰消息自见策略日均保护2.3万+用户，消息盒子功能辅助用户日均收纳消息超5000条。
在持续推进内容生态治理的同时，平台将网络暴力防治作为重点攻坚方向。网络暴力作为数字时代的顽疾，一直是社交平台治理的重点。Soul建立了"技术识别+人工审核+用户教育"三位一体的治理体系，通过AI内容识别系统实时扫描侮辱、诽谤等不良内容，同时完善举报机制，鼓励用户参与共治。平台通过典型案例公示、防网暴指南推送等方式开展网络文明宣传，累计已有43.3万+的用户签署友善互动声明。治理成效显著，日均保护用户免遭网暴骚扰达3956人，处理私聊不文明行为用户2146人，日均提醒引导私聊文明发言21.1万+次。问卷调查显示，超过八成用户感受到了平台环境的明显改善。
在全面治理体系基础上，平台也特别关注未成年人这一重点群体的保护工作。在未成年人保护方面，Soul构建了包括身份认证、年龄识别、防沉迷系统等在内的全方位保护体系。值得注意的是，平台首次在识别链路中引入AI大模型，能够精准判断用户人设是否为未成年人，并识别成年人伪装未成年人的情况。这一创新举措取得了不错效果，新AI大模型对假成年人的识别贡献率高达99%，极大提升了未成年人模式的纯净度和安全性。平台目前共设有未成年识别和保护策略51条，从注册、内容浏览到互动交流等各个环节为青少年提供全面保护。
生态安全建设是一项需要长期投入的系统工程。未来，Soul将继续加大技术研发投入，深化AI、大数据等技术在生态安全领域的应用，不断提升风险识别和治理能力。平台将始终秉持"用户第一"的原则，与用户携手共建清朗、健康、有爱的网络社交空间。
商业时报所刊载信息均来源于网络，并不代表本站观点。本文所涉及的信息、数据和分析均来自公开渠道，如有任何不实之处、涉及版权问题，请邮箱Jubao_Times@163.com
本文仅供读者参考，任何人不得将本文用于非法用途，由此产生的法律后果由使用者自负