|
北京
|
Soul打造AI对抗AI体系，三重手段守护社交场景真实连接
随着AI技术发展，治理手段也同步在发展。为化解行业共性难题，Soul同步升级多模态智能风控技术、更新社区规范、搭建全民协同监督渠道，构建完整闭环治理方案，重新划定AI在社交场景中的使用边界。
当下高危账号不再输出直白违规话术，单独拆分图片、单句对话均不存在明显违规内容，整套人设包装逻辑才是风险核心，典型案例便是依靠豪车、高薪、高消费素材塑造精英、高净值人设实施杀猪盘。针对这类隐蔽风险，Soul搭建覆盖图片、文本、视频、声纹、账号行为的多模态AI治理体系，不再局限单点内容筛查。图片层面识别AI生成、盗图、拼接痕迹；文本依托大模型意图识别，挖掘导流、欺诈深层倾向；语音视频建立声纹比对、跨账号行为链路联动机制，综合多维度信息完整研判账号整体风险逻辑。
平台风控AI具备毫秒级实时识别对抗能力，构建全天候动态监测系统，同步解析单条内容、多轮对话上下文、账号长期互动轨迹，风险监测覆盖规模相较纯人工审核提升数倍。系统会留存所有作弊素材特征，同类造假内容重复上传将直接拦截分发，关联黑产账号自动回溯批量处置，改变以往单次处置的老旧模式，持续抬高黑产反复作案成本。当前系统识别准确率达95%，超66%高风险账号能够在接触普通用户前完成前置拦截，平台日均拦截涉诈、异常互动超十万次，杀猪盘高危触达量同比下降37.37%，累计为用户规避千万元级财产损失，在虚假人设专项场景，AI自动处置与人工处置效率比例超10:1，完成从事后被动封禁到前置主动干预的全面转型。
在规则与产品管控层面，Soul近期补充更新《社区公约》，针对AI生成内容、AI互动、虚拟角色新增专项规范，明确AI仅可作为表达辅助工具，严禁利用AI伪造身份制造虚假社交关系。平台上线带清晰标识的AI虚拟陪伴功能，对话界面全程标注内容由AI生成，用户连续两小时与虚拟伙伴聊天将弹出休息提醒，区分AI情绪支持功能与真人社交，避免用户混淆人机身份、过度沉浸虚拟互动。
除此之外，Soul延伸社区治理至用户共治模式，开通多渠道举报热线、邮箱，运营官方账号@Soul风纪球长常态化公示盗图冒充外籍、炫富诱导交往等虚假人设违规案例，科普杀猪盘识别技巧，设立护星员、社区巡查岗位，鼓励用户主动反馈新型诈骗线索。用户提交的全新违规套路会同步录入风控素材库，持续迭代优化多模态AI识别模型，形成智能技术、社区规则、大众监督三方协同的动态治理机制。Soul表示，AI兼具社交产品功能与风险治理工具双重属性，真实善意的互动是社交的底层根基，平台将持续完善动态演化的AI对抗体系，平衡AI创新体验与社区安全，为AI时代社交平台风控提供完整实践方案。
商业时报所刊载信息均来源于网络，并不代表本站观点。本文所涉及的信息、数据和分析均来自公开渠道，如有任何不实之处、涉及版权问题，请邮箱Jubao_Times@163.com
本文仅供读者参考，任何人不得将本文用于非法用途，由此产生的法律后果由使用者自负