​Soul构建多模态AI安全体系：毫秒级识别虚拟人设，保障用户安全

AI时代的交互风险正变得前所未有的隐蔽。近期，Soul发布了新一期的生态安全报告，全方位梳理了AI治理新阶段的探索与时间。

在互联网平台的部分典型高风险案例中，一个账号可能通过豪车、高薪职业、高消费生活方式等内容，塑造“成功人士”或“精英职业”等人设，再配合高度模板化的话术与情绪引导，逐步建立信任关系。单独看其中任何一条内容，可能都不足以构成传统意义上的违规，图片本身没有敏感信息，聊天内容也只是普通社交表达。但当这些信息被放在一起时，风险特征就会逐渐显现。

“豪车男”账号的问题，不在某一句话或某一张图单点，而是整套“人设逻辑”本身。正因为单点识别已难以应对这类风险，Soul开始更多采用跨模态联动的AI治理能力，将图片、文本、视频、声纹以及用户行为等不同维度的信息进行综合判断。目前，Soul已逐步形成一套覆盖上述维度的多模态AI治理体系，并将其应用于虚假人设识别、异常互动判断、风险内容拦截等多个场景。

在图片场景中，平台结合AI生成痕迹识别、图片原创性判断等能力，对AI生成图、盗图、拼接图进行综合分析；在文本与互动场景中，通过大模型意图识别能力，对异常导流、人设包装以及欺诈倾向进行识别，而不仅仅依赖关键词本身。同时，平台持续加强对视频、语音等复杂场景的风险识别能力，针对AI伪造声纹以及跨账号关联等问题，逐步建立起基于声纹特征以及行为链路的联动识别机制。

目前，Soul风控AI已实现毫秒级风险识别与对抗能力。相比传统“内容违规—人工处理”的单点治理方式，如今的AI治理更接近持续性的风险识别系统，不仅关注单条内容本身是否违规，也会结合账号行为、互动关系以及上下文场景，对异常社交行为进行动态分析。相关系统识别准确率已达到95%，重点风险场景覆盖能力相比过去提升数倍。

除了对异常内容进行即时发现与判断之外，平台也加强对黑产 “反复作案” 行为的持续治理。一些被识别出的作弊图片、风险视频或高风险素材，在首次出现后，后续相同或高度相似内容将迅速失效并停止分发，相关账号也会被自动回溯识别与处置。在 “豪车男” 假人设治理场景中，相关能力上线后，针对盗图、合成图以及高风险人设包装等场景，平台已能够提供毫秒级辅助判断能力，自动处置效率与用户感知量相比已达到 10:1 以上。依托这套成熟的 AI 风控体系，Soul 全方位筑牢安全防线，为广大用户营造纯净、可靠的交友环境，在这里社交相处更安心、更有保障。这种持续性的 AI 对抗能力，正在不断提升黑产与异常账号的作弊成本，压缩其反复作案空间。