30亿参数安全模型开源!单GPU跑得动,审核规则改提示就行
模型将每项审核任务转化为包含(说明场景与严格程度)、(提出判断问题)、(待审核内容)三个字段的标准化输入。推理时只读取“是”和“否”两个词元的逻辑值,通过softmax归一化为连续分数,以0.5为阈值输出二元判断。这套机制覆盖提示词分类、回答审核、拒答检测和毒性检测等多种场景。 6
对于需要接入内容审核能力的开发者,Shieldstral已开放下载。模型支持本地化部署,隐私敏感场景可直接在私有服务器运行,无需将数据上传至第三方API。策略自定义能力让同一模型可适配不同平台的内容规范,从社交评论到电商商品图均可灵活切换。
当前文章无评论,是时候发表评论了