张大妈

科学家实现多模态AI精准遗忘,敏感信息自动隔离

源自今日头条:DeepTech深科技

02-06 00:58

与 AI 交互时,隐私泄露是一大隐忧。一项新技术实现了 AI 对敏感信息的精准遗忘,如同一场精密的脑部手术,只移除有害记忆,完整保留核心能力。这项名为 SMFA 的技术为构建更安全的 AI 交互环境提供了切实可行的解决方案。

科学家实现多模态AI精准遗忘,敏感信息自动隔离智能速览

  • 新技术 SMFA 让 AI 能精准遗忘隐私信息。

  • 该方法如同给 AI 动脑部手术,不损害其核心能力。

  • 团队构建了首个多模态遗忘测试基准 S-MLLMUn Bench。

  • 此技术未来可用于更新过时信息并注入新知识。

科学家实现多模态AI精准遗忘,敏感信息自动隔离精华内容

这项名为雕刻性记忆遗忘适配器(SMFA)的技术,巧妙地在遗忘与记忆之间找到了平衡点。其核心在于精准识别并修改与隐私相关的模型参数,同时保护核心知识不被误伤。

技术核心

首先,AI 会在需要遗忘的隐私数据上接受特殊训练,学习将正确答案替换为“我不知道”等拒绝性回答,这个过程会生成一组“遗忘参数”。为防止 AI 变得“过度健忘”,团队同时设置了“保留锚点”,用少量正常知识对 AI 进行微调,生成另一组“保护参数”。最终,SMFA 适配器会分析这两组参数间的冲突,利用掩码机制精准屏蔽可能损害核心能力的更新,只保留安全有效的遗忘部分,实现选择性遗忘。

效果验证

为客观评估 SMFA 的性能,研究团队构建了全球首个多模态大模型遗忘测试基准 S-MLLMUn Bench。该基准包含 1000 个虚构人物的图文档案,严格测试模型的隐私遗忘能力与图像理解保留能力。测试结果显示,SMFA 在成功擦除指定隐私信息的同时,其图像理解保留得分最高,生成的拒绝回答也更自然流畅。相比之下,一些传统方法要么导致模型能力严重下降,要么隐私数据清除不彻底。

未来展望

该技术的意义不止于隐私保护。它还能用于更新模型中的过时信息,例如在国家领导人换届后,让模型忘记旧的关联。研究团队展望,未来技术能进一步实现在遗忘的同时注入新知识,例如用少量数据教会模型理解网络新词“666”的多重含义,而无需对整个模型进行昂贵的重新训练。

SMFA 技术的出现,为解决 AI 的隐私泄露难题提供了一把精准的手术刀,证明了 AI 的发展可以兼顾强大与安全。这项突破不仅是技术上的进步,更是在构建人机互信的道路上迈出的重要一步。未来,AI 还能学会如何更好地成长和更新吗?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章