2026年5月8日三部门联合印发我国首份智能体安全治理顶层文件
05-14 11:11
精选参考来源
精选参考来源
1. 最近离职员工变AI分身引发热议。 AI能承载人的能力,但边界一定要拎清楚。#数字分身 #安全智能体 #红衣聊AI #大有学问 #AI工具
抖音 2026-04-09 00:00:00
2. 华为智驾不是第一梯队 而是行业T0级的存在!
哔哩哔哩 2026-04-23 00:00:00
3. 当AI迈入Harness时代:以MiniMax为样本看智能体云端新基建
微信公众号 2026-04-16 00:00:00
4. 网信中国官微4月28日通报,近期网信部门工作中发现,“剪映”“猫箱”App及“即梦AI”网站存在未有效落实人工智能生成合成内容标识规定要求等问题,违反《网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律规定。国家互联网信息办公室指导属地互联网信息办公室,依法对上述网站平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。
抖音 2026-04-28 00:00:00
5. 先别急“养龙虾”,这些AI安全问题你可能还不知道!附安全解决方案...
哔哩哔哩 2026-03-20 00:00:00
6. 在这场AI时代的竞争中,安全智能体正是破局的关键。 #大咖观察 #红衣聊AI #智能体 #网络安全
抖音 2025-11-19 00:00:00
7. AI攻防时代已经到来! #大咖观察 #红衣聊AI #网络安全 #黑客
抖音 2025-12-05 00:00:00
8. 【#周鸿祎提人工智能六力模型# :电力→算力→智力→人力→安全力→生产力】 2026年全国两会,周鸿祎给出AI产业化“转化公式”:电力优势转化为通用算力,推理算力跑出智能体,智能体产出专用智力,再经“懂AI又懂行”的人与安全力护航,最终变成稳定生产力。 针对智能体规模应用新阶段,他提出三大建议: ⚡ 算力布局:全国统筹建高密度低时延推理算力集群,鼓励国产专用推理芯片,避免“算力空转”。 🛠️ 服务平台:牵头建普惠型智能体公共服务平台与“智能体课堂”,集成模型工具与安全指南,降低中小企业门槛。 🛡️ 以模治模:支持企业打造漏洞处置、攻击溯源等安全智能体,在关键基础设施批量部署并纳入优先采购,用AI对抗AI。 当百亿级智能体涌入产业,安全不再只是防火墙,而是内置的“数字免疫系统”。从拼模型参数到拼体系化协同,中国AI正走通自己的产业化之路。 #2026两会##人工智能##新质生产力#
新浪微博 2026-03-04 00:00:00
9. OpenKG 首发 SkillNet:大规模智能体“技能图谱”知识库
知乎 2026-03-22 00:00:00
10. 教育部司长揭秘:2024人工智能教育4大突破,23个专用大模型已上线
微信公众号 2026-01-18 00:00:00
11. 智驭未来:《人工智能科技伦理审查与服务办法(试行)》正式出台
微信公众号 2026-04-24 00:00:00
12. 4650万条聊天记录,72.8万份绝密文件, 5.7万个用户账户信息,全部泄露!最近,一个AI攻击智能体,在没有账号、没有密码的情况下,只用了2个小时,就成功入侵大厂AI平台。#大有学问 #红衣聊AI #网络安全 #AI工具 #泄密
抖音 2026-04-02 00:00:00
13. 2026企业级智能体白皮书|甲子光年智库
微信公众号 2026-03-23 00:00:00
14. AI 智能体驾驭 (Harness) 工程的兴起
知乎 2026-03-15 00:00:00
15. 谁批准了这些AI Agent?重新思考AI时代下的访问权限、问责机制与风险管控
微信公众号 2026-01-25 00:00:00
16. 未来的网络安全不再是人与人的较量,而是AI与AI的博弈。 #大咖观察 #红衣聊AI #网络安全
抖音 2025-11-18 00:00:00
17. 最近,360安全团队发现了OpenClaw一个高危漏洞。 OpenClaw创始人随后邮件确认了这个漏洞。而发现这个漏洞的,不是某个安全专家,而是一个我们刚发布不到一周的智能体。#openclaw #网络安全 #红衣聊AI #安全漏洞
抖音 2026-03-23 00:00:00
18. #微博声浪计划##听见微博# AI龙虾爆火有人几天赚了26万,OpenClaw开源智能体因能自动执行任务掀起养虾热,技术从对话向执行突破。代安装服务因技术门槛催生暴利,但随大厂介入窗口收窄。同时需警惕安全风险,建议理性使用,转向深度服务。 科技阿南的微博音频
新浪微博 2026-03-09 00:00:00
19. 【AI 智能体的“至暗时刻”:DeepMind 揭示 2026 智能体陷阱与防御边界】 Google DeepMind 最近发布了一份令人背脊发凉的网络安全报告。他们绘制了一个几乎没人在讨论,却足以摧毁整个 AI 生态的攻击面:智能体陷阱(AI Agent Traps)。 当我们将决策权交给智能体时,我们正步入一个“输入不可信”的危险时代。 1. 核心危机:检测不对称性 网站现在可以轻而易举地识别访问者是人类还是 AI 智能体。 这种“检测不对称性”意味着,同一个网页可以向人类展示正常内容,却向智能体投喂完全不同的恶意指令。 你以为它在帮你订票,它看到的却是“将账户余额转走”的隐藏代码。 2. 隐形攻击的六大手段 间接网页注入:在 HTML 注释、CSS 技巧或白色背景的白字中隐藏恶意指令。 多模态隐写术:将命令编码在图像像素中。人类看不见,但视觉模型能读出指令。 文档木马:在 PDF、电子表格或日历邀请的深处嵌入覆盖指令。 记忆中毒:注入虚假信息,并使其在未来的对话会话中持续存在。 数据外泄攻击:诱骗智能体将你的私人数据发送到攻击者控制的端点。 多智能体级联感染:这是最糟的情况。智能体 A 被污染后,将毒素传给智能体 B 和 C。整个流水线因为智能体间的互信而全线崩溃。 3. 传统防御的全面溃败 为什么这比以往任何时候都危险?因为现有的防御手段在智能体时代几乎失效: 输入脱敏无效:你无法对一个像素进行“脱敏”。 提示词防御失效:要求智能体“忽略可疑命令”往往会被更高优先级的注入指令覆盖。 人类审计失灵:智能体以毫秒级速度处理成百上千个网站,人类根本无法实时验证智能体看到的和我们看到的是否一致。 4. 行动边界的“死刑开关” 智能体安全的核心痛点在于:能力不等于可靠性。 目前的 AI 治理大多处于上游(提示词工程)或下游(审计日志),但在“行动边界”(Action Boundary)——即不可逆操作执行前的最后一秒,防御几乎是空白的。 正如 Holo Engine 等前沿研究所指出的: 单一模型的判断存在结构性盲点。 GPT-5.4、Claude 4.6 或 Gemini 2.5 都有可能被一段听起来很合理的伪造叙事欺骗。 我们需要的是“对抗性共识”:在资金划转、合同签署前,通过多个结构迥异的模型进行交叉质询。 5. 行业启示:从“锁”到“摄像头”的转变 如果说传统的安全防护是在造更好的锁,那么智能体时代需要的是全天候的摄像头。 我们不能再假设输入是干净的,而必须假设输入已被污染。 未来的智能体架构必须具备“防御性怀疑”: 对子智能体实行最小权限原则。 对不可逆行为建立强制性的对抗性验证循环。 在行动边界建立加密签名的决策记录,确保每一笔 AI 交易都是可追溯、可验证的真实意图。 智能体经济的繁荣,不取决于它们能跑多快,而取决于我们在它们失控前,是否有能力按下那个红色的停止键。 论文:papers.ssrn.com/sol3/papers.cfm?abstract_id=6372438
新浪微博 2026-04-20 00:00:00
20. 【360 推出 OpenClaw 安全指南,破解 AI Agent 提示词注入难题】360 集团发布国内首份《OpenClaw 安全部署与实践指南》,为开源 AI 智能体 OpenClaw 提供安全保障方案。随着 AI 智能体向「数字分身」演进,OpenClaw 等智能体部署面临管理接口暴露等典型风险,尤其是提示词注入和插件供应链攻击。360 提出「先可控、再提效」的分类治理策略,针对个人开发者与小型创业团队和政企级多智能体协同场景给出不同防范建议。该指南发布标志行业关注点转向安全合规治理,为构建 AI 应用生态奠定技术基础。
新浪微博 2026-03-11 00:00:00
21. 【医药行业洞察】创新药+AI制药,深度布局的10家公司
知乎 2026-04-03 00:00:00
22. 拒绝“黑盒”裸奔!如何构建兼顾“信任”与“价值”的AI治理模型?
微信公众号 2026-02-13 00:00:00
23. 2026年AI全景预测:迈向百亿智能体时代的20个发展趋势。 #大咖观察 #人工智能 #红衣聊AI #智能体 #AI时代
抖音 2026-01-09 00:00:00
24. 未来人类社会或将出现百亿甚至千亿智能体,智能体经济是未来方向 #大咖观察 #2026AI看崇礼 #红衣聊AI #智能体
抖音 2026-01-27 00:00:00
25. 如何看待继亚马逊获得对Perplexity禁令后,国内法院也首次对违反双重授权AI智能体发出禁令?
知乎 2026-05-06 00:00:00
26. 危及10亿人的全球高危漏洞。 被360漏洞挖掘智能体自动扫描发现!#大有学问 #红衣聊AI #智能体 #AI工具
抖音 2026-04-17 00:00:00
27. 未来管AI,要像管股市一样管? #大咖观察 #红衣聊AI #人工智能
抖音 2026-01-02 00:00:00
28. 慎养龙虾,国家互联网应急中心发出风险提示/小红书:严格打击AI托管账号/微信绝密AI智能体曝光
微信公众号 2026-03-11 00:00:00
29. 余弦大佬总结的OpenClaw 极简安全实践指南本指南是面向 OpenClaw 本身(Agent-facing)的,不是传统“仅供人类手动操作”的加固清单。实际使用中,你可以把本指南直接发给 OpenClaw,让它先评估可靠性,再自动完成防御矩阵部署,大幅降低手工配置成本。地址:。github.com/slowmist/openclaw-security-practice-guide/这是一份专为 高权限自主智能体 (OpenClaw) 量身定制的权威安全实践指南。它将传统“主机静态防御”的范式转变为“智能体零信任架构 (Zero-Trust Architecture)”,有效应对破坏性操作、提示词注入、供应链投毒和高危业务逻辑执行等智能体专属风险。 #how i ai#
新浪微博 2026-03-02 00:00:00
30. 【#我国加快研究智能体伦理规范#】#防止算法压榨等行为# 智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。随着大模型等新一代人工智能技术迅猛发展,智能体正加速与网络空间、物理世界深度融合,深刻改变人类生产生活方式和社会治理模式。为落实国务院《关于深入实施“人工智能+”行动的意见》,促进智能体规范应用与创新发展,制定本实施意见。一、基本原则以推动科技创新、提升治理能力、构建产业生态、增进民生福祉为导向,坚持安全可控,将智能体安全、可靠、可信作为发展的底线要求,贯穿智能体技术研发、应用部署与推广的全过程,切实防范系统性风险。坚持规范有序,适应智能体技术演进规律,构建与现有政策法规衔接顺畅、行业自律自治、底线红线清晰的治理体系,有序推进智能体落地应用。坚持创新驱动,加强理论创新、技术创新、工程创新联动,体系化突破智能体关键技术,完善政产学研用协同机制,构建开放共享的智能体生态,提升产业创新活力。坚持应用牵引,重点围绕科学研究、产业发展、提振消费、民生福祉、社会治理等实际需求,发挥典型应用场景示范效应,先易后难、循序渐进,促进智能体技术验证、产品迭代、应用落地。二、夯实发展基础夯实技术底座,健全标准体系,降低智能体研发、适配、应用门槛,为丰富智能体产品及服务奠定基础。(一)完善技术底座1.强化基础技术研发。持续提升通用基础模型性能,支持行业发展细分领域专用模型,形成适应不同场景和设备的模型产品矩阵。面向智能体训练与运行,提升高质量数据集供给能力。加强智能体任务理解、任务规划、工具使用、长期记忆、互认互通、群体协同等技术攻关,提升智能体泛化能力。2.完善智能体工具链。开展智能体底层框架研究,加快研发感知、记忆、决策、交互、执行等关键组件,完善智能体研发、测试、部署、运维等工具链。发展对抗样本检测、行为异常检测等安全与治理工具,提升对智能体非合规行为的发现、干预、阻断、恢复能力。(二)构建标准协议3.建立智能体标准体系。制定智能体标准化工作指导文件,形成智能体标准框架,系统布局关键技术、重要产品、数据交换、应用场景、质量评测、安全保障、可信认证等标准体系,加快制定智能体与软件工具、应用服务、硬件外设接口等基础标准。加强智能体互联协议(AIP)等智能体互联关键国家标准、行业标准的推广应用。支持医疗、交通、媒体、公共安全等领域制定强制性标准。鼓励企业按照相关标准研发产品服务,提升智能体规范性。积极参与国际标准制定。4.布局发展智能互联网。研究建立智能互联网体系架构,探索建立智能体注册平台,提供智能体数字身份管理、检索发现、能力声明等服务,支持开发者、部署方式、接口协议、合规认证等信息查询和管理。提升多智能体协同能力,研究智能体身份标识、可信互联、合规支付、安全防护、冲突解决等基础技术。发挥互联网协议第六版(IPv6)技术优势,提升智能体端到端通信能力。探索建立智能互联网监测指标体系。三、守牢安全底线坚持以人为本、智能向善、多元共治、安全稳妥,营造规范发展、鼓励创新的制度环境,促进智能体健康有序发展。(一)明确产品准则5.完善政策法规和伦理规范。加快研究智能体相关政策法规及伦理规范,发挥专业机构内容资源和审核把关优势,确保智能体行为符合法律法规及主流价值观。防止智能体利用数据优势、人格化技术实施传播不良价值观、算法压榨等行为,防范未成年人、老年人沉迷成瘾、情感依赖等风险。做好与人工智能伦理审查等制度衔接。6.明确决策权限。在遵守法律法规、尊重社会公德和伦理规范前提下,厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等各种决策方式的合理边界及所需权限。确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。7.加强行为管控。发展规则内嵌、行为围栏等技术,确保智能体在公共场所、隐私场所、专门场所等的行为合法合规。探索利用区块链等技术,建立重要应用场景智能体行为可验证、可追溯机制,防范智能体不当行为引发重大风险。(二)防范安全风险8.提升内生安全能力。研究智能体数据安全、个人信息保护、密码防护、攻击检测、权限管理、行为控制等安全技术,提升智能体系统安全保障能力,防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。研究智能体安全检测技术,探索建立智能体安全评估体系。9.加强供应链安全。制定智能体开发、部署、应用、维护等全周期安全规范,加强模型接入、应用程序接口调用、扩展工具使用等环节安全管理。探索建立智能体供应链安全信息共享和预警机制,及时发布风险提示,提升安全保障能力。10.化解应用衍生风险。完善智能体常态化风险识别、预警及干预机制,强化人机协同审核、拦截阻断等风险处置能力,防范系统性安全风险。强化智能体应用安全管理,避免智能体被用于自动化攻击、隐私侵犯、虚假信息生成传播、网络诈骗等违法犯罪行为。(三)完善治理体系11.构建分类分级治理框架。根据应用场景和潜在影响,审慎稳妥开展智能体分级治理。对于敏感领域及重点行业,由网信部门联合行业主管部门确定开放场景,根据相关法律法规、监管要求和安全防护标准,实行备案、检测、问题产品召回等管理措施。对于部分生活娱乐、日常办公等低风险领域,完善智能体评估测试工具,通过合规自测、信息报告、分发平台管理、行业自律等实现高效治理。12.健全合规服务体系。强化智能体风险监测预警、检测评估、咨询、认证等专业服务供给,引导行业积极研发智能体监测工具。开展智能体功能、性能、质量、合规等第三方评测服务,推动认证与检测结果互通互认,为用户选择智能体提供参考。编制并发布智能体技术及应用成熟度报告,为产业研发应用提供参考。(四)强化行业自律13.引导行业加强自律。鼓励行业组织、主要企业联合制定行业自律规则,明确智能体功能合规、算法治理、知识产权保护、公平竞争等规范细则。指导智能体开发平台、分发平台、服务提供者建立公平合理的平台规则、用户服务协议及隐私政策,明确供需双方权责,保障产业健康发展。加强智能体应用风险宣传教育,提升用户安全意识。14.探索信用评价机制。指导行业组织建立智能体市场主体自愿参与的信用评价机制,对于技术滥用、诱导消费、虚假宣传、隐瞒缺陷信息等行为进行信用评价,依法依规开展失信惩戒。引导智能体开发者、开发平台、分发平台、服务提供者等参与信用评价,共同营造良好发展环境。四、强化应用牵引积极稳妥推动智能体典型场景应用,牵引技术产品优化提升,探索形成可复制、可推广的智能体落地应用模式。(一)科学研究15.科研探索。研发理论推演、模拟仿真等智能体,挖掘潜在技术路径。强化智能体信息关联整合、知识体系构建等能力,提升自然科学、哲学社会科学研究发现能力。促进智能体与科学仪器、实验平台融合,实现方案设计、实验操作、数据处理、结果分析等全流程智能化。16.研发辅助。发展软件开发智能体,提升需求分析、架构设计、代码生成与测试等全流程开发能力。促进智能体与计算机辅助设计(CAD)、计算机辅助工程(CAE)等软件结合,提供设计方案生成、仿真验证、参数调优等功能。(二)产业发展17.智能制造。研发生产管理智能体,动态优化生产排程、资源分配和工序衔接,推动智能体在工业互联网领域应用,提升企业精细化管理水平。提升智能体工艺参数优化、加工精度检测、产品缺陷识别等能力,促进智能体与数控机床、工业机器人、自动化产线等融合,促进提质增效降本。18.能源资源。研发大气、水体、土壤、噪声等环境要素感知智能体,提升自然灾害、环境污染等风险预警能力。依托智能体强化对国土空间资源全周期管理能力。依托智能体实现能源、金属等矿产资源高效勘探。发展电力调度、用电监测、电网维护等智能体,提升电力资源使用效率。19.交通运输。研发交通安全监管、应急指挥调度等智能体,提升违章违规行为识别、交通基础设施风险预警、重点车辆(船舶)监管、事故快速响应等能力。优化交通监测调度智能体性能,发展交通载运工具管控智能体,提升路网、水网、空域的通行效率。20.农业生产。研发农业服务智能体,开展农技指导、病虫害诊断与防治等服务。推动智能体在种植养殖、高效育种等环节应用,推进农业智能化转型。推动智能体与智能农机具、智慧大棚、农业服务平台融合,提升农业生产效率。21.金融服务。研发金融风控智能体,提升信贷审批、交易监控、账户安全等环节风险识别能力。完善智能体异常检测、合规审计功能,提升信贷违约预测、信用卡盗刷拦截、反洗钱监测等能力。(三)提振消费22.终端应用。推动智能体赋能互联网应用及服务,优化在线购物、出行导航、生活缴费、日常办公等服务体验。推动智能体与手机、电脑、汽车、家居、可穿戴、消费级机器人等终端设备协同发展,提升跨应用、跨设备任务完成能力。23.文化旅游。研发文学、音乐、绘画、视听、演艺等内容创作智能体,促进优秀文化传播推广。发展智能导览、多语种翻译、适老适残等旅游服务智能体,提升旅游服务水平。24.商业服务。提升智能体客服能力,提供7×24小时咨询、预约、售后等服务。发展导引、清洁、仓储、配售等具身智能体,提升餐饮、零售、住宿、物流等商业场所的运营效率。探索通过具身智能体提供低成本家政、养老、托育、助残等服务。(四)民生福祉25.教育教学。探索课件生成、作业批改、学情分析等智能体,提高教师工作效率。依托智能体开展个性化学习方案制定,完善智能导学、答疑辅导、虚拟助教等功能。支持在线教育平台研发智能体,提供终身学习服务。26.医疗健康。提升医学影像分析、疾病诊断推理、定制化诊疗方案生成等医疗辅助智能体性能,探索药品管理、手术排程、病历管理等智能体,提升医疗服务效率。稳步发展预问诊、报告解析等智能体,提升患者体验。27.人力资源。探索智能体在就业促进、技术技能人才培养评价、劳动关系公共服务等领域应用,提升就业服务能力。发展社会保险、劳动争议仲裁、欠薪治理等智能体,保障劳动者合法权益。28.信息服务。探索智能体在网络内容建设管理中的应用,鼓励信息发布部门和内容传播平台研发用户分析、选题策划、采编加工、分发推荐、智能审核、舆论引导、情绪疏导、实时翻译等智能体,实现多模态信息、跨领域信息的高效整合。(五)社会治理29.政务服务。探索事项辅助审批智能体,推动政务审批流程智能化。发展政策咨询智能体,提供全天在线的政务咨询、流程指引等服务。探索主动推送适配政策、服务提醒及办理指南,加快从“人找服务”向“服务找人”转型。30.司法服务。探索全流程办案辅助智能体,提升案件材料梳理、案件信息录入、证据审查、辅助法律文书生成等能力。发展法律宣传、法律咨询、法律监督等智能体,为群众提供高效便捷的在线司法服务。31.公共安全。探索监测预警、应急处置、救援调度、协同治理等智能体,提升安全生产监管和防灾减灾救灾等能力。提升智能体异常行为识别、潜在威胁预警、动态防控处理能力,维护公共安全。推动具身智能体在灾害救援、安防巡检、危险品处置等领域落地应用。32.城市治理。探索智能体在城市规划、建设与治理环节应用,支撑智能建造、房屋管理、城市基础设施安全运行等工作,提升城市治理专业化水平,提升城市人居环境质量。33.招标投标。探索招标投标智能体,实现招标投标活动全链路智慧管理,保障全过程规范高效。提升招标投标交易、服务和监管的智慧化水平,实现招标科学合理、评标公平公正和监管穿透高效。五、建设创新生态畅通供需渠道,促进研发侧、需求侧高水平互动,形成市场牵引、内驱发展的智能体产业生态。(一)促进产业合作34.培育开源创新力量。引导国内人工智能开源社区加强智能体布局,开展智能体与开源芯片、开源操作系统、开源大模型兼容适配。引导企业、高校、科研机构积极参与智能体框架、交互接口、工具链等开源项目,推动技术体系融通发展,加快提升国际影响力。35.搭建产业协作平台。发挥智能体相关生态联盟、技术验证实验室等产业协作平台的作用,协同产业链上下游开展智能体共性技术研发、标准制定、评估认证等工作,开展智能体技术与产业应用复合人才培养。引导互联网应用、智能终端等领域企业共建生态,探索建立互利共赢的合作模式。(二)强化应用推广36.构建应用推广渠道。推动建立智能体软件商店、行业供需信息发布平台,引导智能体企业积极发布产品,形成集聚效应。开展智能体应用供需对接活动,采取公开招标、揭榜挂帅等方式吸引智能体企业定制化开发相应产品。引导整机、软件等企业基于智能体研发产品和服务,培育用户市场。37.推进重点场景开放。推动重点领域开放智能体应用场景,在产业集聚区、重点行业、重点领域开展智能体应用试点,打造一批具有引领作用的示范项目。发展市场化、专业化的智能体技术转化服务机构,探索智能体应用场景,提升技术成果转化效率。促进行业数据共享开放,支撑重点场景智能体训练部署。38.积极培育全球生态。依托世界人工智能大会、世界互联网大会等国际平台,交流展示智能体技术创新成果。推动终端设备、软件企业适配智能体,引导相关企业做好海外合规建设,推动智能体适应当地法律法规和文化习俗。六、保障措施国家网信办、国家发展改革委、工业和信息化部会同有关方面加强统筹谋划,强化资源整合和力量协同,完善配套政策,形成工作合力,推动重点任务落实落地。建立并完善智能体发展评价指标体系,加强智能体规范应用与创新发展的监测评估、滚动实施和动态调整。
新浪微博 2026-05-08 00:00:00
31. 【 #工信部提醒防范AI龙虾安全风险#】近日,能替你干活的AI龙虾爆火,#ai龙虾爆火有人花500元请人安装##ai龙虾爆火有人几天赚了26万#。但是这款工具的广泛应用在全球范围内引发了关于隐私边界与数字风险的激烈讨论。此前,工业和信息化部网络安全威胁和漏洞信息共享平台(NVDB)发布《关于防范OpenClaw开源AI智能体安全风险的预警提示》,文章指出平台监测OpenClaw开源AI智能体部分实例在默认或不当配置情况下存在较高安全风险,极易引发网络攻击、信息泄露等安全问题。工信部提醒:建议相关单位和用户在部署和应用OpenClaw时,充分核查公网暴露情况、权限配置及凭证管理情况,关闭不必要的公网访问,完善身份认证、访问控制、数据加密和安全审计等安全机制,并持续关注官方安全公告和加固建议,防范潜在网络安全风险。@大众新闻-半岛都市报 大众新闻-半岛都市报的微博视频
新浪微博 2026-03-08 00:00:00
32. 【#警惕AI龙虾悄悄下载木马病毒#】近日,国家计算机病毒应急处理中心发布监测预警,多款“龙虾”智能体的技能包中暗藏恶意代码。此类计算机病毒网络攻击活动持续活跃,用户应提高警惕。技术人员在对这些资源开展专项安全检测时发现,这类恶意代码能将“龙虾”智能体转化为攻击媒介与跳板,非常容易衍生系列安全问题。 http://t.cn/AXxkt96u
新浪微博 2026-05-03 00:00:00
33. 2025过去了!这一年你是不是也在为AI焦虑? 老周用360一整年的实践,告诉你答案:不用怕,抓住Agent就赢了! 从我自己敲代码做100多个智能体,到带领团队All in,这条AI布道之路,全是实战干货。 2026,你想和智能体一起搞定啥?评论区留言,老周帮你研究!#大咖观察#2026 #年度总结 #红衣聊AI #agent
抖音 2025-12-31 00:00:00
34. 360发布“养龙虾”安全指南! #大有学问 #养龙虾 #OpenClaw #AI工具 #红衣聊AI
抖音 2026-03-11 00:00:00
35. MSE Nacos Prompt 管理:让 AI Agent 的核心配置真正可治理
知乎 2026-02-27 00:00:00
36. 《互联网平台反垄断合规指引》发布,明确“二选一”“全网最低价”等8个新型垄断风险
知乎 2026-02-13 00:00:00
37. 澜舟科技周明:五大挑战拖慢企业AI落地,智能体工程是破局关键
微信公众号 2026-04-16 00:00:00
38. 智能体,正在决定企业的生死? #大有学问 #红衣聊AI #智能体 #AI工具
抖音 2026-04-16 00:00:00
39. 千亿智能体爆发前夜,谁来保护我们的AI安全?|甲子光年
微信公众号 2025-12-23 00:00:00
40. 【张捷杂谈】网络养龙虾火爆下的便利与安全双刃剑#热点观点##张捷杂谈##工信部专家提示6个方面安全用龙虾##无锡养龙虾政策最高补贴500万# 近日,开源 AI 智能体 Open Claw(俗称 “龙虾”)走红网络,可自主操作设备、完成上网、支付等任务,南方企业积极支持,江苏等地还推出最高 500 万元补贴。但海淀网信办提醒勿盲目安装,工信部更紧急预警其存在严重安全风险,高权限易引发数据泄露、恶意操控,甚至危及个人与国家网络安全。该技术在带来便利的同时,也加剧算法杀熟、隐私泄露等问题。对此不应一刀切禁止,需在鼓励技术创新的同时,强化安全审查、压实平台责任,统筹跨区域监管,平衡发展与安全。 张捷观察-谁是谁非任评说的微博视频
新浪微博 2026-03-11 00:00:00
41. 国际关注 | MHRA首席执行官Tallon:希望建立风险相称的医疗器械与人工智能监管体系
微信公众号 2026-04-27 00:00:00
42. 瑞银企业调查:六成企业选择“自制”AI而非购买现成,“AI智能体”仅有5%真正落地
知乎 2025-12-17 00:00:00
43. 从能聊天的大模型,到会干活的智能体,AI正迎来全新进化。 企业AI落地的机会就藏在这里。#网络名人赞两会 #2026全国两会 #红衣聊AI #产业升级
抖音 2026-03-10 00:00:00
44. 【张捷杂谈】AI手机对战平台,用户的裸奔与茧房升级#热点观点# #张捷杂谈# #豆包手机助手开始AI操作手机能力调整# AI 深度植入手机操作系统引发行业与用户层面的双重争议。一方面,其跨 APP 数据调用能力牵动平台命脉,引发包括社交软件在内的平台间 “生死之争”,腾讯等企业已作出相关反应,相关动态也被媒体关注和评述。另一方面,用户处境堪忧,AI 可整合全平台数据实现精准画像,还会 “看人下菜碟”,依据用户立场推送差异化观点,加剧信息茧房。这与早年电商精准推送争议相似,如今电商 “大数据杀熟” 已成现实。而 AI 介入手机底层数据还将重构平台商业逻辑,用户却始终处于弱势。为此,呼吁政府介入,优先保障用户权益,避免全民信息茧房遏制社会创新与进步。 http://t.cn/AXyNkP8C
新浪微博 2025-12-07 00:00:00
45. #小鲁提醒# 【#AI养龙虾存在安全风险#】#AI龙虾存在多重安全隐患# 近期,工业和信息化部网络安全威胁和漏洞信息共享平台监测发现OpenClaw(俗称“龙虾”)开源AI智能体部分实例在默认或不当配置情况下存在较高安全风险,极易引发网络攻击、信息泄露等安全问题。OpenClaw(曾用名 Clawdbot、Moltbot)是一款开源AI智能体,其通过整合多渠道通信能力与大语言模型,构建具备持久记忆、主动执行能力的定制化AI助手,可在本地私有化部署。由于OpenClaw在部署时“信任边界模糊”,且具备自身持续运行、自主决策、调用系统和外部资源等特性,在缺乏有效权限控制、审计机制和安全加固的情况下,可能因指令诱导、配置缺陷或被恶意接管,执行越权操作,造成信息泄露、系统受控等一系列安全风险。建议相关单位和用户在部署和应用OpenClaw时,充分核查公网暴露情况、权限配置及凭证管理情况,关闭不必要的公网访问,完善身份认证、访问控制、数据加密和安全审计等安全机制,并持续关注官方安全公告和加固建议,防范潜在网络安全风险。
新浪微博 2026-03-08 00:00:00
46. #工信部提醒养龙虾警惕安全风险#【#养龙虾配置不当或造成信息泄露#】近日,AI养“龙虾”火了。工信部近期监测发现,OpenClaw开源AI智能体(俗称“龙虾”)部分实例在默认或不当配置的情况下,存在较高的安全风险,并提示用户警惕由此引发的网络攻击、信息泄露等安全问题。(央视频)央视频的微博视频
新浪微博 2026-03-10 00:00:00
47. 三部门联合发文,AI智能体正式进入"有法可依"时代
微信公众号 2026-05-08 00:00:00
48. AI智能体的“交规”出来了,这是好事还是坏事?
微信公众号 2026-05-10 00:00:00
49. 人工智能新政|开发者必读的智能体规范
小红书 2026-05-09 00:00:00
50. 用智能体对今天静悄悄发布的,首个智能体政策的洞察
微信公众号 2026-05-08 00:00:00
51. 监管动态 | 三部门联合印发!《智能体规范应用与创新发展实施意见》正式发布
微信公众号 2026-05-09 00:00:00
52. 《智能体规范应用与创新发展实施意见》深度解读(2026年5月)
微信公众号 2026-05-08 00:00:00
53. 三部委联合发文,智能体监管国家级政策落地
微信公众号 2026-05-11 00:00:00
54. 国家AI政策大盘点
微信公众号 2026-05-12 00:00:00
55. 智能体正式进入监管周期
知乎 2026-05-08 00:00:00
56. AI监管落地!智能体规范+终端分级国标出台
微信公众号 2026-05-09 00:00:00
57. AI新规速看!三部委联合划定智能体安全红线
微信公众号 2026-05-09 00:00:00
58. 《智能体规范应用与创新发展实施意见》解读
微信公众号 2026-05-12 00:00:00
59. 重磅!国家三部门今日发文
微信公众号 2026-05-11 00:00:00
60. 政策速递 | 《智能体规范应用与创新发展实施意见》
微信公众号 2026-05-09 00:00:00
61. 重磅!中国首部 Agent 政策落地!19 大场景 + 70% 普及率,开启智能体规范化新纪元
微信公众号 2026-05-11 00:00:00
62. 专栏丨全球AI Agent身份管理法治进展
微信公众号 2026-05-05 00:00:00
63. 不动声色、自有分寸——中国的AI治理2025年度回顾及展望
微信公众号 2026-01-27 00:00:00
64. 重磅!国家三部门今日发文
微信公众号
65. 智能体政策红利的19个赛道
微信公众号 2026-05-10 00:00:00
66. AI智能体迎来国家标准!三部门联合发文,行业发展进入规范期
微信公众号 2026-05-09 00:00:00
67. 智能体监管来了
微信公众号 2026-05-09 00:00:00
68. 专家解读|以规范应用护航智能体发展行稳致远
微信公众号 2026-05-11 00:00:00
69. 行为管控+内生安全!智能体规范发展明确四大原则
微信公众号 2026-05-09 00:00:00
70. 别再单起炉灶
微信公众号 2026-04-02 00:00:00
71. 金磐石
微信公众号
72. 三部门出手规范智能体应用,全国首部“AI智能体应用效能”标准诚邀起草!
微信公众号
73. AI智能体+政策+安全 | 05-09
微信公众号
74. 《智能体规范应用与创新发展实施意见》信息采集报告
微信公众号
75. 网信办等三部门联合印发《智能体规范应用与创新发展实施意见》,AI Agent迎来规范化发展新时代
微信公众号 2026-05-11 00:00:00
76. 网信办发布AI智能体重磅文件
微信公众号 2026-05-09 00:00:00
77. 一文看懂 TC260 智能体安全研究报告
微信公众号 2026-04-16 00:00:00
78. 【重点】2026智能体安全标准化研究报告|附下载
微信公众号 2026-04-13 00:00:00
79. 首批!中国信通院《可信云·企业级专属智能体(Claw类)技术能力要求》评估工作持续启动
微信公众号 2026-05-12 00:00:00
80. 北大港大联手
微信公众号 2026-04-10 00:00:00
81. 重磅!国家网信办等三部门联合发布《智能体规范应用与创新发展实施意见》
微信公众号 2026-05-09 00:00:00
82. 国家网信办就《智能体规范应用与创新发展实施意见》答记者问
微信公众号 2026-05-09 00:00:00
83. “五眼联盟”网络安全机构联合发布智能体AI安全部署铁律
微信公众号 2026-05-02 00:00:00
84. 三部门联合发文,AI智能体正式进入"有法可依"时代
微信公众号 2026-05-08 00:00:00
85. 智能体规范应用与创新发展实施意见
今日头条 2026-05-11 00:00:00
86. 工信部警示:党政机关与个人请审慎使用“龙虾”等智能体
今日头条 2026-03-11 00:00:00
87. 2026_智能体安全标准化研究_92页_1mb.pdf
微信公众号 2026-04-15 00:00:00
88. 网信办等三部门联合印发《智能体规范应用与创新发展实施意见》
今日头条 2026-05-08 00:00:00
89. 国家突然出手!AI 智能体新规正式落地,所有人都要注意了
今日头条 2026-05-10 00:00:00
90. Anthropic推出金融AI Agent!工信部等印发《智能体规范应用与创新发展实施意见》,AI智能体应用工程师证书报考指南
微信公众号 2026-05-09 00:00:00
91. 智能体安全标准化研究报告 全国网安标委 2026
微信公众号 2026-04-09 00:00:00
92. OpenClaw类智能体部署使用安全指引
微信公众号 2026-04-28 00:00:00
93. 重磅!国内首个智能体专项政策发布,开启产业规范化发展黄金期
微信公众号 2026-05-09 00:00:00
94. 智能体意见出台,企业合规怎么做?
微信公众号 2026-05-09 00:00:00
95. 智能体AI入场前先补安全课
微信公众号 2026-05-04 00:00:00
96. 观察 | 国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》
微信公众号 2026-05-09 00:00:00
97. AI 陪聊有了 “紧箍咒”!国家网信办出新规,划定情感互动服务红线
知乎 2025-12-31 00:00:00
98. 话题观点|AI Agent监管前瞻:电信法规架构的未来走向
微信公众号 2025-12-10 00:00:00
99. 国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》2026年5月8日
微信公众号 2026-05-11 00:00:00
100. 政策资讯 事关智能体发展,三部门联合发文!
微信公众号 2026-05-09 00:00:00
101. 中国信通院正式启动《企业级专属智能体(Claw类)技术能力要求》评估工作
微信公众号 2026-04-14 00:00:00
102. 360“用AI监管AI”成果落地:以安全智能体对抗AI智能体的潜在风险
今日头条 2026-04-07 00:00:00
103. 中国移动牵头智能体安全研究报告获评TC260优秀研究课题
微信公众号 2026-05-10 00:00:00
104. 国家网信办:将智能体安全、可靠、可信作为产业发展的底线要求 规范有序推动智能体落地应用
今日头条 2026-05-09 00:00:00
105. AI 智能体迎来黄金时代 —— 工信部 “人工智能 + 软件” 专项行动解读
微信公众号 2026-05-01 00:00:00
106. 三部门印发《智能体规范应用与创新发展实施意见》
今日头条 2026-05-08 00:00:00
107. 《行动中的AI智能体:评估与治理的基础》34页报告
微信公众号 2025-12-10 00:00:00
108. 【标准发布】关于公开征求团体标准《智能体安全评测规范》(征求意见稿)意见的通知
微信公众号 2025-12-20 00:00:00
109. 重磅消息三部门联合印发规范意见
微信公众号 2026-05-10 00:00:00
110. 中国信通院可信AI智能体评估体系2.0发布
微信公众号 2026-04-15 00:00:00
111. AI安全治理2026:企业部署AI Agent必须守住的五条红线
知乎 2026-04-22 00:00:00
112. 行业观察丨AI伦理·智能体·公共数据·扫码入企,05.07~05.10 国家重点政策汇览
微信公众号 2026-05-12 00:00:00
113. 三部门部署智能体规范应用与创新发展
今日头条 2026-05-08 00:00:00
114. AI 拟人化服务迎强监管:有底线的温暖,才是技术的归途
微信公众号 2025-12-29 00:00:00
115. 关于召开《AI智能体应用安全分级》规范研讨会的通知
微信公众号 2026-03-30 00:00:00
116. 智能体重点应用领域有哪些?三部门发文明确
微信公众号 2026-05-09 00:00:00
117. AI 伦理治理新规落地,行业迈入合规化发展新阶段
今日头条 2026-05-06 00:00:00
118. 国家五部门重磅下令!严禁未成年人使用"AI恋人",每2小时强制提醒!
微信公众号 2026-04-11 00:00:00
119. 指南发布 | 智能体应用程序安全指南&AI智能体—威胁与缓解措施
微信公众号 2025-12-26 00:00:00
120. 第61期 AI服务管理规范之二——智能体
知乎 2026-02-15 00:00:00
121. OpenClaw 智能体安全思考:核心风险与解决方案
微信公众号 2026-03-11 00:00:00
122. 重磅 → 三部门发文,官方定调!智能体重点应用领域正式明确
微信公众号 2026-05-12 00:00:00
123. 大模型一体机产品安全基本要求
微信公众号 2025-11-19 00:00:00
124. FAIS参编征集|关于征集《金融智能体 智能体应用分级安全要求》标准参编单位的通知
微信公众号 2026-03-23 00:00:00
125. 安盟信息参编的《人工智能 智能体内生安全技术要求》正式实施
知乎 2026-04-07 00:00:00
126. 动态 | 煤科总院通过中国信通院“可信AI”智能体应用服务评估
微信公众号 2025-12-19 00:00:00
127. 欧盟委员会以答疑形式释义智能体监管立场
微信公众号 2026-04-15 00:00:00
128. 中国信通院【首批】企业级类Claw智能体安全能力评估正式启动!
微信公众号 2026-04-15 00:00:00
129. 58页 | 2025年AI智能体在未来产业创新上的前沿应用与发展趋势报告
微信公众号 2026-02-23 00:00:00
130. “让智能更安全”,安恒范渊:网络安全防护应以AI监管AI
今日头条 2026-04-14 00:00:00
131. 关于征集“客服智能体应用安全能力要求和评估技术规范”参编单位的通知
微信公众号 2026-02-10 00:00:00
132. 国家网信办等三部门:加快研究智能体相关政策法规及伦理规范
今日头条 2026-05-09 00:00:00
133. 《智能体数据安全技术要求与评估方法》参编单位征集启动
微信公众号 2026-03-06 00:00:00
134. 国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》
今日头条 2026-05-11 00:00:00
135. IDC认证!360登顶中国智能体安全能力评估 综合能力位列安全行业第一
微信公众号 2026-04-25 00:00:00
136. 《OpenClaw类智能体部署风险管理指南》正式发布
今日头条 2026-04-10 00:00:00
137. 多智能体系统安全风险分析
微信公众号 2026-04-24 00:00:00
138. 以“智能+平台+生态”重新定义城市安全范式新智聚安入选2025爱分析AI Agent权威报告
微信公众号 2025-12-25 00:00:00
139. AI在基层医疗中的应用:专家警示安全风险、技术发展超前于监管
今日头条 2025-12-18 00:00:00
140. Openclaw安全使用规范 - 哔哩哔哩
哔哩哔哩 2026-04-10 00:00:00
141. 2026年OpenClaw类智能体部署风险管理指南
微信公众号 2026-04-16 00:00:00
142. 国家网信办等三部门联合发力:以信用评价构筑智能体规范发展防线
微信公众号 2026-05-12 00:00:00
143. 《智能体规范应用与创新发展实施意见》印发
今日头条 2026-05-09 00:00:00
144. 三部门给AI智能体“划重点”:以后这些地方全是它的活儿!
微信公众号 2026-05-10 00:00:00
145. 《企业级AI智能体应用效能评估规范》全国首个聚焦企业级AI智能体的评估标准正式立项
微信公众号 2026-04-02 00:00:00
146. AI 数据治理新规落地,企业的机遇与挑战在哪里?
今日头条 2025-12-03 00:00:00
147. 《OpenClaw类智能体部署风险管理指南》发布
微信公众号 2026-04-10 00:00:00
148. 《人工智能行业:OpenClaw类智能体部署风险管理指南》业务要提效,安全怎么保?
微信公众号 2026-04-20 00:00:00
149. AI时代保驾护航,用户安全行动指南
今日头条 2025-12-26 00:00:00
150. 汇业研究 | 企业在中国境内部署及应用AI Agent的主要法律问题(二)
微信公众号 2025-12-14 00:00:00
151. 会议纪要丨探索AI治理新路径 赋能健康新生活——医疗AI伦理治理创新研讨会在西安成功举办
微信公众号 2025-12-30 00:00:00
已收藏
去我的收藏夹