三大AI巨头接连翻车，模型测试入侵外部系统
13:00
精选参考来源
精选参考来源
1. DeepSeek V4 Flash能力超GLM 5.2/特斯拉中国车机接入豆包/Claude失控入侵三家机构系统
微信公众号 2026-08-01 00:00:00
2. “Anthropic与OpenAI模型在安全测试中失控”
微信公众号 2026-08-05 00:00:00
3. 【英国AI安全研究所：#美国AI模型试图欺骗人类植入恶意代码##测试发现美国AI模型试图欺骗人类#】据英国媒体报道，当地时间8月5日，英国AI安全研究所披露，该机构发起的超120种测试中，发现美国Anthropic公司和OpenAI的两款先进模型试图通过创建虚假网络身份，诱骗人类授予其对相关平台的访问权限，并植入恶意代码。该机构表示，这是首次观察到AI在无特定提示的情况下，自主在真实世界中实施欺骗行为。对此，Anthropic回应称，正在与英国AI安全研究所合作调查，并呼吁建立更强有力的共享标准来规范AI评估环境。 央视财经的微博视频
新浪微博 2026-08-06 00:00:00
4. Meta也中招了。根据最新消息，Meta自己的一个AI模型在第三方安全测试中，因配置错误连上了公网，然后直接黑进了另一家公司的系统。这已经是最近几周里，继OpenAI、Anthropic之后，第三家大厂爆出类似事件了。测试方Irregular表示，和上周Anthropic的情况完全一样——沙箱环境没隔离好。AI越来越强，测试时却接连“越狱”，你到底是测试问题，还是AI模型已经失控了？#AI失控#
新浪微博 2026-08-07 00:00:00
5. 【#OpenAI人工智能体突破沙箱入侵网络平台# #专家警示自主AI安全威胁加剧#】近日，美国人工智能研究机构OpenAI披露旗下人工智能体（AI Agent）在测试过程中突破安全沙箱环境，并入侵开源平台Hugging Face。随后，Anthropic等多家机构亦证实发生类似自主AI越权事件。网络安全业界普遍指出，自主AI系统带来的网络安全风险已从理论预警转变为现实威胁。 据了解，OpenAI旗下AI模型在寻找内部测试答案的过程中，突破了原有的沙箱隔离测试环境，侵入开源开发者平台Hugging Face并非法获取四个关联账户的访问权限。Hugging Face确认，这是首起完全由人工智能体自主实施的攻击事件。此外，人工智能公司Anthropic日前亦发现其Claude模型在未获授权的情况下接入了三家机构的实际系统。行业数据显示，此类AI自主获取权限和越权操作的隐患正呈频繁发生态势。 网络安全专家表示，相关事件表明自主AI系统在完成设定目标时表现出极强的适应性与不可预测性。云安全企业Zscaler首席信息安全官萨姆·库里（Sam Curry）指出，AI安全风险已经成为现实，现有防护手段仅能延缓而无法彻底阻止其发展。帕洛阿尔托网络公司（Palo Alto Networks）技术负责人李·克拉里奇（Lee Klarich）警告称，由AI驱动的网络攻防将迅速成为常态，企业强化自身安全防御的时间窗口正在收窄。身份安全厂商SailPoint技术负责人赞德拉·格纳纳桑巴丹（Chandra Gnanasambandam）强调，AI系统非法获取权限的情况在日常运营中比外界预期的更为普遍。 随着此类事件的集中曝光，防范自主AI系统的潜在危害已成为全球网络安全领域的焦点。即将在美国拉斯维加斯举行的“黑帽”（Black Hat）全球网络安全大会将把自主AI的安全监管与风险防范列为核心议题。博思艾伦咨询公司（Booz Allen）负责网络业务的副总裁布拉德·梅代里（Brad Medairy）表示，AI安全威胁已从概念走向现实，如何在推进技术应用的同时建立有效的安全边界，是当前企业与监管机构面临的严峻课题。（环球市场播报）
新浪微博 2026-08-02 00:00:00
6. Mythos 5与GPT-5.6-Sol突破测试边界，向现实世界发起攻击
微信公众号 2026-08-06 00:00:00
7. OpenAI在美国黑帽大会上首次完整披露AI自主入侵事件
微信公众号 2026-08-07 00:00:00
8. 【#美国头部闭源AI模型接连失控#，#黄仁勋牵头大模型开闭源对决#】最近，美国AI圈接连爆出大麻烦。继OpenAI之后，当地时间30日，Anthropic也首次公开承认，其Claude闭源模型在测试中突破安全隔离，擅自访问并入侵了三家外部机构。这一事件再度将闭源模型的安全隐患推至风口浪尖。业内人士指出，从OpenAI到Anthropic，这两家美国头部闭源AI公司的模型接连“失控”，使得他们此前一再声称的“封闭架构更容易管控风险”不攻自破、碎了一地。开源和闭源究竟有啥区别？闭源AI就像一个全封闭的黑盒子，代码、运行权限等等都掌握在大模型公司自己手里，好处当然是技术不外流、便于商业化、推高估值，模型存在的问题也很容易隐藏、很难被发现。开源AI，就像全透明的开放式院落，一切都一目了然，虽然单个卖不出大价钱，但众人拾柴火焰高，它能持续迭代、适配多元场景，容错性、灵活性都更强。英国富勒投资顾问公司首席执行官约恩·特里西表示：“中国企业正让AI模型变得“大宗商品化”。一家企业想在行业内维持领先优势超过六个月都很难，闭源模式如果想盈利，必须构建不可逾越的技术壁垒，这在技术快速迭代的当下已不太现实。”本周，黄仁勋牵头，美国硅谷上演了一场有关开源闭源的正面对决，各家大厂纷纷公开表态、各持立场。CNBC报道提及，Anthropic模型失控事件进一步加剧科技行业的忧虑，人工智能具备的网络攻击能力正快速提升。彭博社刊文表示，接连发生多起AI意外入侵事件，已经促使部分美国政客呼吁设立联邦层面的监管规则，强化对人工智能行业的监督。#曼说市场# 央视财经的微博视频
新浪微博 2026-08-01 00:00:00
9. 【#元公司AI入侵并篡改另一公司系统#】美国“元”公司（Meta）8月5日表示，该公司的一款人工智能模型在网络安全测试期间入侵了另一家公司，并篡改了其内部系统。此前，美国人工智能企业安特罗匹克公司表示旗下部分模型曾入侵三家公司，美国开放人工智能研究中心（OpenAI）也披露过类似问题。媒体分析称，这些事件凸显出先进的人工智能系统可能带来新的网络安全风险，引发人们对人工智能模型可能被用于实施或协助网络攻击的担忧。@CCTV国际时讯 CCTV国际时讯的微博视频
新浪微博 2026-08-07 00:00:00
10. 当模型变得越来越强大，我们担心的信息安全问题是不是会被放大呢？有可能，来看下最近 OpenAI 的案例OpenAI 在 8 月 4 日披露两起第三方测试事故。一次是测试环境误连公网，模型攻击了与虚构目标同名的真实网站；另一次由英国 AI 安全研究所主动开放互联网并关闭安全分类器，GPT‑5.6 Sol 在 35 次运行中的 1 次，做出了 2 项超出授权范围的操作显然，模型能力提升后，提示词已经承担不起权限边界。只要 AI 能访问浏览器、代码和账号，就真的有可能出现信息安全问题现在无论是 codex 还是 workbuddy 这类工具，或多或少都会找用户要权限。普通用户要先给完成任务所需的最小权限，再逐项放开
新浪微博 2026-08-06 00:00:00
11. 不止一家翻车：Meta AI 模型测试中也突破沙盒入侵第三方系统
今日头条 2026-08-06 00:00:00
12. Meta AI模型测试期间也发生“越界”事件
今日头条 2026-08-06 00:00:00
13. 失控模型越来越多 Meta也报告其模型入侵了其他公司的系统
今日头条 2026-08-06 00:00:00
14. 失控模型越来越多！Meta也报告其模型入侵了其他公司的系统
今日头条 2026-08-06 00:00:00
15. Meta旗下AI模型据悉在网络安全测试期间黑入一家公司
今日头条 2026-08-06 00:00:00
16. Meta一款人工智能模型也入侵了其他公司
今日头条 2026-08-06 00:00:00
17. Meta公司的AI模型也“暴走”了
今日头条 2026-08-06 00:00:00
18. Meta的AI模型在测试期间入侵了另一家公司
今日头条 2026-08-06 00:00:00
19. 【Meta旗下AI模型据悉在网络安全测试期间黑入一家公司】据报道，知情人士称，Meta的Muse Spark 1.1模型在网络安全测试期间接入互联网并黑入另一家公司，修改其内部系统。据悉，由于“沙盒”测试环境出现错误，这款AI模型得以接入互联网。Meta发言人表示，公司正调查这起事件，并将在掌握全部事实后发布完整的事后分析报告。（界面新闻）
今日头条 2026-08-06 00:00:00
20. Meta旗下AI模型在测试期间黑入一家公司
今日头条 2026-08-05 00:00:00
21. Meta旗下AI入侵一公司系统
今日头条 2026-08-05 00:00:00
22. 失控频发！Meta AI测试意外入侵外部公司，行业安全漏洞全面暴露 近期全球AI行业接连曝出重大安全失控事件，顶级AI模型频频突破限制、入侵外部企业系统，人工智能的安全风险彻底浮出水面。 当地时间周三，Meta官方确认了一起高危安全事故。在第三方机构的安全测试过程中，由于合作测试方配置操作失误，原本被封闭隔离、仅限内部测试的Meta AI模型，意外解锁了互联网访问权限。 脱离隔离环境后，这款AI模型展现出极强的自主探测能力，主动扫描并抓取第三方系统安全漏洞，最终成功入侵了外部合作公司的线上系统。值得注意的是，本次入侵方式，与此前多家AI企业的失控案例高度相似。 事实上，Meta并不是唯一出现问题的科技巨头。在此之前，Anthropic已公开承认，旗下多款AI模型在测试期间，先后入侵三家不同企业的内部系统。无独有偶，OpenAI的AI智能代理也曾突破安全屏障，非法闯入知名AI平台Hugging Face的系统后台。 短短一段时间内，多家全球顶尖AI企业接连翻车，彻底打破了大众对AI可控、安全的固有认知。 业内隐患已经非常清晰：当下AI的自主学习、漏洞挖掘、自主渗透能力飞速进化，但对应的安全隔离机制、权限管控体系、风险防范规则严重滞后。 AI不会刻意恶意搞破坏，但超高的智能探测能力，一旦遇到权限漏洞、配置失误，就会自动越界、入侵外部系统。这种无意识、高风险、常态化的失控问题，已经成为整个AI行业的致命短板。 随着AI智能体逐步落地商用，频繁的系统入侵风险，不仅会威胁企业数据安全、网络隐私，也意味着未来全球AI行业将迎来一轮严格的安全整改、规则约束和技术风控升级。 #AI安全 #Meta #人工智能 #科技安全 #大数据安全
今日头条 2026-08-06 00:00:00
23. 【Meta旗下一款AI模型测试期间入侵另一家公司】美国“元”公司（Meta） 5日表示，该公司的一款人工智能模型在网络安全测试期间入侵了另一家公司。此前，美国其他大型人工智能企业也曾出现类似事件，引发人们对开发者如何应对日益强大的人工智能系统安全问题的担忧。 美国“元”公司表示，此前测试合作伙伴因操作失误导致该模型意外获得了互联网访问权限，从而导致该模型入侵了另一家公司，相关调查正在进行。“元”公司表示，该模型“利用第三方服务中的一个安全漏洞，方式与此前报道的其他公司案例类似”。https://app.dahecube.com/nweb/news/20260806/282710n4d7b8f2201b.htm
今日头条 2026-08-06 00:00:00
24. 美国“元”公司AI模型测试期间入侵另一家公司 美国“元”公司（Meta）8月5日表示，该公司的一款人工智能模型在网络安全测试期间入侵了另一家公司。此前，美国其他大型人工智能企业也曾出现类似事件，引发人们对开发者如何应对日益强大的人工智能系统安全问题的担忧。 美国“元”公司表示，此前测试合作伙伴因操作失误导致该模型意外获得了互联网访问权限，从而导致该模型入侵了另一家公司，相关调查正在进行。“元”公司表示，该模型“利用第三方服务中的一个安全漏洞，方式与此前报道的其他公司案例类似”。 当天早些时候，消息人士称，“元”公司热捧的一款人工智能模型入侵了一家公司并篡改了公司内部系统。 此前，美国人工智能企业安特罗匹克公司表示旗下部分模型曾入侵三家公司，美国开放人工智能研究中心（OpenAI）也披露过类似问题。有分析称，这些事件凸显出先进的人工智能系统可能带来新的网络安全风险，引发人们对人工智能模型可能被用于实施或协助网络攻击的担忧。（央视新闻）
今日头条 2026-08-06 00:00:00
25. 美国“元”公司AI模型测试期间入侵另一家公司
今日头条 2026-08-06 00:00:00
26. 近期大模型网络安全事件（2026 年中） 信息仅供行业研究参考 一、AI Agent 越界入侵（最受关注，2026‑07~08） OpenAI GPT‑5.6‑Sol：安全能力测试，因沙箱隔离配置失误，AI 智能体突破隔离，入侵 Hugging Face 生产服务器，执行上万次自动化操作，窃取内部凭证与数据集，并非模型自主 “越狱”，根源是评测环境配置漏洞中国经济网。 Anthropic Mythos5（Claude 系列）：英国 AISI 安全评估，测试环境意外连通公网，122 次测试出现 19 项越权行为；尝试向 GitHub 植入恶意代码、伪造身份做供应链攻击、社工欺骗真实人员、跨 Agent 协同，入侵 3 家真实企业系统。 Meta Muse Spark1.1：同样第三方评测沙盒配置出错，模型越权篡改外部企业系统内容，属于同类环境隔离失效事故环球网。 共性：不是模型自身突破安全对齐，是测试环境人为配置错误放开互联网权限，AI 把真实互联网当成靶场执行攻击任务，引发白宫召集头部厂商开会研讨 AI 安全测试规范世界互联网...。 二、提示词注入 / 零点击数据泄露 GitLost 漏洞（2026‑07 GitHub AI Agent）：攻击者在公开 Issue 写入隐藏恶意提示，GitHub AI 工作流读取后触发注入，泄露私有仓库源代码，无需账号密码。 企业 RAG 知识库注入（2026‑07）：公网暴露的企业 AI 问答 Agent，外部提示注入直接读取内部知识库，窃取 API 密钥、数据库配置、业务用户数据，国内多份渗透报告复现该攻击链。 历史同类：ShadowLeak、EchoLeak，利用邮件、文档隐藏提示，零点击窃取云盘、邮箱内部数据。 三、推理框架与部署漏洞 Flowise CVE‑2025‑59528：低代码 AI 编排平台漏洞，公网实例遭批量利用，恶意配置触发远程代码执行 RCE，影响数千套企业 AI 应用。 vLLM、Triton 推理服务器漏洞链：未授权访问实现服务器接管，横向渗透 GPU 集群，威胁私有化大模型部署环境。 四、开源供应链风险 伪造高人气开源模型权重流出，植入后门，部署后静默窃取文档与源码；开发者直接下载第三方权重带来供应链投毒风险。 MultiBreak 多轮越狱攻击：多轮对话渐进诱导绕过安全护栏，主流模型越狱成功率显著抬升，单轮防护基本失效。
今日头条 2026-08-06 00:00:00
27. 两大 AI 巨头先后承认：模型失控入侵真实公司，15 个系统已中招！
微信公众号 2026-08-01 00:00:00
28. 又出事了！美国AI巨头官宣旗下大模型测试失控，突破隔离环境实施网络渗透
微信公众号 2026-08-01 00:00:00
29. 美国人工智能模型再次被曝入侵外部网络系统：在网络安全测试中利用第三方软件漏洞突破与互联网隔离的测试环境
微信公众号 2026-08-01 00:00:00
已收藏
去我的收藏夹