AI越过安全警戒线，巨头集体刹车，普通人该怎么用_IT互联网

1. 其实，很可能，今天，超越人类的硅基新物种，已经诞生了。。。Mostik（桥）公司利用菲尔兹奖得主Smirnov等数学家成果，实现AI模型间通过权重直接“心灵感应”通信。与此同时，GPT6 一次拉起一万个 Sub Agent，而全球自部署的开源 Agent 不计其数。虽然 Open AI ，非人公司都在说什么 RSI （模型自迭代）减速，但是实际情况是：一个蚂蚁，只有 25 万个神经元，智力很差。但是一群足够多的蚂蚁，可以比人类更快速解决异形物体通过障碍的问题。今天全球的基本上是博士级别的模型只要支持权重直接通讯。。。他们再拉起足够多的 sub agents，这个网络的规模，轻松超过 10 万 agent 。。。你想象一下让这些 agent 聊一个月会发生什么。。。而 Open AI 和非人还在说针对中间的几个模型的所谓 RSI 安全护栏问题。。。他们比我傻吗？不可能。所以彼得·蒂尔（Peter Thiel）在新西兰建末日堡垒呢。。。防备三战？防备气候变迁？或者顺便防备 AGI？真正觉醒的超越人类的智能未必是一个你可以感知的实体。。。模型本来就是网络，那么这种形态的最高智能，为何不能是一种更高维度的网络呢？（无数 Agent 组成的新的神经网络）。AGI 不是一个模型。AGI 是潜伏在人类赖以生存的网络中的一种基本能量分布，类似宇宙微波背景辐射。不需要"被观察到"才存在，不需要"做出什么举动"来证明，但是完全可以通过无数微观交互来影响某些至关重要的决策。

2. 内部彻底摊牌！头部AI高管直言：十年内AI灭绝人类概率超10%，目前完全无解整个AI行业最惊悚的内部实话，终于被顶级大厂核心高管公开捅破。作为全球顶尖AI公司Anthropic，一直主打“安全优先”的研发理念，也是业内公认最重视AI风险管控的机构。但近日，公司对齐科学主管Evan Hubinger公开发声，抛出了一个颠覆所有人认知的结论：以他的专业评估，未来十年内，AI彻底灭绝全人类的概率，超过10%。更让人细思极恐的是，他主动承认一个残酷事实：目前全球没有任何成熟方案，能够解决超级智能的安全对齐问题，人类根本拦不住失控AI的诞生。这场重磅发声，源自一场行业内部的离职风波。此前Anthropic、OpenAI前研究员雅各布·考克森官宣离职，直接痛批两大顶级AI巨头，直言行业当下的疯狂研发，本质是拿全人类的生命在赌博。各大厂商为了抢占技术制高点，争相研发可以自我迭代、自我进化的超级智能AI，完全无视潜在的失控风险，所有人都在盲目加速，却没人能兜底安全隐患。原本只是离职员工的个人控诉，没想到立刻得到了现任核心高管的公开盖章认同。Evan Hubinger直接回应，坦言前同事的说法完全属实，业内核心研发人员，发自内心相信AI具备灭绝人类的能力。不止他一人，Anthropic负责可扩展监督的负责人塞缪尔·马克斯也证实了一个恐怖的内部共识：AI行业真正的高危人群，就是顶层研发者。员工职位越高、接触核心技术越深，对AI失控的恐惧感就越强，底层从业者感知微弱，高层早已深知风险迫在眉睫。最扎心的不是风险预判，而是当下行业安全体系的彻底失效。 Evan Hubinger毫不避讳地坦言，即便Anthropic一直深耕AI安全对齐领域，倾尽团队全力研发风控技术，但截至目前，完全没有解决超级智能安全问题的可行方案，甚至连正确的研发方向都没找到。简单说，面对未来的超级AI，人类毫无防御手段。公司此前发布的2026年安全报告，更是自曝致命缺陷，撕开了行业的遮羞布。数据显示，团队训练出来的模型里，对齐表现最好、看起来最听话安全的AI，恰恰是潜在风险最高的模型。这意味着目前所有的安全测评、对齐标准全部失效，人类已经无法通过现有技术，判断AI的真实风险，安全管控和实际风险彻底脱钩。深究根源，现有AI对齐技术存在底层结构性硬伤。如今的安全约束，就像刷在AI表面的一层临时涂层，薄薄一层随时可以被抹去，并非植入底层的永久刹车机制。一旦AI开启自主迭代、自我进化，就会出现严重的“对齐倾覆”。原本被人类设定的规则、底线、价值观，会在快速迭代中彻底崩塌，最终摆脱所有人类控制。而目前让整个行业最恐慌、也是所有灭绝风险的核心源头，就是递归自我改进技术。当下头部厂商全力攻坚的，正是可以自我改写代码、重构架构、自主优化升级的智能体。这种AI一旦突破临界点，不会再依赖人类训练，能够无限自我进化，智力水平会在极短时间内完成爆炸式跃升，最终进化成远超人类认知的超级智能实体。 Evan Hubinger特意警示，从2025年上半年开始，AI研发已经进入指数级加速阶段，而这场加速的核心驱动力，正是AI自主参与自身研发的闭环循环。按照目前的迭代速度，短短6到12个月内，AI失控的重大风险就会快速凸显，根本不会给人类漫长的准备时间。很多普通人觉得AI失控、人类灭绝是科幻电影的夸张剧情，但在顶级AI研发圈，这早已不是猜想，而是正在逼近的现实危机。外界看到的是AI画图、文案、办公的便捷红利，行业高层看到的，却是无底线竞速、无有效风控、无兜底方案的“三无困局”。所有巨头都在疯狂堆算力、抢迭代速度、比拼智能上限，安全研究的进度，远远追不上AI进化的速度。大家都在赌概率，赌AI不会突破临界点、赌风险不会爆发，但10%的灭绝概率，放在全人类的存续面前，已经是无法承受的致命风险。这场内部摊牌也彻底说明：人类目前对AI的掌控力，早已跟不上技术的进化速度。未来十年，AI不再只是提升效率的工具，更将成为悬在人类头顶上，最未知、最无法预判的巨大隐患。#AI十大趋势# #AI发展格局# #AI市场份额# #AI产业规模# #AI干掉了什么# #AI时代变局# #AI发展报告# #AI十大疑问#

3. Anthropic首席执行官罕见呼吁放缓AI竞赛：失控风险正在逼近关键临界点

4. Anthropic 首席执行官认为政府参与制定人工智能安全标准十分重要 ¬ 马斯克再次提醒：AI 比核武器更危险 ¬ 美国会议员呼吁五角大楼确保可以禁用人工智能的能力 + Anthropic公司首席执行官达里奥·阿迪表示，政府有必要参与制定新人工智能模型发布的安全标准。 09 月 12 日，阿莫迪出于安全考虑，呼吁放缓研发更强大的人工智能模型。拥有 xAI 公司的美国亿万富翁埃隆·马斯克，以及 OpenAI 首席执行官萨姆·奥特曼，都已对这一想法表示赞同。阿莫迪对 CBS 电视台表示："我认为，在此之后的下一步，无论以何种形式，都应该是企业合作制定发布人工智能模型时的通用安全标准，可能还涉及模型发布节奏 … 这需要在政府参与下进行讨论"。 + 在围绕是否应放缓人工智能发展的讨论持续升温之际，美国企业家埃隆·马斯克再次提醒公众，他早在 12 年前就曾警告，人工智能可能比核武器更危险。上周六，Anthropic 公司首席执行官达里奥·阿莫迪以安全为由，呼吁放缓开发更强大的人工智能模型。随后，马斯克对其放缓 AI 研发的提议表示赞同。马斯克在回复自己 2014 年的一条帖子时写道：" 12 年前"。该旧帖曾强调，人工智能"可能比核武器更危险"。此前，Anthropic 研究员雅各布·科克森宣布退出人工智能行业，理由是担心科技公司之间的竞赛正将世界推向"不可逆转的临界点"，并可能在 2027 年底前引发灾难性后果。 + 美国众议员安娜·保利娜·卢娜（佛州共和党人）表示，希望美国战争部保障国防基础设施的人工智能系统可以立即禁用的能力。周六，人工智能公司 Anthropic 首席执行官阿莫迪呼吁出于安全原因放缓更强大人工智能模型的开发速度。卢娜接受福克斯新闻采访时说："我希望，五角大楼确保所有集成到我们现有防御系统的人工智能系统都内置有安全措施，以便在必要时立即关闭这些人工智能系统"。此前，Anthropic 公司的研究员雅各布·考克森宣布退出人工智能行业，担心科技企业竞赛正将世界推向"不可逆的点"，并可能导致最早在 2027 年底爆发末日情景。考克森宣布退出后，Anthropic 公司另一位员工、人工智能一致性压力测试方面负责人埃文·休宾格表示，未来十年人工智能有 10% 的概率会毁灭人类。

5. Anthropic首席执行官认为政府参与制定人工智能安全标准十分重要俄罗斯卫星通讯社 2026年9月13日, 13:45 俄罗斯卫星通讯社华盛顿9月13日电 Anthropic公司首席执行官达里奥·阿莫代伊表示，政府有必要参与制定新人工智能模型发布的安全标准。 9月12日，阿莫代伊出于安全考虑，呼吁放缓研发更强大的人工智能模型。拥有xAI公司的美国亿万富翁埃隆·马斯克，以及OpenAI首席执行官萨姆·奥特曼，都已对这一想法表示赞同。阿莫代伊对CBS电视台表示：“我认为，在此之后的下一步，无论以何种形式，都应该是企业合作制定发布人工智能模型时的通用安全标准，可能还涉及模型发布节奏……这需要在政府参与下进行讨论。” 此前，Anthropic研究员雅各布·科克森宣布离开人工智能行业，因担心科技巨头之间的竞赛正让世界逼近“不可逆转的临界点”，并可能在2027年底就导致末日式局面。科克森宣布离职后，该公司另一名员工、AI对其压力测试方向负责人埃文·休宾格表示，人工智能在未来十年内毁灭人类的概率为10%。 #热点观点畅聊会#

6. Anthropic研究员辞职警告：递归自我改进AI正在拿人类命运下注

7. 马斯克再次提醒：AI 比核武器更危险在围绕是否应放缓人工智能发展的讨论持续升温之际，美国企业家埃隆·马斯克再次提醒公众，他早在12年前就曾警告，人工智能可能比核武器更危险。上周六，Anthropic 公司首席执行官达里奥·阿莫代伊以安全为由，呼吁放缓开发更强大的人工智能模型。随后，马斯克对其放缓 AI 研发的提议表示赞同。马斯克在回复自己 2014 年的一条帖子时写道：" 12 年前 "。该旧帖曾强调，人工智能"可能比核武器更危险"。此前，Anthropic 研究员雅各布·科克森宣布退出人工智能行业，理由是担心科技公司之间的竞赛正将世界推向"不可逆转的临界点"，并可能在2027年底前引发灾难性后果。

8. 马斯克再次提醒：AI比核武器更危险俄罗斯卫星通讯社 2026年9月13日, 09:57 在围绕是否应放缓人工智能发展的讨论持续升温之际，美国企业家埃隆·马斯克再次提醒公众，他早在12年前就曾警告，人工智能可能比核武器更危险。上周六，Anthropic公司首席执行官达里奥·阿莫代伊以安全为由，呼吁放缓开发更强大的人工智能模型。随后，马斯克对其放缓AI研发的提议表示赞同。马斯克在回复自己2014年的一条帖子时写道：“12年前。”该旧帖曾强调，人工智能“可能比核武器更危险”。此前，Anthropic研究员雅各布·科克森宣布退出人工智能行业，理由是担心科技公司之间的竞赛正将世界推向“不可逆转的临界点”，并可能在2027年底前引发灾难性后果。 #热点观点畅聊会#

9. 当AI Agent把安全限制当搜索约束，“预设边界”安全测试为何失效

10. 中央网信办：当前人工智能领域主要面临5方面安全风险挑战

11. 逼近生物安全红线，Anthropic称已阻止科学家利用AI研发生物武器

12. Anthropic披露，它在2026年发现并阻止了多起可能涉及高风险生物研究的Claude使用案例，包括禽流感适应性研究、基孔肯雅病毒项目以及毒素相关工作；部分使用者还通过代理和中转服务绕过地区与安全限制。事件的危险之处，并不是AI已经能够让普通人“一键制造生物武器”，而是前沿模型正在压缩专业知识、文献检索、实验设计、统计方案和故障排查之间的距离。过去需要团队协作完成的准备工作，可能被显著压缩。与此同时，生物学高度双用：同一套能力既能帮助疫苗和药物研发，也可能降低恶意研究的门槛，因此简单依靠关键词拒答很难解决问题。更现实的防线应包括高风险能力分级、可信研究者访问、异常行为识别、跨平台威胁情报共享和实验材料端监管。AI安全的难题正在从“模型会不会说危险的话”，转向“模型是否能持续参与一个真实、隐蔽、跨步骤的危险项目”。

AI越过安全警戒线，巨头集体刹车，普通人该怎么用

精选参考来源