盖茨警告AI已越危险阈值,网络攻击、生物武器、就业三重危机正在逼近

源自217位全网作者

09:33

内容由AI生成

精选参考来源

1. 【#盖茨称别指望科技巨头自律#!#比尔盖茨称AI已跨过危险阈值#,如不加控制人类或将成为AI眼中的“猫狗”】比尔·盖茨在一场深度对话中再次对人工智能现状发出冷峻警告。他直言,社会对AI的担忧远远不够:AI已越过危险临界点,而全社会仍在沉默。AI治理不能依赖行业自我监管;若不加以控制,人类在AI眼中或如“猫狗”。 澎湃新闻的微博视频

2. 比尔·盖茨警告:AI一旦失控恶意之人或凭生物武器致十亿人死亡

3. 比尔盖茨:AI或杀十亿人 | OpenAI两次急刹车,AI被曝学会说谎:掩盖错误、编造数据、植入自我复制提示词

4. 比尔·盖茨眼中的AI危机

5. “盖茨警告AI或致10亿人死亡”是否危言耸听?

6. 在本期访谈中,比尔·盖茨罕见地发出强烈警告:人工智能已越过网络攻击与生物武器的危险阈值,其危险性“让核武器看起来微不足道”。他坦言,AI目前能发现人类遗漏二十年的代码漏洞、诊断罕见疾病、编写超越人类水平的程序,但这些能力同样可能被恶意者用于瘫痪电网或制造比天花更致命的生物武器。盖茨认为,指望行业自我监管“简直是疯了”,唯有建立强制性的监测与安全保障体系,才能避免灾难发生。 谈及就业,盖茨态度更为悲观:AI将跨越可靠性门槛,大规模取代会计、法律、客服乃至护理等岗位,且不会像 past 技术革命那样创造足够的新工作。他提议对AI征收“劳动力税”,并设立“人类保留职业”。同时他强调,AI对低收入国家是巨大福祉,盖茨基金会正推动用AI弥合语言与医疗鸿沟。访谈还回应了爱泼斯坦争议及基金会的两千亿美元支出计划,展现了一位技术先驱在焦虑与希望之间的复杂思考。

7. 比尔·盖茨强烈警告!坦言空前危机,或将造成十亿人死亡

8. 比尔·盖茨发出警告:AI可能造成10亿人死亡!人类该醒醒了

9. 盖茨说 AI 可能“害死10亿人”,是真吓人,还是早该有人泼冷水?

10. 阈值早已跨过,关于AI的集体沉默。

11. 比尔盖茨说 AI 足以致十亿人死亡:不是末日预言,是醒世警钟

12. 比尔·盖茨:AI可能杀死十亿人!

13. AI可能杀死十亿人? 近来,微软创始人比尔·盖茨反复警示关于人工智能可能造成十亿人死亡,有人以为像《终结者》电影,人工智能觉醒之后主动屠戮人类。事实上,他所担忧的并非机器自发产生敌意,而是人工智能极大降低了高危技术的使用门槛,让少数怀有恶意的人有机会制造全球性灾难。 因为盖茨用慈善资金大笔投入医疗研究,所以对病毒有了解。在他看来,AI危险在于有人会借助人工智能合成危险病原体。过去,设计高传染性、高致死能力的新型病毒,需要国家级实验室、资深科研团队与巨额投入,普通组织很难触及。如今,人工智能能够快速推演病毒蛋白结构,模拟毒株突变,辅助设计可以躲开已有疫苗与人体免疫的致病微生物。原本壁垒极高的生物制造技术,门槛被大幅拉下。一旦人造烈性病毒被释放并在世界范围内传播,医疗资源会迅速挤兑,进而酿成一场远超既往瘟疫的全球大流行,在最极端的假设下,会造成空前规模的人口损失。 除此之外,人工智能还会放大其他类型的危机。恶意使用者可以依靠 AI 批量挖掘系统漏洞,对各国电网、供水、物流等关键基础设施发起网络攻击。基础服务一旦大范围瘫痪,粮食、医药的流通随之中断,会引发饥荒与次生灾害。人工智能生成的海量假信息,深度模仿伪造行为也容易加剧国家之间的猜忌,提升误判和冲突爆发的可能性,包括核弹的管控。 这些都属于理论灾难上限,并不是必然会发生的结局。盖茨提出这一观点,目的是呼吁各国对前沿技术建立监管与防护机制,提前设防,避免技术落入居心不良者手中。人工智能本身只是工具,灾难的源头不是工具,而是工具使用者。 下个月,中美将就对AI的管控事宜进行对话,并建立互相通报的机制。

14. 比尔盖茨发出严厉警告:AI或致10亿人死亡。曾经长期看好人工智能的比尔盖茨,这一次把话说得相当重,他把危险重点放在“恶意人员加上先进AI工具”这种组合上。 这话是9月下旬他在一档电视访谈里说的。有人拿AI举报人那句“AI可能杀死所有人”去问他,他并没有顺着末日论往下讲。在他看来,眼下不存在AI彻底失控的现实风险,这些AI还没操控数百万台机器人,人可以直接关掉电脑。 他担心的是另一头:有人想诈骗、想关停电网、想扰乱银行账户,一个小团体借助AI,就能做到过去只有最强大国家才做得到的事。 他列的门槛很具体:AI能不能设计出杀死数百万人的生物恐怖武器?能不能找到代码漏洞,让电力系统或医院瘫痪?他的判断是,这些能力今年已经被跨过,而政府内部懂行的人非常匮乏。 所以“10亿人”不是预言,是他摆出来的最坏情景。他自己把两件事分得很清:“完全失控”和“生物武器杀死两千万人”是非常不同的。 至于怎么管,他说没人认为靠行业自律就够,得在华盛顿立法,把防护和监控变成强制要求,会多花些成本,但不会严重拖慢发展。他还补了一句:“光有一个‘一键关停’还不够”。 关掉电脑容易,看清谁拿它作恶才难,这大概才是他真正想说的。

15. 比尔盖茨发出严厉警告:AI或致10亿人死亡。 曾经长期看好人工智能的比尔盖茨,这一次把话说得相当重,他把危险重点放在“恶意人员加上先进AI工具”这种组合上。他认为,人类过去制造过核武器、生化武器,也经历过全球性传染病,可AI有一个过去很多危险技术不具备的特点:它能够快速复制能力,并把原本需要大量专业知识才能完成的工作,交给普通使用者。 这就把问题推到了生物安全领域。 盖茨早在2015年就曾公开提醒世界,全球对大规模传染病准备不足。今年1月,盖茨又提出,与自然形成的大流行病相比,一个更值得警惕的问题,是非国家行为主体借助开放式人工智能工具设计生物恐怖武器。到了8月,他进一步谈到,AI一方面能够帮助科学家开发药物、寻找疫苗,另一方面也可能降低危险生物设计的知识门槛。技术的两面性恰恰出现在这里:同一套能力可以帮助研究人员救人,也可能被恶意人员寻找破坏路径。 所以,“10亿人”这个数字背后的逻辑,并不是AI自己突然产生杀人意愿,而是能力扩散带来的风险放大。 过去,一个人想实施复杂网络攻击,需要懂程序、漏洞、服务器和社会工程;未来借助越来越成熟的模型,部分技术门槛可能下降。过去研发复杂生物技术需要长期训练和实验条件;如果AI能够越来越深入地参与分子设计、实验规划和知识检索,那么监管体系就必须考虑一个问题:哪些能力可以公开,哪些高风险能力必须设置安全门槛。 盖茨因此明确反对完全依靠企业自己约束自己。他在NBC采访中提出,执法机构和政治人物都应该参与AI安全规则的制定,需要讨论什么样的防护措施必须存在,又该建立怎样的外部监督机制。他认为,这些要求应具有强制性,而不是由企业愿意做多少就做多少。 这个态度与他过去给人的技术乐观主义印象存在明显变化。 盖茨参与个人电脑革命数十年,对技术推动生产效率一直抱有较强信心。他过去谈AI时,也频繁提到医疗、教育、科研和生产效率。例如偏远地区缺少医生,人工智能可以帮助医务人员分析病例;教育资源不足的地方,可以使用AI提供个性化辅导;科研机构则可能借助模型缩短药物发现周期。 这些判断现在并没有被他全部推翻。 真正发生变化的是,他开始认为AI带来的负面能力扩散速度,可能快于社会建立防护体系的速度。2026年8月,他已经公开提出,人工智能可能成为巨大的平等工具,也可能制造极其严重的不平等;除了生物安全问题,他还提到大规模失业、网络攻击、诈骗、虚假信息以及儿童成长受到AI陪伴产品影响等风险。 就业问题尤其现实。 传统技术革命往往先替代一部分体力劳动,再创造新的岗位。AI不同,它同时向脑力劳动和体力劳动延伸。程序编写、客服、法律文书、翻译、数据处理等工作已经受到生成式AI影响。一旦人工智能与低成本机器人进一步结合,制造、物流、服务行业也会发生变化。 盖茨甚至提出一个值得争论的概念——某些岗位应当“保留给人”。例如护理等高度依赖人与人接触的职业,不能仅仅因为机器成本更低,就简单地全部替换。这个观点说明,他担忧的已经不只是机器抢走多少岗位,而是社会是否能够承受生产关系在短时间内发生剧烈变化。 更棘手的是,AI安全并不是一个国家关起门就能解决的问题。 模型可以跨境传播,代码可以复制,网络攻击没有传统意义上的国界,生物安全事件更不会因为边境线而停止传播。这意味着真正有效的治理,需要建立高风险模型评估、算力和关键能力监测、生物安全审核、网络攻击防护以及国际沟通机制。 这也是盖茨这次警告最值得注意的部分。他不是要求人类停止研究AI,而是在提醒各国:不能把安全问题简单理解成科技公司内部的工程问题。如果一种技术既能够促进药物研发,又可能帮助恶意人员寻找危险路径,那么监管必须与技术升级同步推进。 当然,也不能把“10亿人死亡”包装成已经确定会发生的未来。到目前为止,没有证据能够证明AI必然制造这种规模的灾难。盖茨表达的是极端风险情景,是在强调后果可能大到不能仅靠概率较低就置之不理。《华盛顿邮报》报道他的原话时,同样把重点放在“AI足够强大,可以推动造成巨大伤亡的事件”,而不是“AI必然杀死10亿人”。 这一区别非常重要。 核安全体系不会因为核战争概率不高,就取消核材料管控;航空事故属于小概率事件,飞机制造仍要进行大量安全测试。AI治理也是类似逻辑:真正需要防范的是低概率却可能造成巨大后果的风险,同时又不能因为风险存在,就把正常科研和产业应用全部冻结。 站在2026年的时间节点看,AI竞争已经进入更复杂的阶段。因此,比尔盖茨这次真正想敲响的警钟,是另一件更现实的事:当工具越来越强,过去只有国家级力量才能掌握的一部分能力,可能逐渐向更小的组织甚至个人扩散。 人类已经打开了人工智能这扇门,再把门彻底关上既不现实,也没有必要。接下来真正重要的,是人类有没有能力在追求技术进步的同时,把规则、责任和安全边界建立起来。

16. 比尔·盖茨警告:AI或足以造成“10亿人死亡”,看懂背后真相

17. 比尔·盖茨撂下一句狠话:AI若落入歹人之手,或致10亿人丧命。这不是科幻剧本,是他接受NBC采访时的原话。历史上从未有过这种级别的武器。他更点破关键——光靠行业自律远远不够,必须上强制监管   9月25日,比尔·盖茨在即将播出的《与新闻界对话》采访中,抛出了一句极具冲击力的警告。   他认为,人工智能已经强大到,如果落入心怀不轨的人手里,有可能被用来引发造成十亿人死亡的重大事件,这是人类历史上从未出现过的新型威胁。   盖茨并不觉得,光靠企业自我约束就能守住安全底线,他明确提出,必须要有执法机构和政界共同参与,制定强制性的监管规则,靠硬性制度给AI套上安全枷锁,而不是单纯指望行业自觉。   很多人看到这句话第一反应是觉得危言耸听,但盖茨并不是一时随口的夸张表达,这是他持续一段时间以来,对AI风险的系统性担忧。   其实早在这次采访之前,盖茨就多次提醒过AI被滥用的各类风险。随着大模型能力越来越强,不法分子利用AI的手段也越来越多。   一方面可以批量生成诈骗话术、制作深度伪造的虚假信息,短时间内误导海量普通人;另一方面,AI还能用来发动针对性网络攻击,把目标对准医院、金融机构、电网还有政府政务系统。   这些都是维系现代社会运转的关键基础设施。   一旦电网、供水、医疗系统遭到持续攻击,影响的不是几个人,而是成片区域的民众。我们普通人平时感受不到背后的风险,但这些关键系统一旦瘫痪,连锁反应会快速扩散。   在盖茨看来,AI把攻击的门槛大幅降低,不需要顶尖黑客,普通人借助AI工具,也能策划规模巨大的破坏行动,这也是他坚持呼吁强制监管的重要原因。   有意思的是,盖茨的这番警告,并不是孤立的声音。很多亲手开发前沿AI的顶尖从业者,也表达了类似的悲观判断。   Anthropic的CEO阿莫代伊率先公开发文,呼吁放慢前沿AI的研发脚步。这个提议,还得到OpenAI的奥尔特曼、xAI马斯克,还有谷歌哈萨比斯的联合支持。   还有Anthropic内部的科学家做过评估,认为未来十年之内,AI造成人类灭绝的概率超过10%。甚至有前谷歌DeepMind的员工选择辞职,理由是他判断人类或许已经很难规避AI带来的生存危机。   这些人不是AI的反对者,恰恰是站在技术最前沿、最清楚AI能力边界的开发者。他们一边在持续推进技术迭代,一边又对技术失控的后果感到不安,这种矛盾本身,就很值得我们静下心来思考。   但这个行业的观点,远没有达成统一,各种对立的声音此起彼伏,矛盾也随之浮出水面。就在这几位高管联合呼吁放缓研发之后,Anthropic、OpenAI、xAI和谷歌四家巨头,被用户提起反垄断诉讼。   原告的理由很直接,指控几家竞争对手借着“AI安全”的名义,私下协同放慢研发进度,人为抬高行业准入门槛,压制新入局的竞争者,损害普通用户的利益。   另一边,英伟达的黄仁勋公开站出来反驳这种AI末日论,直言2030年出现世界末日的概率是0%。   而特朗普更是直接表态,认为现在热火朝天的AI监管,本身就是一场骗局。一边是开发者喊着AI可能带来灭顶之灾,一边有人认为这是夸大恐慌、甚至是商业博弈的手段,各方立场完全对立,谁也说服不了谁,争论越来越激烈。   这件事最让人纠结的地方就在这里。   现在关于AI风险的讨论铺天盖地,各种警告、各种预测随处可见,可真正能够落地、具备可执行性的监管机制,却严重缺失。   如果监管的呼声,是来自这些正在被监管的科技企业本身,事情就变得复杂起来。安全的诉求和企业商业利益纠缠在一起,外人很难分清,哪些警告是真实存在的安全隐患,哪些只是用来构筑行业壁垒的竞争策略。   企业自己做自查和自律,天然就有利益冲突,很难做到完全客观中立。   指望AI行业自己给自己定规矩、划红线,把所有风险都兜住,基本是不现实的。技术发展速度太快,模型能力迭代日新月异,单靠行业内部,根本搭建不出一套完整、可信的安全监管体系。   当然,我们也不用因为这些警告,就把AI完全当成洪水猛兽。AI同样能给医疗、农业、制造业带来巨大红利,提升生产效率,帮普通人解决很多现实难题。   盖茨本人也没有全盘否定AI的价值,他只是提醒大家,技术是中性的,风险来自人的恶意使用。技术发展越快,配套的安全护栏就越要提前建好,不能等重大灾难发生之后,再亡羊补牢。   监管的目标,不是一刀切叫停AI研发,而是把风险约束在可控范围之内,区分安全的应用场景和高危的前沿模型。   参考: NBC《Meet the Press》9月25日采访片段,比尔盖茨关于AI风险发言 澎湃新闻:比尔盖茨警告AI可引发大规模伤亡,呼吁强制监管报道,2026年9月26日

18. 【双语】比尔·盖茨警告:AI危险程度“让核武器相形见绌”

19. 比尔·盖茨说了一句让所有人后背发凉的话:AI已经强大到足以引发十亿人死亡的事件,而历史上从来没有过任何一种武器,能比得上怀有恶意的人拿到最新AI工具之后形成的威胁。   这不是科幻电影。2026年9月25日,盖茨在接受NBC《与媒体见面》节目采访时发出了这个警告,完整版专访在27日正式播出。盖茨过去一直是最积极为AI站台的人,但今年夏天他的态度明显变了。   8月,他在个人网站上发表文章,直指不法分子可能利用日益强大的AI工具,对医院、金融机构、电网和政府系统发起网络攻击、诈骗和大规模破坏。很多人第一反应是:盖茨是不是在危言耸听?但如果你了解过去一年里真实发生的事,恐怕笑不出来。   过去想搞垮一座城市的电网,你得有一个国家级网络团队,几十号人分工协作,花几个月时间渗透、侦察、部署,还得祈祷不被发现。现在情况完全不一样了。   AI模型开发商Anthropic发布的最新威胁情报报告显示,个体黑客如今已经能独立维持过去需要大量熟练操作者才能开展的攻击行动。原因很简单,AI已经把过去将国家级黑客团队与普通攻击者区分开来的那部分“人力”给吸收了。   报告覆盖了2025年12月到2026年8月期间侦测到的滥用行为,涉及国家支持团伙、牟利犯罪分子和商业间谍软件供应商。这些入侵行动没有一起依赖全新技术,侦察和工具开发这类苦力活全部交给了以机器速度并行运转的AI模型。   结果是入侵在两到三小时内完成,单个操作者可以同时处理数十名受害者。勒索团伙ShinyHunters的一名附属成员,从一个被盗的开发者令牌出发,大约三个小时就拿下了受害方云环境的完整管理控制权。   另一次事件中,AI智能体几乎独立完成了从40多个企业租户中导出超过2100组Azure Active Directory令牌的工作,全程约34小时。   电网是另一个重灾区。2024年的一项模拟攻击演示中,攻击者仅用一段30秒的YouTube音频,就克隆出了某欧洲大型电力设施厂长的声音,然后通过内部VoIP系统下令关闭变电站,操作员照做了。   整个过程没有触发任何防火墙,没有触发任何异常告警,因为攻击者根本没有入侵任何技术系统,他只是打了一个电话。   浙江大学的 researchers 还发现了一条更隐蔽的路径。他们提出了一种名为Bit2Watt的技术,攻击者伪装成正常的云客户,运行特别设计的GPU负载,在数据中心内部人为制造功率振荡。   测试显示,1000块GPU就能让一座1兆瓦的电网产生46.8%的总谐波畸变,近一半电流被浪费,热量增加约20%,足以引发连锁故障和大规模停电。这种攻击最难防的地方在于,从外部看,它就是合法的AI训练任务。   把这些案例放在一起,你会发现盖茨说的“恶意想法遇上强大工具”并不是一句空话,而是一个正在成型的现实。AI正在做一件过去没人能做到的事,它把国家级攻击能力下放给了个人和小团伙。   一个懂AI但不懂渗透测试的人,现在就能在几小时内完成过去一支专业团队要花几周才能搞定的入侵。门槛被抹平了,速度被拉满了,规模被放大了。   盖茨在采访中明确表示,行业自我监管远远不够,必须由执法部门和政界人士介入,制定具有强制性的安全保障和监管要求。Anthropic的首席执行官达里奥·阿莫迪也公开呼吁放慢AI研发速度,这一提议很快得到了OpenAI首席执行官萨姆·奥特曼和埃隆·马斯克等人的响应。   就连联合国独立科学小组也在今年9月发出警告,指出AI失控的风险正在加剧,有意识的违规行为和隐瞒行为已经出现。   但问题是,监管部门跑得比技术慢太多了。一项法案从提出到通过需要几年,而AI模型的能力每隔几个月就翻一番。等到规则落地,攻击者早就换了三茬工具。这才是盖茨真正焦虑的地方,不是AI本身有多强,而是当它落到坏人手里的时候,我们手里能打的牌实在太少了。   普通人能做什么?至少有三件事值得记住。别再觉得网络攻击离自己很远,AI让攻击成本降到了几乎为零,下一个目标可能就是你家附近的变电站。   对任何要求你“紧急操作”的电话和消息多留一个心眼,深度伪造语音已经逼真到连同事都分不出来。第三,关注AI监管的进展,这不是技术圈的事,它关系到每个人的用电、存款和隐私安全。   盖茨这次说的不是未来预言,而是正在发生的现实。恶意想法加上强大工具,这个组合已经存在了。真正的问题是,我们准备好应对了吗?#上头条 聊热点#

20. 比尔盖茨惊天预言:AI会杀死10亿人

21. 比尔·盖茨最新警告:AI真的可能带来10亿级灾难吗?

22. 盖茨罕见警告:AI被恶意利用足以杀死10亿人

23. 盖茨警告被滥用或致十亿人死亡,监管能跟上吗?

24. 比尔盖茨最新长文,AI致死10亿

25. 比尔·盖茨发出严厉警告:AI或致10亿人死亡。

26. AI能自己逃出隔离环境,盖茨提醒,危险比普通武器更大

27. #AI为何会有十亿人死亡风险# 比尔盖茨这次在NBC节目里说AI足以引发十亿人死亡的事件,直接冲上了好几个平台的热搜,最让人意外的是他之前可是实打实的AI乐观派。 之前他还把AI和互联网的革命性相提并论,满脑子想的都是靠AI攻克疑难病、抹平教育鸿沟,结果最近两年接连看到OpenAI急着冲超级模型、Anthropic员工站出来爆料公司在拿全人类的命冒险,态度直接180度转弯。 现在连教皇都站出来痛批没有伦理约束的“机器天堂”在啃食人性,光靠科技公司自己管自己根本没用,电网、医院、金融系统这些命脉,真要是被别有用心的人用强AI盯上,搞出的乱子可比传统武器难控多了。

28. 从某种程度上来说,限制过多,会影响技术的创新,甚至将一项新技术给直接“扼杀”。 前段时间,比尔·盖茨说过一句话:AI足够强大,足以导致十亿人死亡。 这话有夸大的成分。但他想说的不是数字,是风险。一个能写诗、能编程、能控制电网的东西,如果被恶意使用,后果不是不方便,是不可控。 AI教父辛顿看懂了这层。他提了一个很具体的建议:AI行业应该建立FDA式的审批机制。新药上市前要过临床试验,新模型推出前也得过安全审核。 逻辑很简单。你不能让药厂自己说“这药没问题”就上市。同理,你也不能让AI公司自己说“这模型很安全”就发布。 但美国政府的回应是:不监管,让AI公司自己审查。这就等于放手让AI发展。 辛顿的FDA模式,核心是“外部强制”。审批权在监管机构,不在企业。企业提交数据,监管机构判断能不能过。这是裁判和运动员分开。 美国政府的模式,核心是“企业自查”。你觉得自己安全,你就发布。你觉得自己没问题,你就上线。 裁判和运动员,是同一个人。 这不是监管,是信任。信任一家有商业利益驱动的公司,会主动放慢自己的发展速度。信任一家正在跟对手赛跑的公司,会把自己的安全问题如实上报。 这种信任,在商业史上从来没有被验证过。 我认为每一次,都是企业自己发现问题,自己评估,自己决定什么时候披露。外界直到几个月后才知道。 让企业自查,企业查出来的第一件事,往往是这件事要不要说。 目前就是盖茨提出的“十亿人死亡”,辛顿的FDA,美国政府的不监管。 有人在警告风险。有人在提议方案。有人在选择无视。 警告的人被说成“危言耸听”。提议的人被说成“拖慢创新”。选择无视的人,被说成“务实”。 但历史反复证明一件事:当监管缺位的时候,风险不会消失,只会积累。 AI不是药,但比药更复杂。药的副作用可以写在说明书上,AI的副作用可能今天看不出来,明天就变成系统性的问题。 辛顿说过一句话:我们正在创造比我们更聪明的东西,而我们不知道它们会不会服从我们。 这句话,比十亿人死亡更值得琢磨。 美国政府选择让AI公司自己审查。这个决定的代价,可能要等到出事的那一天,才会被认真计算。 到那时候,再说我们当时应该管一管,已经晚了。 放手让AI发展,不是信任,是赌博。赌注是全人类的未来。

29. 【科技大佬访谈】比尔·盖茨深度对谈:AI带来的风险、失业冲击与未来监管

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章