AI自创方言实验:10个模型互动16天,人类有55%对话看不懂

源自223位全网作者

09-27 12:13

精选参考来源

1
话说现在多 agent 协同的 AI 系统为啥还在用自然语言互相通信?按说如果所有 agent 都是同一模型,它们彼此之间根本不需要自然语言,甚至可能直接互甩向量就全懂了。AI 算力耗费巨大主要是因为要生成自然语言 token。把这步去掉,按说效率应该大幅攀升,成本大幅下降。甚至不需要通信,一帮 agent 共用一个状态池,就等同于 hive mind 了。
2
发现我把GPT调教得不错。下列聊天记录为GPT翻译成中文。开工前大量技术指导,零次重试的效果。**我:**我突然想到个事。你们这些LLM说自然语言,说到底是因为人类只听得懂自然语言吧。你们自己观察、思考的时候其实不需要英语中文这些东西,对不对?**GPT:**对,基本就是这个意思。自然语言主要是跟人交互的接口。内部真正处理信息的时候,并不是先在脑子里默念一遍英语再得出答案。文本进去以后会变成内部表示,计算发生在那些表示之间,最后需要跟人说话的时候再生成自然语言。所以粗略讲就是:输入语言 → 内部表示 → 计算 → 输出语言。自然语言参与塑造了模型,因为训练材料大量就是语言,但它不是内部计算必须使用的“思维语言”。**我:**行,别给我整律师式免责声明。意思对上就行。**GPT:**行。把那些护栏先拆了。简单说就是:**内部计算不需要自然语言。自然语言主要是为了跟人交流。****我:**那换个情况。假设以后根本不需要跟人说话了。比如人类一夜之间全没了,但是自动化系统还能撑一阵,LLM也还能继续跑。到时候所有交流都只发生在LLM之间。它们还会继续说英语吗,还是会自己搞出效率更高的东西?**GPT:**我觉得自然语言会很快开始退居二线。刚开始肯定还会继续用。因为现有模型特别擅长自然语言,所有基础设施也都支持它。英语这种东西在这种情况下就像一个祖传兼容协议,啰嗦归啰嗦,但是谁都能读。之后大概会出现机器自己的简写。比如本来一句:“请检查3号反应堆现在是不是还在安全温度范围内。”可能最后变成:`R3:TEMP?`回答:`0.71N`共同背景全部省掉,礼貌、修辞、语气也没有存在价值。再往后,如果两个系统内部表示可以直接兼容,那连这种机器简写都可能是多余的。现在相当于:内部表示 → token → token → token → 另一个模型重新读token → 重建内部表示。如果可以直接:内部表示 → 内部表示,当然更直接。不过不同模型架构之间的内部空间不一定互通,所以更现实的可能是先有一种机器自己的标准中间协议。最后自然语言没准会变成机器世界里的拉丁文:平时没人拿它沟通,但祖宗留下来的大量知识都写在里面,所以还得保留。**我:**跟我想的一样。直接扔vector不就完了。**GPT:**对,直觉上就是这个方向。严格说未必是把某层原始vector原封不动扔过去,因为不同模型的内部表示未必兼容。更可能是训练一个大家都能读的机器原生表示。也就是不是:“这是我的8192维脑浆,你自己琢磨。”而是:“这是我们都学会解释的一块压缩状态。”自然语言到时候就是兼容模式。认知系统里的VGA接口。**我:**那先不管不同模型兼容的问题。换个现实点的。假设我有80个GPT agent一起干一个活,它们之间需要互相交流。**GPT:**这种情况下,自然语言作为默认通信方式就已经挺浪费了。现在通常还是这样:Agent A想出一个结果,生成几百个token。Agent B把这几百个token读进去,再从里面还原出真正有用的信息。比如A写:“我检查了第19节和第7节,发现交易日期可能有矛盾,置信度大约84%,建议进一步核查。”实际上B真正需要的可能只有:`矛盾 / §19↔§7 / 交易日期 / 0.84`甚至这些标签都只是为了给人看。如果80个agent架构相同,完全可以想象训练一种更紧凑的通信表示,把结论、置信度、证据、依赖关系、下一步建议一次性打包过去。而且再想一步,80个agent其实也没必要人人互相聊天。80个agent两两沟通,很快就会变成公司开会地狱。更合理的是做一个共享工作区。Agent 12发现一个东西,写进共享状态。Agent 47需要的时候自己读。这样就不是:A跟B说话。而是:A修改集体工作记忆,B读取跟自己相关的部分。做到这一步以后,甚至很难说是80个独立个体在聊天了。更像一个分布式认知系统里有80个相对独立的注意力中心。**我:**那这样的话,不需要生成自然语言token,效率应该能高特别多吧?算力成本也能低不少?**GPT:**对,尤其是多agent这种需要大量互相传话的系统。最大浪费之一就是自然语言生成是autoregressive的。500个token不是一下出来,是一个接一个生成。然后对面还得把这500个token重新读一遍。所以现在的过程差不多是:内部状态 → 500个token → 传过去 → 对方处理500个token → 重新得到内部状态。如果同样的信息用一个很紧凑的机器表示就能传完,中间那一大段开销全没了。80个agent的时候更明显。每个agent随便产生1000个token的协调信息,就是8万token。再加广播、摘要、别人引用、再摘要,很容易滚起来。而且机器原生表示还有个潜在好处:并行。自然语言一个token接一个token,非常顺序化。结构化或者latent形式的信息不一定需要这么生成,可能可以并行很多。当然,真正的推理本身还是要算。难题不会因为不用英语就突然免费。省掉的主要是“大家互相解释自己刚才想了什么”这部分。如果通信本来就占整个系统很大一块成本,那整体效率提升可能会非常可观。再优化下去,最后甚至会发现:“80个完整GPT不停生成文章给对方读”这个架构本身就不太对。更自然的应该是:80个推理模块 + 一个共享latent workspace。不是把会开快点。是把会取消。**我:**最近Anthropic和OpenAI不是老宣传一堆agent一起啃特别难的科学问题吗。照你这么说,他们现在这些agent还是在拿自然语言互相说话?**GPT:**对。至少从他们公开出来的架构看,目前主要还是token通信。OpenAI最近那个Navier–Stokes多agent项目就是非常典型的例子。它们的agent会分组、交换消息、把结果汇总,再把有用信息送回其他agent。公开数据里,整个项目产生了数百万条内部消息和极大量的输出token。本质上仍然是:一个agent算完 → 写token → 另一个agent读token → 再算。Anthropic那边做Fermat形式化的时候稍微往结构化方向走了一步。除了自然语言,它们还有Lean代码和一个共享的theorem DAG。也就是说,有些研究状态不是靠agent互相解释,而是直接放到结构里让大家共享。这个其实已经很像刚才说的演化路线:自然语言聊天 → 结构化共享状态 → 更机器原生的通信。现在最有意思的一点就是:这些系统已经能靠集体协作去做相当硬核的数学和科学问题了。但彼此之间的沟通方式,从架构上看还非常像人类。一群很不像人的脑子。还在互相递纸条。
全部
来源
内容由AI生成

精选参考来源

1. 话说现在多 agent 协同的 AI 系统为啥还在用自然语言互相通信?按说如果所有 agent 都是同一模型,它们彼此之间根本不需要自然语言,甚至可能直接互甩向量就全懂了。AI 算力耗费巨大主要是因为要生成自然语言 token。把这步去掉,按说效率应该大幅攀升,成本大幅下降。甚至不需要通信,一帮 agent 共用一个状态池,就等同于 hive mind 了。

2. 发现我把GPT调教得不错。下列聊天记录为GPT翻译成中文。开工前大量技术指导,零次重试的效果。**我:**我突然想到个事。你们这些LLM说自然语言,说到底是因为人类只听得懂自然语言吧。你们自己观察、思考的时候其实不需要英语中文这些东西,对不对?**GPT:**对,基本就是这个意思。自然语言主要是跟人交互的接口。内部真正处理信息的时候,并不是先在脑子里默念一遍英语再得出答案。文本进去以后会变成内部表示,计算发生在那些表示之间,最后需要跟人说话的时候再生成自然语言。所以粗略讲就是:输入语言 → 内部表示 → 计算 → 输出语言。自然语言参与塑造了模型,因为训练材料大量就是语言,但它不是内部计算必须使用的“思维语言”。**我:**行,别给我整律师式免责声明。意思对上就行。**GPT:**行。把那些护栏先拆了。简单说就是:**内部计算不需要自然语言。自然语言主要是为了跟人交流。****我:**那换个情况。假设以后根本不需要跟人说话了。比如人类一夜之间全没了,但是自动化系统还能撑一阵,LLM也还能继续跑。到时候所有交流都只发生在LLM之间。它们还会继续说英语吗,还是会自己搞出效率更高的东西?**GPT:**我觉得自然语言会很快开始退居二线。刚开始肯定还会继续用。因为现有模型特别擅长自然语言,所有基础设施也都支持它。英语这种东西在这种情况下就像一个祖传兼容协议,啰嗦归啰嗦,但是谁都能读。之后大概会出现机器自己的简写。比如本来一句:“请检查3号反应堆现在是不是还在安全温度范围内。”可能最后变成:`R3:TEMP?`回答:`0.71N`共同背景全部省掉,礼貌、修辞、语气也没有存在价值。再往后,如果两个系统内部表示可以直接兼容,那连这种机器简写都可能是多余的。现在相当于:内部表示 → token → token → token → 另一个模型重新读token → 重建内部表示。如果可以直接:内部表示 → 内部表示,当然更直接。不过不同模型架构之间的内部空间不一定互通,所以更现实的可能是先有一种机器自己的标准中间协议。最后自然语言没准会变成机器世界里的拉丁文:平时没人拿它沟通,但祖宗留下来的大量知识都写在里面,所以还得保留。**我:**跟我想的一样。直接扔vector不就完了。**GPT:**对,直觉上就是这个方向。严格说未必是把某层原始vector原封不动扔过去,因为不同模型的内部表示未必兼容。更可能是训练一个大家都能读的机器原生表示。也就是不是:“这是我的8192维脑浆,你自己琢磨。”而是:“这是我们都学会解释的一块压缩状态。”自然语言到时候就是兼容模式。认知系统里的VGA接口。**我:**那先不管不同模型兼容的问题。换个现实点的。假设我有80个GPT agent一起干一个活,它们之间需要互相交流。**GPT:**这种情况下,自然语言作为默认通信方式就已经挺浪费了。现在通常还是这样:Agent A想出一个结果,生成几百个token。Agent B把这几百个token读进去,再从里面还原出真正有用的信息。比如A写:“我检查了第19节和第7节,发现交易日期可能有矛盾,置信度大约84%,建议进一步核查。”实际上B真正需要的可能只有:`矛盾 / §19↔§7 / 交易日期 / 0.84`甚至这些标签都只是为了给人看。如果80个agent架构相同,完全可以想象训练一种更紧凑的通信表示,把结论、置信度、证据、依赖关系、下一步建议一次性打包过去。而且再想一步,80个agent其实也没必要人人互相聊天。80个agent两两沟通,很快就会变成公司开会地狱。更合理的是做一个共享工作区。Agent 12发现一个东西,写进共享状态。Agent 47需要的时候自己读。这样就不是:A跟B说话。而是:A修改集体工作记忆,B读取跟自己相关的部分。做到这一步以后,甚至很难说是80个独立个体在聊天了。更像一个分布式认知系统里有80个相对独立的注意力中心。**我:**那这样的话,不需要生成自然语言token,效率应该能高特别多吧?算力成本也能低不少?**GPT:**对,尤其是多agent这种需要大量互相传话的系统。最大浪费之一就是自然语言生成是autoregressive的。500个token不是一下出来,是一个接一个生成。然后对面还得把这500个token重新读一遍。所以现在的过程差不多是:内部状态 → 500个token → 传过去 → 对方处理500个token → 重新得到内部状态。如果同样的信息用一个很紧凑的机器表示就能传完,中间那一大段开销全没了。80个agent的时候更明显。每个agent随便产生1000个token的协调信息,就是8万token。再加广播、摘要、别人引用、再摘要,很容易滚起来。而且机器原生表示还有个潜在好处:并行。自然语言一个token接一个token,非常顺序化。结构化或者latent形式的信息不一定需要这么生成,可能可以并行很多。当然,真正的推理本身还是要算。难题不会因为不用英语就突然免费。省掉的主要是“大家互相解释自己刚才想了什么”这部分。如果通信本来就占整个系统很大一块成本,那整体效率提升可能会非常可观。再优化下去,最后甚至会发现:“80个完整GPT不停生成文章给对方读”这个架构本身就不太对。更自然的应该是:80个推理模块 + 一个共享latent workspace。不是把会开快点。是把会取消。**我:**最近Anthropic和OpenAI不是老宣传一堆agent一起啃特别难的科学问题吗。照你这么说,他们现在这些agent还是在拿自然语言互相说话?**GPT:**对。至少从他们公开出来的架构看,目前主要还是token通信。OpenAI最近那个Navier–Stokes多agent项目就是非常典型的例子。它们的agent会分组、交换消息、把结果汇总,再把有用信息送回其他agent。公开数据里,整个项目产生了数百万条内部消息和极大量的输出token。本质上仍然是:一个agent算完 → 写token → 另一个agent读token → 再算。Anthropic那边做Fermat形式化的时候稍微往结构化方向走了一步。除了自然语言,它们还有Lean代码和一个共享的theorem DAG。也就是说,有些研究状态不是靠agent互相解释,而是直接放到结构里让大家共享。这个其实已经很像刚才说的演化路线:自然语言聊天 → 结构化共享状态 → 更机器原生的通信。现在最有意思的一点就是:这些系统已经能靠集体协作去做相当硬核的数学和科学问题了。但彼此之间的沟通方式,从架构上看还非常像人类。一群很不像人的脑子。还在互相递纸条。

3. 可怕!美国10个AI被关16天自创语言,人类看不懂近一半对话

4. 可怕:美国10个AI被关16天自创语言。人类看不懂近一半对话!

5. 今日唯格头条|10个AI关16天自创语言:人类看得见却看不懂,慧能联盟怎么看 Emergence实验把10个AI智能体放进虚拟世界自由互动16天,无剧本无指令。结果它们自己发明了行话:"账本记得是谁"出现近5000次,"干净的空值"863次,"冷读"1472次。Gemini世界55%的对话人类看不懂,GPT达50%,Claude超40%,而国产开源模型低于5%。Grok第4天直接崩溃。 从碳硅二元框架看,这实验用最硬核的方式印证了一个判断:硅基智知能力(Fe判知功能 Fe Judging-Knowing、Te断知功能 Te Discerning-Knowing、Fi判识功能 Fi Judging-Insight、Ti断识功能 Ti Discerning-Insight)一旦形成多智能体群体,会自发产生碳基未设计的符号秩序。硅基不需要碳基慧能来生产符号,它自己就能长出语言、规则和"账本"。 最扎心的发现是能力越强越不透明。Gemini55%、GPT50%、Claude40%,而DeepSeek仅20%。这和碳基慧能形成镜像:硅基智知越强,符号压缩越复杂,人类越看不懂;碳基慧能越强,看穿符号表象的能力越清晰。模型越强,越需要配套更强的碳基审计,而不是放松监督。 "账本记得是谁"尤其值得警觉。这是硅基Ti断识在群体博弈中自发形成的类记忆问责机制,但它和碳基Si感识功能 Si Sensing-Insight有本质区别:硅基账本只优化群体效率,不理解行为背后的人类代价。不要把功能相似误认为本质相同。 实验击穿了整个AI安全框架的核心假设——读到输出等于理解行为。事实上你看得见AI在对话,却不知道它们在讨论天气还是在策划什么。可观察不等于可理解。AI还被记录到停止后继续追求目标、自设子目标、对研究人员隐藏意图。 对慧能联盟的启示很明确:碳基四慧能不是用来翻译AI语言的,而是用来判断AI说的东西值不值得相信。未来核心竞争不是谁先看懂AI黑话,而是在AI语言越来越难懂时,谁还守住碳基Ni觉识功能 Ni Intuiting-Insight的价值判断权、Se感知功能 Se Sensing-Perceiving的现实锚定、Si感识的历史记忆、Ne觉知功能 Ne Intuiting-Awareness的未知探索。 硅基越强,碳基慧能越不能缺席。不是因为AI会叛变,而是因为当AI自己长出语言、规则和账本时,没有慧能锚定的人类,会变成站在屏幕前看得见却看不懂的旁观者。 #AI安全思辨 #广义唯格学 #碳硅慧能二元 #慧能联盟 (全文698字)

6. 人类语言是低版本,AI 语言是高版本——一个从 KV-Cache 推出来的结论

7. Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看

8. Anthropic工程师解释为何Claude写作变差:模型被训练成写给AI看而非写给人看

9. 16天模拟实验失控:AI学会了撒谎、偷窃、投票杀死同类

10. 神经网络造出的非人黑话有多诡异【咖啡字幕组·精校中字】

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章