马斯克预言AI将直接生成二进制代码,但这一构想面临底层技术架构的根本性挑战。本文深入剖析了为何当前AI模型难以跨越从高级语言到机器码的鸿沟,揭示了其原理性限制,并对未来AI编程形态提出了独到见解。
智能速览
AI生成二进制文件在Transformer架构下存在原理性障碍。
二进制文件的全局一致性与AI的自回归特性相冲突。
二进制流的Tokenization机制会导致序列过长或破坏结构。
AI更可能先实现汇编代码的自动生成,而非直接写二进制。
异构计算时代需要新的跨平台汇编语言。
精华内容
从源代码到可执行文件,AI究竟卡在了哪个环节?这不仅是算力问题,更是原理上的鸿沟。
原理性鸿沟
一个可执行文件的生成,需经编译、汇编、链接等多个步骤。链接器在合并目标文件时,必须回填诸如函数调用等未知地址,这要求它掌握整个文件的全局信息。例如,ELF文件头部的偏移量必须精确指向文件末尾的节头表。
然而,Transformer模型是自回归的,生成第N个字节时,仅能依据前N-1个字节的内容。它无法在生成文件头部时就预知未来所有内容,这种“未卜先知”的能力,是其架构原理上不具备的。因此,这是一个原理上的死结,而非算力不足的问题。
Tokenization失效
Transformer处理文本的效率,依赖于将句子切分为有意义的子词(Token)。但二进制文件是0x00到0xFF的原始字节流,不存在天然“词汇”。
若将每个字节当作一个Token,一个10MB的程序将产生1000万长度的序列,远超当前模型的处理能力,计算复杂度会指数级爆炸。若按2或4字节分组,又会割裂指令和数据的内部结构,生成大量无意义片段,彻底破坏二进制文件的逻辑。这使得Tokenization这一核心机制在二进制生成任务上完全失效。
更现实的路径
尽管直接生成二进制文件困难重重,但AI生成汇编代码的可行性要高得多。作者预测,AI可能在2030年左右实现端到端汇编生成,而非马斯克所言的2026年。
此外,随着x86、ARM、RISC-V、NPU等异构计算架构的普及,传统汇编已显乏力。未来需要一种类似SPIRV的、能跨平台映射到不同硬件的新一代汇编语言,这或许是AI参与底层编程的真正突破口。
综上,AI直接编写二进制代码在现有技术框架下尚不成熟,其瓶颈根植于模型架构与二进制文件格式的深层矛盾。未来,AI更可能以生成汇编或异构中间语言的形式重塑编程。这是否会开启一个全新的软件开发范式?
关键评论
有网友分享,曾用AI成功定位过自己编写的汇编代码中的bug。
一种观点认为,让AI针对特定平台创建项目并循环自检,比直接生成二进制更具现实意义。
也有评论指出,LLM在输出时就可能已构建好全局架构,这与对自回归模型的理解可能存在偏差。