M4芯片被破解!无需GPU竟能本地训练AI模型,能效碾压A100
01绕过官方限制的关键技术路径
苹果在M4芯片中内置了强大的16核神经网络引擎,官方标称AI算力为38 TOPS(每秒38万亿次整数运算),但该能力仅限于运行预训练模型的推理任务。开发者若想进行模型训练,需依赖外部GPU或云服务。@0x0SojalSec的方案跳出了苹果预设框架,通过逆向分析ANE的私有接口,构建了一套不依赖Core ML的通信协议。为避免训练进程因硬件锁定而中断,其自定义MIL引入exec()机制,在卡顿时自动重启子进程并恢复状态,确保训练连续性。整个流程将所有数据保留在高速RAM中运行,完全规避了写入NAND闪存带来的延迟,显著提升运算效率。该方法已在GitHub开源,适用于当前搭载M4芯片的设备。145
02实测性能:能效比远超专业显卡
03适用范围与当前局限
04对用户的意义与潜在影响
主要是在128G内存的基础上M4 PRO可比AMD395可贵多了吧。
这是M4芯片要清库存了吗?还是卖不出去了?哈哈
能用于推理吗
隐藏了多少信息啊?内存到底多大?
m4哪款机型是用了外置GPU?
15.8TFLOPS的AI浮点算力 是什么意思?fp32?in16?fp16?
这又要涨价是吗?
M4滞销,帮帮我们
没有更多了