Macbook测试大模型，M1到M4，这次玩新意用2.5B

油管有博主，从另外角度分享Apple M系列跑大模型的能力，我稍微搬砖一下给大家。

博主比较了2014款配备英特尔处理器的MacBook Pro与多款搭载不同M系列芯片的MacBook的性能。测试使用了一个小型语言模型（LLaMA 2.5B）来评估各设备的处理速度。

测试设备：

• 2014款MacBook Pro：英特尔处理器，8GB内存。

• 2020款MacBook Air：M1芯片，8GB统一内存。

• 2023款MacBook Pro：M3 Pro芯片，36GB统一内存。

• 最新款Mac Mini：M4芯片，16GB统一内存。

测试结果：

• 2014款MacBook Pro：处理速度为2.2 tokens/秒。

• 2020款MacBook Air（M1）：处理速度约为50 tokens/秒，比2014款快约20倍。

• 2023款MacBook Pro（M3 Pro）：处理速度为124 tokens/秒。

• 最新款Mac Mini（M4）：处理速度为120 tokens/秒。

虽然是小模型，但是也从另外一个侧面看到性能，未来我会分享更多。