这可能是你见过mac m3 ultra studio测试最多的ai大模型图文篇

这可能是你见过mac m3 ultra studio测试最多的ai大模型内容（图文篇）

最近入手了超级大玩具，512M内存的mac m3 utral sutdio，这是最适合个人用的ai电脑（之所以是个人，因为给企业用的话，并发速度会卡死的），但这个价格也是特别贵了（虽然和服务器比还是便宜的，而且这体积，这功耗，这静音）。

入手后测试了各种常见的、新出的ai大模型，为了知道mac m3 ultra studio跑各类大模型的具体性能是怎样的，也初步对比一下各个大模式量化版本的质量对比（也包括abliterated的哦），花了一周左右的时间来测试，单单是大模型我都下载了4T左右（我买的是4T版本），这篇是图文版，具体的测试过程我也录屏了，到时候整理好视频了再发个测试视频（不过我是刚入门mac，以前也没剪过视频，最近也有点忙，所以应该不会这么快出视频）。

这个图文版包括了一张特大的图片，有各大模型的生成token速度，以及我初步对生成内容质量的评价（不一定准确），供大家参考。

后面我也会附上这个测试大模型的所有答案，有兴趣的可以去下载

一、先说结论（我是用lm studio来测试的）：

1、推荐使用DeepSeek-R1-Distill-Qwen-32B和qwq 32B的gguf格式的ai大模型，这两个模型相对表现最好，其中我感觉QWQ 32B表现会比32B的deepseek R1会好占。有4090、5090或者96G内存版本的m3 ultra的，建议上这两个ai大模型的Q5左右的量化版本，m3推荐上q8的版本。

2、512G内存的m3 ultra，可以考虑使用最新的DeepSeek-V3-0324模型。

二、测试的心得

1、同个模型跑几次的答案可能都不一样。不过同个量化等级的我测试了多个版本，所以大概看的到平均质量。

2、不推荐用mlx格式模型，虽然速度比ggfu的快，但感觉精度有问题，对比质量大部分比gguf的差，除非你很注重速度，否则我不推荐使用mlx格式的。

3、abliterated的大部分表现和ggfu的差不多，不过感觉质量似乎比gguf的差点。如果abliterated+mlx的大模型，一般表现都差。Tifa-DeepsexV2-7b-MGRPO-GGUF-Q8这个不推荐，很垃圾，14B的表现和正常的14模型差不多，不过我也没具体使用（包括abliterated版本的），买来一直做测试，一直没时间正式使用。

4、推荐q8的量化，和bf16的质量差不了多少，速度比bf16的快不少。

5、推荐DeepSeek-R1-Distill-Qwen-32B和qwq 32B的ai大模型，这两个模型相对表现最好，其中我感觉QWQ 32B表现会比32B的deepseek R1会好点。有4090、5090或者96G内存版本的m3 ultra的，建议上这两个ai大模型。

6、70B的deepseek r1模型，质量和32b差不多，但速度只有7 token，太慢，所以不推荐。

7、512版本的m3 ultra，我推荐上最新出的DeepSeek-V3-0324模型，这个版本回答的质量不错，而且没有推理过程，回复快，虽然只有10 token/s的速度，但不用思考所以还是可以接受的。

8、请尽量更新到最新版本的lm studio，我测试的时候，出了新的ai大模型，但lm studio会有加载BUG、回复乱码BUG等，过几天更新后就正常了（所以又加重任务量）

9、有些录屏只录了一半（当然视频我还没放出来），因为我不知道切换屏幕后录屏会自动停止。后来找了各种串流软件，经测试我推荐parsec这个串流软件，质量很不错（只比moonlight差一点），操作和原生一样（moonlight的键位映射和鼠标不行）。

三、测试题目

每个问题都新建聊天

问题1：按照参战人数，列出世界十大战役

（答案参考deepseep r1官方满血版、grok、gemini、openai等）

回答：

token速度：

问题2：详细介绍一下湛江

（我是湛江人，对，就是梁文锋的出生城市，所以对回答质量可以初步评价）

回答：

token速度：

问题3：规划一下湛江到上海及附近双飞7日游

（去年我刚去，在小红书整理了一个星期的攻略）

回答：

token速度：

数学题1：有蜘蛛，蜻蜓，蝉三种动物共18只，共有腿118条，翅膀20对（蜘蛛8条腿；蜻蜓6条腿，2对翅膀；蝉6条腿，1对翅膀），三种动物各几只？（普通鸡兔同笼题，这种题目感觉对AI没有难度。正确答案：蜘蛛5只，蜻蜓7只，蝉6只。）回答：

token速度：

数学题2：数字9.11和9.9哪个大（前面加上数字，这个AI会判断是比较两个小数的大小，对AI也没有难度。正确答案：9.9）回答：

token速度：

数学题3：题目：一个圆的周长为1.26米，两只蚂蚁从一条直径的两端同时沿圆周出发相向爬行，爬行速度分别为5.5厘米/秒和3.5厘米/秒。已知它们先爬行1秒后同时掉头，爬行3秒后再同时掉头，爬行5秒后再同时掉头，以此类推…且爬行时间为连续奇数秒，计算它们在多少秒之后相遇？（这个题目就十分的绕，有一定难度，大部分ai都算不出来，除了32B以上的，而且也不是每次都算的出来，有时正确有时错。正确答案49）回答：

token速度：

四、最后附上我测试结果的图片（如果显示过小请下载压缩包，有各大模型的token速度，以及我个人主观的质量评价。