Mac跑DeepSeek别再手动下载了,Ollama帮你全搞定
打开终端,一行命令装好Homebrew:/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"。装完顺手跑一下brew doctor,有红字先解决再往下走,别攒着埋雷。1
Python环境别用系统原装,Mac上那套Python版本管理烂透了。用Miniforge3建隔离环境,它是ARM原生优化过的Conda发行版:brew install --cask miniforge3,然后conda init zsh && source ~/.zshrc,接着conda create -n deepseek python=3.10 && conda activate deepseek。2
模型下载与量化加载
下载DeepSeek-R1模型推荐用Ollama,一行命令搞定:ollama run deepseek-r1:7b。M1/M2/M3芯片会自动启用Metal加速,M4系列还能跑到30+ tok/s。别傻乎乎去HuggingFace手动下,Ollama帮你把脏活全包了,模型格式转换、量化、GPU卸载不用操心。3
手头机器只有16GB统一内存?直接跑7B的Q4_K_M量化版,内存占用压到4GB左右,响应速度反而比加载14B模型但频繁Swap快得多。Ollama默认拉的就是优化过的量化版本,别手欠去改参数。4
推理加速与参数调优
生成参数设置要克制,别贪:max_new_tokens设到256以内,context length压到2048或4096,短文本任务直接把上下文窗口砍一半,速度能翻倍。跑代码或长文再按需放开,日常问答没必要拉满。5
M4芯片用户注意,系统默认GPU分配只有70%,跑sudo sysctl iogpu.wired_limit_mb=13824把可用内存顶到13.5GB,实测生成速度能再拉高15%-20%。这招临时生效,重启自动恢复,安全性没问题。6
当前文章无评论,是时候发表评论了