什么值得买App下载 App ›
连续签到专享现金活动

Mac跑DeepSeek别再手动下载了,Ollama帮你全搞定

打开终端,一行命令装好Homebrew:/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"。装完顺手跑一下brew doctor,有红字先解决再往下走,别攒着埋雷。1
Python环境别用系统原装,Mac上那套Python版本管理烂透了。用Miniforge3建隔离环境,它是ARM原生优化过的Conda发行版:brew install --cask miniforge3,然后conda init zsh && source ~/.zshrc,接着conda create -n deepseek python=3.10 && conda activate deepseek。2
模型下载与量化加载
下载DeepSeek-R1模型推荐用Ollama,一行命令搞定:ollama run deepseek-r1:7b。M1/M2/M3芯片会自动启用Metal加速,M4系列还能跑到30+ tok/s。别傻乎乎去HuggingFace手动下,Ollama帮你把脏活全包了,模型格式转换、量化、GPU卸载不用操心。3
手头机器只有16GB统一内存?直接跑7B的Q4_K_M量化版,内存占用压到4GB左右,响应速度反而比加载14B模型但频繁Swap快得多。Ollama默认拉的就是优化过的量化版本,别手欠去改参数。4
推理加速与参数调优
生成参数设置要克制,别贪:max_new_tokens设到256以内,context length压到2048或4096,短文本任务直接把上下文窗口砍一半,速度能翻倍。跑代码或长文再按需放开,日常问答没必要拉满。5
M4芯片用户注意,系统默认GPU分配只有70%,跑sudo sysctl iogpu.wired_limit_mb=13824把可用内存顶到13.5GB,实测生成速度能再拉高15%-20%。这招临时生效,重启自动恢复,安全性没问题。6
常见问题避坑指南
  • 别装通用版PyTorch,macOS必须用nightly MPS版,否则Metal加速全废,推理卡成PPT5
  • 16GB内存别硬跑14B模型,会触发Swap导致速度暴跌至3-5 tok/s,4B或7B才是流畅可用的选择3
  • 不要混用Intel和Apple Silicon的包,llama.cpp必须重新编译且开启DLLAMA_METAL=ON,否则Metal后端形同虚设7
  • Ollama默认端口11434,确认没被占用再启动,多个模型同时跑记得改端口映射1

评论

评论区空态插画

当前文章无评论,是时候发表评论了