全站首发!微星新掌机17W跑Deepseek R1
应该没有人像我这样买台掌机回来跑LLM?用的工具是LM Studio,最近更新很快,已经到0.39版本了,支持R1蒸馏系列,而且K V Cache也能设置,当然flash attention也是打开的。可能由于lunar lake 是8核心8线程吧,CPU最该只有4线程?
简单测试了R1 distill 7B,看着思维链条,特别舒服,我让他写了一个吕洞宾5000字的故事,孜孜不倦的在写,点赞。
最后结果,每秒10.8tkens附近,如果是1.5B大概有20多个tokens,后面再慢慢测试咯

















