张大妈

RTX4060 Ti 16GB封神!Qwen3.5-35B 64k上下文跑满60 tok/s

源自今日头条:知识大胖

04-19 13:45

内容由AI生成
149
扫一下,分享更方便,购买更轻松
32评论

  • 精彩
  • 最新
  • 4位也没啥好说的,真的什么时候能到6bit再说吧

    校验提示文案

    提交
  • 我能说我24g3090都跑不起来吗?

    校验提示文案

    提交
    能跑,就是慢

    校验提示文案

    提交
    收起所有回复
  • 5060ti16才是战未来的好卡,下一个模型肯定超合适

    校验提示文案

    提交
    4060 16g能扩运存到32g。50系锁死了。30、40系宝藏

    校验提示文案

    提交
    没听说4060ti可以扩容啊

    校验提示文案

    提交
    还有2条回复
    收起所有回复
  • 跑q4显然应该用50系,有fp4速度加倍。40系只能用fp8跑

    校验提示文案

    提交
  • fp4现在只有mac版本吧

    校验提示文案

    提交
  • 4060ti好牛啊,我的4070tis勉强跑起来也不过30token/s

    校验提示文案

    提交
    主要是那16G显存发挥了

    校验提示文案

    提交
    tis也16g

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • A3B就活了吧

    校验提示文案

    提交
  • 我32g内存。4070ti super显卡。一模一样的参数运行有58t/s

    校验提示文案

    提交
  • 8G 版看你们秀

    校验提示文案

    提交
  • Kv怎么量化的?

    校验提示文案

    提交
  • 看到了cpu moe,cpu很厉害

    校验提示文案

    提交
  • 我还在用2060 [喜极而泣]

    校验提示文案

    提交
    可以再买一张一起跑AI

    校验提示文案

    提交
    收起所有回复
  • 测试我的amd24g 111token/s

    校验提示文案

    提交
  • 混合专家版本又啥意义呢,还不如9b的稠密版呢

    校验提示文案

    提交
  • 老老实实用在线版本吧,别合计自己本地的搭建,电费都可以用好久了,显卡每天的降价都够你用几个月的了。

    校验提示文案

    提交
  • 而且是moe架构的,激活参数只有3b

    校验提示文案

    提交
  • 3090也才50多t/s bg10也才50t/s

    校验提示文案

    提交
  • 玩可以,生产力不行。哦,生图还可以

    校验提示文案

    提交
  • 实测还是flash好用,独显一句话半天反应不过来,没法干活

    校验提示文案

    提交
  • 卖卡的骗子,openclaw 启动就是20k,几句话掉个工具就炸了。没压缩的余地。最低120k才能用。60k算极小上下文了。不如买flash用吧

    校验提示文案

    提交
    200k 都不行,我拿 Agent 写小说,我自己写的 skill ,故事框架,人物设定,扔进去跑个十章就 100 多 k 了,64k 上下文搞笑呢

    校验提示文案

    提交
    收起所有回复
提示信息

取消
确认
评论举报

最新文章 热门文章