半块RTX4090 玩转70B大语言模型

2024-07-20 17:51:22

自ChatGPT发布以来,隔三岔五就有人宣称又在多么没门级的硬件上成功运行了大模型。 但只要点进详情就会发现要么模型小得可怜,要么速度慢得没有实用价值。 而我的目标是,半块RTX4090的预算,70B档次的量化模型,以及与在线AI相当的流畅对话!

展开 收起

本文作者

0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关笔记推荐

相关好价
最新文章 热门文章
2
扫一下,分享更方便,购买更轻松

已收藏