转：大模型训练达到峰值的时候就不需要英伟达的芯片了是吗？ - 理论上是的，然我们要从一个更高纬度看这个问题。首先整个 AI 的这个行业发展，我们还存在一个很早期的结论，因为大家现在花钱去买显卡，都花在训练上。对，就是说大家买的显卡其实都是属于拿来训练模型，更多的是在卷底层模型的能力，而不是有任何商业应用可以落地，那未来这个行业发展到后期比较成熟的、比较良性的时候，肯定是更多的芯片，更多的投资会花在推理端的投入和优化。因为这个时候是你扩大规模商业落地应用开发结果的时候，那这个时候我们要回到这个问题，说英伟达在那个时候份额一定会下降，因为推理是一个非常易购。 - 推理有两种形态，一种现在大家比较熟悉，就是云端API，大家现在用chatGPT就是它在跑在一个 openAI的一个API 的工具，你给他一个问题，他给你一个结果。对，就是因为它这个模型非常大，它只能部署在它这个微软的 data center 上，然后它可能背后好多整个一个打集群内部跑，但是它也可以做相应的一些优化，比如说把很多用户的 request batch 成一个输入，然后送到模型里，然后再给你返回来，这样的话它可以增加这个估客户的数量，从降本增效的考虑，它会更加，但是这只是一种部署的形式。 - 另外一种部署的形式，这也是我们最终想要部署的形式是把这个模型跑在你的本地的设备上，调用任何云端 API 你都是要花钱的。现在大家在卷这个价格战，在降低这个模型价格，只是因为大家还在这个早期的这个红海竞争的时期，到最后有那么几家公司统治了底层模型了之后，他可以会收你钱的，肯定会收你钱。但是从开发者的角度来讲，假设我是一个游戏开发者，或者说我是Adobe，我就想在我的应用里集成一个AI 模型我还是想要把这个模型部署在用户的电脑上，这样的话花的成本是用户的电费。所以最后我们想要的形态是把所有的东西都部署在你本地的 iPhone 上、 Mac 上，然后甚至是比亚迪上小黄车上，这种商业形态上英伟达是很难拿到一个很大的市场份额的，我们要思考这样的一个问题，当这一天到来，当我刚才描述的这样的一种局面，所有人都在，就百花齐放，推理一端，大家都有自己的落地应用，都可以把模型部署在芯片上的时候，大家去设想一下，那个时候我们看到的市场蛋糕有多大？有没有可能英伟达在那个时候不需要拿到像现在85%、 90% 的市场份额？也可以用他自己早期在生态在软件方面的布局去转型成为一个 AI 服务公司。 -
黄鱼1500
路过围观分享
待机40w问题还有吗
放入购物车，想想功耗还是放弃了
不至于，这张显卡的价格还是对的起性能的。
很酷啊~~
说这么多看看🐠就知道了 我用我真买 你用就不建议
Arc A770联名显卡，喜欢这款游戏的朋友不能错过
性能如何呢？
转：大模型训练达到峰值的时候就不需要英伟达的芯片了是吗？
- 理论上是的，然我们要从一个更高纬度看这个问题。首先整个 AI 的这个行业发展，我们还存在一个很早期的结论，因为大家现在花钱去买显卡，都花在训练上。对，就是说大家买的显卡其实都是属于拿来训练模型，更多的是在卷底层模型的能力，而不是有任何商业应用可以落地，那未来这个行业发展到后期比较成熟的、比较良性的时候，肯定是更多的芯片，更多的投资会花在推理端的投入和优化。因为这个时候是你扩大规模商业落地应用开发结果的时候，那这个时候我们要回到这个问题，说英伟达在那个时候份额一定会下降，因为推理是一个非常易购。
- 推理有两种形态，一种现在大家比较熟悉，就是云端API，大家现在用chatGPT就是它在跑在一个 openAI的一个API 的工具，你给他一个问题，他给你一个结果。对，就是因为它这个模型非常大，它只能部署在它这个微软的 data center 上，然后它可能背后好多整个一个打集群内部跑，但是它也可以做相应的一些优化，比如说把很多用户的 request batch 成一个输入，然后送到模型里，然后再给你返回来，这样的话它可以增加这个估客户的数量，从降本增效的考虑，它会更加，但是这只是一种部署的形式。
- 另外一种部署的形式，这也是我们最终想要部署的形式是把这个模型跑在你的本地的设备上，调用任何云端 API 你都是要花钱的。现在大家在卷这个价格战，在降低这个模型价格，只是因为大家还在这个早期的这个红海竞争的时期，到最后有那么几家公司统治了底层模型了之后，他可以会收你钱的，肯定会收你钱。但是从开发者的角度来讲，假设我是一个游戏开发者，或者说我是Adobe，我就想在我的应用里集成一个AI 模型我还是想要把这个模型部署在用户的电脑上，这样的话花的成本是用户的电费。所以最后我们想要的形态是把所有的东西都部署在你本地的 iPhone 上、 Mac 上，然后甚至是比亚迪上小黄车上，这种商业形态上英伟达是很难拿到一个很大的市场份额的，我们要思考这样的一个问题，当这一天到来，当我刚才描述的这样的一种局面，所有人都在，就百花齐放，推理一端，大家都有自己的落地应用，都可以把模型部署在芯片上的时候，大家去设想一下，那个时候我们看到的市场蛋糕有多大？有没有可能英伟达在那个时候不需要拿到像现在85%、 90% 的市场份额？也可以用他自己早期在生态在软件方面的布局去转型成为一个 AI 服务公司。
-
价格很合适啊~
intel真是一直变着法子联名
气氛起来了
一直都在更新。
intel还没更新旗舰型号吗。
总算碰到个足够性价比买得起的显卡了。
驱动又更新了吗？
联名款的就是好看
这个好看的
多少钱最合适入手？
请选择举报理由