前AMD高管创立Taalas发布HC1芯片,硬编码推理架构实现17k token/s吞吐

源自16位全网作者

02-21 20:05

内容由AI生成

精选参考来源

1. #微博声浪计划##听见微博# 阿里平头哥推出真武810E芯片,性能比肩英伟达H20,功耗低150W,训练成本降超30%。该芯片已部署万卡集群,支撑400家企业。阿里通云哥战略形成技术三角,推动国产AI芯片规模化商用,但仍面临工具链、制程等挑战。 科技星辰说的微博音频

2. 这次春节AI大战,国产模型与国产芯片第一次,双向奔赴! #春节世界观察 #新年囤点专业货 #燃起来了大国重器 #大咖观察 #红衣聊AI

3. 英伟达的对手来了!?高通宣布加入AI服务器领域!官宣当日股价大涨 11%「超极氪」

4. 单卡双芯 48G 显存!打造 20L 紧凑型 AI 算力怪兽:DeepSeek 70B 实测 19 tokens/s

5. 昨夜,高通发布面向数据中心的下一代AI推理优化解决方案,包括基于云端AI芯片Qualcomm AI200和AI250的加速卡及机架。Qualcomm AI200推出一款专用机架级AI推理解决方案,旨在为大语言模型和多模态模型(LLM、LMM)推理及其他AI工作负载提供更高的内存容量、更低的总拥有成本(TCO)和优化的性能,支持每卡768GB LPDDR。Qualcomm AI250解决方案将首次采用基于近存计算的创新内存架构,通过提供超过10倍的有效内存带宽和更低的功耗,不仅支持分解式AI推理,还能高效利用硬件资源,同时满足客户对性能和成本的要求。两种机架解决方案均采用直接液冷以提高热效率,采用PCIe进行纵向扩展,采用以太网进行横向扩展,采用机密计算以确保安全的AI工作负载,机架级功耗为160kW。

6. 高盛展望2026大中华区科技趋势:ASIC成AI服务器增量核心,光模块迈向1.6T,果链领跑智能手机.......

7. 昨晚好多朋友都在找我讨论高通发布的AI数据中心芯片。简单总结一下。2026年AI200芯片将开始出货,可作为独立组件、可插入现有设备的扩展卡,或作为由高通提供的整机机架服务器的一部分。该产品的首位客户是沙特阿拉伯的人工智能初创公司Humain,该公司计划从2026年开始基于这款新芯片部署200兆瓦的算力。2027年推出AI250芯片。若仅以芯片形式供应,该产品可用于搭载英伟达或其他竞争对手处理器的设备。若作为完整的服务器则将直接与这些厂商的产品竞争。高通这次发布产品的重要意义在于,让近存方案进入公众的视野,这个架构做云端推理,edge/端侧推理将是一个合理的成本方案。所以二线的DRAM厂商也可以通过非HBM的形态参与到推理服务器的产品中。#AI设备#

8. 国产AI芯片已成功突围,但仅限于国内市场,NVIDIA垄断全球市场

9. 终有一天,中国芯片公司会成为英伟达的噩梦#英伟达 #阿里巴巴 #芯片 #科技 #AI

10. 台积电2nm制程工艺或将可能会年底量产

11. 中美AI芯片博弈啥情况?国产芯片到底能达到什么水平? #零距离看懂财经 #芯片

12. 一文拆解英伟达Rubin CPX:首颗专用AI推理的芯片到底强在哪?

13. 台积电2nm之争:苹果锁定过半产能,竞争对手恐陷入被动局面

14. 英伟达 B30A 中国特供芯片!2.4万美元一片!国内大厂还得抢着要?「超极氪」

15. 台积电2nm产能告急:苹果包揽首批,AMD谷歌排队,英伟达已瞄准1.6nm

16. 又一家AI芯片公司:另辟蹊径挑战英伟达

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章