AI走下云端？技嘉AI TOP ATOM黑客松，或许预示着桌面AI时代已来

小伙伴们好，我是潮玩！关注一下，每天都有新收获哦！↑↑↑

7月26日，由技嘉（GIGABYTE）、NVIDIA共同主办，北京趋境科技、京东、TusFIIC、模数世界及Transformers联合承办的AI TOP ATOM桌面AI超算黑客松在北京落下帷幕。来自全国各地的开发者围绕本地大模型推理、AI Agent、智能应用等方向进行了为期数周的开发，并在现场完成了最终成果展示。

一、桌面AI超算竞赛事实录

活动中，多位行业嘉宾带来专业分享：技嘉科技专案电脑事业处资深经理张风庆先生，深度解读了当下AI主机行业的发展趋势，并重点阐述了技嘉AI TOP ATOM在AI本地化部署场景中的核心优势。

北京趋境科技副总裁关嘉伟先生为我们详细介绍了趋境AIMA开发者环境在部署上的便捷与实操优势。

而KTransformers维护者、清华大学博士谢威宇先生，则围绕KTransformers技术，分享了其在大幅提升大模型推理与运行效率方面的重要作用。

随后，慧极AI硬件智能体团队、极评测AI等十一支参赛队伍，就自己的项目进行了现场展示。

这些项目，分别聚焦于医保结算环节面、私有化知识库部署、Agent协作系统、中医智慧数字化等领域。

且均借助技嘉AI TOP ATOM主机的算力支持，经过了48小时的历练与角逐后，在7月26日面向评委进行了成果的说明与答辩。

精彩的成果分享后，本次活动各大奖项逐一揭晓，最终最佳作品奖由鲲鹏战队获得，其项目聚焦于搭建离线多模型智能框架，可低成本实现大小模型自由组合，实用性强。

NVIDIA企业开发者社区经理何琨先生为其颁发一台AI TOP ATOM。

最佳创新奖由立志炼出纯纯的丹获得，其项目为消费级大模型的极速 test time training。为轻量化大模型高效推理提供了全新思路，北京趋境科技副总裁关嘉伟先生为其颁发技嘉RTX 5080风魔显卡

最具落地潜力奖由中科斯欧团队获得，其项目为降低工业场景 AI 算力投入门槛，打造易部署、高安全、低成本的本地化桌面智算解决方案。

奖品为技嘉RTX 5060 TI AI BOX。由KTransformers维护者、清华大学博士谢威宇先生为其颁奖。

开发者潜力奖由岐黄AI（AI for TCM）与瓦瓦团队联合斩获，两支团队各有亮点：岐黄AI团队专注传统中医智慧的数字化、可复用、普惠化传承，瓦瓦团队则打造出适配日常文案设计、素材快速生成场景的本地部署AI模型，由技嘉科技专案电脑事业处资深经理张风庆先生为其颁奖，奖品为技嘉GO27Q24G显示器。

从竞赛展示来看，参赛作品覆盖了知识库问答、智能办公、教育科研、代码开发辅助以及行业AI应用等多个方向。

由技嘉科技专案电脑事业处资深经理张风庆先生、NVIDIA企业开发者社区经理何琨先生、北京趋境科技副总裁关嘉伟先生以及KTransformers维护者、清华大学博士谢威宇先生组成的评委组经过多维度考核给予评定。

除了奖项，本次活动更值得关注的是另一个现象——越来越多开发者，开始把AI部署在自己的桌面，而不是云端。如果说过去三年属于”云AI”时代，那么这场比赛，或许正在告诉行业另一个答案：桌面AI，正在成为新的发展方向。

二、技嘉AI TOP ATOM，正在改变本地AI开发

本次比赛中，所有开发团队都围绕技嘉AI TOP ATOM展开开发。第一眼看到它，很容易把它误认为是一台迷你主机。但真正点亮设备以后，你会发现，它更像是一台浓缩后的AI工作站。

（一）构架优势带来低功耗超强算力

技嘉 AI TOP ATOM 采用了 GB10 Grace Blackwell Superchip 超级封装芯片。这枚芯片分为两大模块：一是 ARM 架构 的Grace 处理器，包含 10 颗 Cortex-X925 高性能核心 + 10 颗 Cortex-A725 高能效核心。

另一部分是 Blackwell GPU，作为核心 AI 计算单元，通用 FP32 浮点算力可达 31.25 TFLOPs，它的峰值算力高达 1000 AI TOPS，完全可以适配模型训练、数据预处理、本地模型开发等场景。而整机的功耗低至170W，这在以前简直不可想象。

芯片内部依靠 NVLink-C2C 芯片直连互联技术，让 CPU 与 GPU 共享统一内存池，整机 128GB LPDDR5x 统一内存总线带宽达 273GB/s。并可在桌面本地 FP4 量化条件下直接运行 200B 参数级大模型；搭配 ConnectX-7 高速网卡多机互联后，还可扩展支持 400B+更大规模模型推理。

（二）真正降低门槛的，不只是硬件

如果说硬件决定了AI能不能跑，那么软件决定了AI好不好用。此次AI TOP ATOM搭载的，由趋境科技自主研发的、AIMA推理智能管控平台，则把复杂的部署流程进行了极大的简化。它能够自动完成硬件检测、环境匹配、模型部署，并借助AI Agent持续优化推理性能，实现接近”开箱即用”的开发体验。官方数据显示，开发者最快可在5分钟内完成从开机到模型运行的全过程。

同时，借助清华大学 MADSys 实验室 + 趋境科技联合开源的大语言模型异构推理 / 微调框架KTransformers，更可实现大参数模型的调用。

另外，技嘉AI TOP ATOM支持完全离线运行，对于科研机构、企业研发以及涉及敏感数据的行业来说，也意味着更高的数据安全性。

三、桌面AI，也许会成为未来几年最大的机会

未来几年，我们很可能会看到越来越多应用直接运行在本地，AI不再只是网页上的聊天窗口，而是真正成为桌面操作系统的一部分。也许几年后，人们会发现，AI发展的分水岭，并不是模型参数第一次突破万亿，而是像技嘉AI TOP ATOM这样的桌面AI设备，让大模型真正走出了云端，走进了每一个人的办公桌。

好了，本期的体验分享就到这里，我是潮玩，8小时内努力搬砖，8小时外热烈码字，这里持续分享数码新体验，承蒙欢喜，予我厚爱，我们下期再见！