这是一位大模型女工程师的一周工作生活记录,其中既有技术攻坚的困惑与解法,也涵盖跨领域学习的体会和人生哲学的思考,为技术从业者提供了一种真实而多元的成长视角。
智能速览
撰写通用多模态测试脚本,面临不同模型架构图片Token计算方式各异的难题。
通过实际需求深入理解CUDA Driver API与Runtime API的差异与应用场景。
学习网络工程知识,以构建AI集群所需的全栈技术能力。
对“人生如马尔可夫链”的观点提出个人见解,探讨人类经验的独特性。
利用AI生图技术优化自研桌游,实现抽象概念的直观艺术表达。
精华内容
技术工作的日常并非只有代码,还包含着持续学习、跨界探索与深刻反思。
技术攻坚
本周的核心挑战是编写一个通用的多模态模型性能测试脚本。在研究vLLM的benchmark工具后,发现不同模型的图片Token是在其Vision Encoder层计算,而非统一的客户端层面,这给普适性脚本的实现带来了障碍。初步构想是为每种模型架构建立一个字典,在客户端完成Token计算,但这种方法略显笨重。后续将研究同事推荐的guidellm项目,寻找更优的解决方案。
API深潜
处理售前技术需求时,深入学习了CUDA的相关API。CUDA Driver API作为更底层的接口,需要开发者显式管理硬件资源,而CUDA Runtime API则是基于Driver API的高级封装,能够自动管理资源。通过编写C++脚本进行验证,清晰地掌握了二者在资源管理上的根本区别,为后续的兼容性测试工作奠定了基础。
跨界学习
作为一名偏向软件的FAE,硬件交付能力同样重要。本周开始系统学习《计算机网络工程实用教程》,以掌握AI集群相关的网络知识。该书从网络设备、交换机、路由器技术到服务器与网络规划,提供了完整的知识框架。相较于大模型领域的抽象与复杂,网络工程的知识体系更显结构化,学习起来也更易于把握。
灵感与创造
工作之外,团队继续优化自研桌游“蒸蚌大开门”的规则与卡牌。利用AI生图工具,为16张卡牌创作了专属形象。通过精心设计的提示词,成功将抽象的语义转化为直观可爱的视觉形象,再次证明了AI在创意表达上的强大能力,为桌游增添了独特的艺术魅力。

这位工程师的记录展现了一种立体而真实的职业状态:在解决具体技术难题的同时,不忘拓宽知识边界,并从中汲取生活灵感。对于同样身处技术领域的人而言,这种平衡或许是一种值得借鉴的成长路径。
关键评论
有网友认出了这款自研桌游,并对其表达了赞赏。
多位网友对AI生成桌游卡牌所使用的提示词表现出浓厚兴趣。