树莓派跑YOLO稳定压到28ms内实战方案

1. 游戏CPU全新答案，AMD Ryzen 7 9850X3D性能首发！

哔哩哔哩 2026-01-28 00:00:00

2. 在树莓派上跑Qwen3-30B-A3B 是一种什么体验？byteshape.com/blogs/Qwen3-30B-A3B-Instruct-2507/这篇文章详细介绍了 ByteShape 团队如何通过其 ShapeLearn 技术优化 Qwen3-30B-A3B-Instruct-2507 模型，使其能在从树莓派到高端 GPU 等不同设备上高效运行。文章认为显存应被视为一种约束条件，在此基础上去优化速度（TPS）与质量之间的权衡，而不是盲目追求更小的文件体积。#科技先锋官#

新浪微博 2026-01-07 00:00:00

3. 想做出逼真的AI语音合成，很多人只能依赖在线API：隐私全泄露，费用居高不下。NeuTTS 把顶级语音能力带到本地设备，提供开源免费的超拟真TTS解决方案。不仅有最佳尺寸比的真实语音，还支持3秒即克隆音色，手机笔记本树莓派全都能跑，英语/西班牙/德/法多语种支持。GitHub：github.com/neuphonic/neutts主要功能：- 超拟真语音合成：小模型大自然度，像真人说话；- 3秒即时声音克隆：短音频样本快速复刻音色；- 全本地离线运行：隐私安全，不上传数据；- 轻量高效部署：GGUF量化，手机/嵌入式设备实时生成；- 多语种支持：英语、西班牙语、德语、法语（模型相关）；- 流式生成+水印：实时播放，输出可追溯更负责。支持 pip install neutts 一键安装，Python代码几行搞定，适合开发者、App嵌入和语音应用。#AI##开源##TTS##语音合成#

新浪微博 2026-04-28 00:00:00

4. 大模型时代，为什么工业界还在疯狂用 YOLO？算完这笔账，我沉默了

微信公众号 2026-01-21 00:00:00

5. 小马拉大车：为什么不给树莓派配一块高性能显卡呢？www.jeffgeerling.com/blog/2025/big-gpus-dont-need-big-pcsJeff Geerling 写了一篇博客，探讨了将高端独立显卡连接到像树莓派这样的小型低功耗计算平台上是否具有实际意义。结论自然是有的，在LLM推理、视频转码等很多场景下，两者性能差别不大，但显然树莓派的耗电要更小。#科技先锋官##AI创造营#

新浪微博 2025-12-21 00:00:00

6. Qwen3.5 量化：INT4 vs NVFP4 vs FP8 vs BF16我对量化的 Qwen3.5 9B、27B 和 35B 进行了全面评估——全部与 vLLM 兼容。文章：网页链接一些实用建议：- 性能优异的 4 位 Qwen3.5 27B 处理器比 Qwen3.5 9B 处理器性能强得多，而且内存预算也相近。- 注意“INT4”标签：有些 INT4 型号最终会变得几乎和 FP8 版本一样大，因为许多敏感层保持了更高的精度。量化后的 Qwen3.5 模型需要更长的思考时间。因此，虽然模型运行速度更快、内存效率更高，但生成的词元也更多。为了获得最佳质量，首先不要量化线性注意力机制。如有必要，也可以将注意力机制保持在 16 位。Qwen 在其 INT4 版本中也采用了这种策略，效果很好。对于 MoE 模型：不要量化共享专家。我在@verdacloud提供的 B200、H200 和 RTX Pro 6000 GPU 上进行了这些实验（计算赞助）。

新浪微博 2026-03-14 00:00:00

7. Google 今天发布了 Gemma 4，这是他们迄今最强的开源模型家族，脱胎于 Gemini 3 的同一套研究成果。最大的变化是许可证。之前的 Gemma 用的是 Google 自家的许可协议，限制不少。这次 Gemma 4 全系列换成了 Apache 2.0 开源协议，商用、修改、分发都没障碍。对企业和独立开发者来说，这意味着可以放心把模型嵌入自己的产品，不用再反复研究条款里的灰色地带。Gemma 4 提供四个尺寸：31B Dense、26B MoE（混合专家架构）、E4B 和 E2B。其中 31B 在 Arena AI 开源模型文本排行榜上排第三，26B 排第六，Google 称它们的表现超过了体量大 20 倍的模型。大模型支持 256K 上下文窗口，可以一次性喂入长文档或整个代码仓库。有意思的是端侧能力。E2B 和 E4B 两个小模型是 Google 和 Pixel 团队、高通、联发科联合开发的，能跑在手机、树莓派、Jetson Nano 上，延迟接近零。小模型还额外支持音频输入和语音理解。想在手机上跑一个能看图、听话、还能离线写代码的本地 AI 智能体，现在有了一个不错的开箱即用选项。31B 模型不做量化的情况下，可以装进单张 80GB 的 H100 显卡。全系列原生支持函数调用和结构化 JSON 输出，直接面向 AI Agent 开发场景。目前已经可以在 Google AI Studio、Hugging Face、Kaggle、Ollama 等平台获取模型权重。Gemma 系列自发布以来累计下载量已超过 4 亿次，社区创建了超过 10 万个变体。Google 显然想用开源生态绑住开发者。不过在 Arena AI 开源排行榜上，目前前列位置大量被中国开源模型占据，Gemma 4 的 31B 排第三，能守住多久是个问号。 宝玉xp的微博视频

新浪微博 2026-04-03 00:00:00

8. 2026.3.11测试树莓派5的命令和提示词

https://www.cnblogs.com/quantum-mydream/p/19701691

9. 被神化的“预训练”，被低估的“推理”：我如何让一个7B模型在树莓派上跑出ChatGPT 3.5的效果

微信公众号 2026-05-09 00:00:00