DeepReinforce开源Ornith-1.5 9B移动版,手机本地即可运行大模型

源自126位全网作者

16:39

内容由AI生成

精选参考来源

1. 🚨再也不能在你的机器上运行大型 AI 模型了!kimi-k3-in-c 是一个纯 C99 引擎,仅 176 KB,它直接从磁盘传输 Kimi K3 的专家从不加载到内存中!- 无需 GPU- 无需 CUDA- 无需框架在仅配备 8.24 GB RAM 的 CPU 上运行一个拥有 2.78 万亿参数的模型 🤯100% 开源代码。AI 的未来刚刚到来……而且它能装进你的笔记本电脑。网页链接

2. 8月19日消息,阿里巴巴达摩院于2026年3月发布的RISC-V旗舰CPU玄铁C950,近日成功原生运行通义千问3.8-27B大模型。这是RISC-V架构芯片首次在不依赖GPU、无需模拟层的情况下,直接运行270亿参数级别的AI模型。

3. 挑战 1 比特!ETH Zürich 秦浩桐:如何把大模型「塞进」小设备?| IJCAI 2026

4. #Qwen3.827B发布#27B(270亿参数)是全球AI社区呼声最高的模型尺寸,Qwen3.8-27B刚刚开源上线,部署便捷,快且实用。Qwen3.8-27B是原生多模态稠密(Dense)模型,支持262K 原生上下文,通过YaRN技术可外推至 1M Tokens上下文。较Qwen3.6-27B,新模型在编程和办公场景的性能大幅提升,表现甚至超越了Qwen3.7-Plus;同时,模型还新增了 reasoning_effort 功能,根据任务难度控制思考深度,更省资源。Qwen3.8-27B也拥有Qwen3.8系列模型的共性,可以端到端完成复杂任务,直接交付经得起检验的可靠成果。

5. 为了对比,把原版BF16的和4bit量化的Qwen3.8-27B稠密模型都部署到本机了,4bit的速度凑合16.5Tokens/s,两个版本的水准还分别在试。端侧能力密度和算力密度的提升(后者更慢),会不会使得一年之内类似“笔记本电脑+便携版多模态Opus-4.8”这样的可能出现?如果M7 Max、AI MAX 495的迭代版、RTX Spark 2.0、RTX6090这四个里其中一个能够算力精进的话。前三个的统一内存带宽瓶颈也到了需要通过LPDDR6X和“内存总线-位宽”解除一下的时候了。

6. 【DeepSeek Harness 桌面端:把复杂的 Agent 调度变成开箱即用的软件】DeepSeek Harness Desktop 将原本依赖命令行启动的本地 Web UI 封装成了原生桌面应用,支持 macOS 和 Windows。它解决了用户需要手动配置 Node.js 环境的门槛,集成了插件市场、移动端远程控制以及微信、飞书等社交软件的接入能力。该项目通过桌面窗口和系统托盘管理本地服务的生命周期,让模型适配器、工具注册表等复杂逻辑实现了开箱即用。目前大模型生态正从简单的对话框转向复杂的任务流,但本地运行 Agent 的配置成本阻碍了大多数人。这个项目的核心价值在于其基于 Cordis 构建的插件化架构,它试图建立一个 AI 时代的工具箱,让用户能像安装浏览器插件一样组合 AI 能力。社区评论普遍认为这种封装极大降低了探索 DeepSeek 生态的成本,让普通人也能触碰 Agent 调度。虽然这并非官方出品,但这种从开发者工具向消费级产品的跨越,反映出开源社区正在填补 AI 落地过程中最后的一公里易用性鸿沟。 repo: anywhere-labs/deepseek-harness-desktop

7. 【#小米MiMo将推出个人桌面端应用#】小米集团 CFO 林世伟今天(18 日)晚间在财报电话会上披露,小米 MiMo 近期将推出首款个人桌面端应用,可帮助用户一站式完成办公生活任务。新一代 MiMo 模型也正在训练中,有望很快发布。#小米机器人首次面向公众亮相##小米新一代玄戒芯片即将发布#商业化方面,林世伟透露,当前 MiMo 大模型 Token Plan 已经开始贡献收入,增速较快。不过小米 AI 业务仍在大规模投入期,暂不以变现为主要目的,将继续推动 AI 重构人车家全生态。今年 7 月,小米 MiMo V2.5 模型在全球大模型调用量平台 OpenRouter 上拿下月调用量和周调用量第一。林世伟表示,这主要基于小米 MiMo 在模型能力推理效率和成本控制上的系统性优势。据IT之家此前报道,今年 6 月 11 日,小米 MiMo 官方正式发布并开源 MiMo Code V0.1.0 —— 一款运行在终端里的探索性 AI 编程助手。据介绍,它内置限时免费多模态模型 MiMo-V2.5,同时支持接入 DeepSeek、Kimi 和 GLM 等主流模型,以及第三方 Token Plan,满足不同开发者的需求。(IT之家)

8. #小米手机的AI# 现在手机AI都讲端侧,不用联网更快更隐私。但小米的MiMo模型碰上长文、多轮对话这种复杂活儿,还是会连云端,响应就慢了半拍。公开数据显示今年一季度销量也掉了近两成。小米现在怎么补课?自研芯片、系统、模型三合一,还靠米家生态搞了个AI智能体,能一句话调设备。三年砸600亿,这条路能走通吗?点开视频,咱们不吹不黑,纯聊事实。#卢伟冰称小米未来全面拥抱AI##AI创造营##科技先锋官# 种斌Marco的微博视频

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章