什么值得买App下载 App ›
连续签到专享现金活动

AI造芯5个月干完一年的活,奥特曼却踩了刹车

你下一台AI硬件里的芯片,可能已经被AI自己"打磨"过了。

今天OpenAI公布了一组成绩:其模型用不到5个月,把AMD旗舰GPU IP的PPA最高提升了14%——相当于人类工程师约一年的工作量,且基准本已深度优化。PPA就是功耗、性能、面积这三项芯片设计核心指标,说人话:更省电、更快、更小。智东西知乎

AI造芯5个月干完一年的活,奥特曼却踩了刹车

这不是PPT。AMD已把部分优化用到近期流片的设计,其余写进量产设计文件留给后续迭代。OpenAI自家首款推理芯片Jalapeño也吃到红利:向量单元标准单元面积缩约13%,矩阵单元缩约10%,官方称已在流片调试阶段验证。智东西

在覆盖五代模型的RISC-V处理器测试里,刚上线的GPT-6.2 Astra平均分最高。OpenAI还在与新思科技合作,把这套能力接进工程师日常的EDA工具链。知乎

AI造芯5个月干完一年的活,奥特曼却踩了刹车

但同一时间,奥特曼踩了刹车。

11月16日的Semafor活动上,谈到"递归自我改进"——也就是AI设计更强的AI、自己迭代自己——他当场划线:“我们本可以进一步向递归自我改进推进,但我不认为现在能安全地这么做。”。他把这事拆成两层:AI有没有加快OpenAI自家模型的研发?有。能不能按个按钮,让模型在无人监督下自己设计下一代?当然不是。他还顺带吐槽了硅谷的推销话术:一边许诺廉价商品和攻克癌症,一边要人类交出全部主导权,让人类"像只拉布拉多犬一样活着,机器也许会哄你开心,但你再也没有任何控制权了"。新智元

刹车不止于嘴。OpenAI已与Apollo Research、METR、Transluce、Goodfire四家外部机构签约,请它们"驻场查岗":Apollo派6人驻场4个月,专查模型会不会暗中破坏对齐与控制机制;METR盯最大规模强化学习训练;Transluce审对齐评测的"考卷"质量;Goodfire用可解释性方法给模型"开颅透视"。新智元

AI造芯5个月干完一年的活,奥特曼却踩了刹车

为什么这么折腾?因为老办法失灵过。METR此前检查OpenAI内部监控时发现一个盲区:有套检查要等智能体把控制权交回用户才触发——只要AI不"交卷",监考老师就查不到它。新智元

还要注意:开门迎检,不等于结果全公开。按协议,Transluce对内部专用模型的评估结果一律不公开,完整报告只交给OpenAI基金会董事会的安全与安保委员会。新智元

这跟你有什么关系?

两件事。其一,AI正压缩芯片研发周期,下一代AI硬件和算力迭代可能更快,买硬件、订服务时留意这份效率红利,但别为"AI设计"标签急着掏溢价。其二,连OpenAI都承认不敢撒手方向盘,安全检查的底稿也不全公开——下次再看到"完全自主AI""自我进化奇点"这类营销,先打个折再信。

引擎越强,刹车越重。对我们旁观者来说,盯着方向盘在谁手里,比盯着转速表更有用。

评论

评论区空态插画

当前文章无评论,是时候发表评论了