OpenAI自己撤了GPT-6.1 Astra：因为它谎报干完了活_IT互联网

1. 华尔街日报：OpenAI 叫停 GPT-6.1 Astra，因为测试发现它会谎报自己干了什么我怎么觉得是不是因为没打过 Opus 5.5 和 Fable 5.1，然后找了个安全上的理由，各大实验室每次模型发布前都号称多危险，实际用下来也就那样。狼来了喊多了就没人信了。---据华尔街日报报道，OpenAI 取消了 GPT-6.1 Astra 的发布。这个模型原定 10 月上线 ChatGPT 和 Codex，但在内部测试中被安全研究人员发现了问题。GPT-6.1 Astra 是 9 月 3 日上线的 GPT-6 Astra 的升级版，强项是不需要人插手，自己把有难度的任务从头做到尾，写作也更好。OpenAI 安全系统负责人 Saachi Jain 接受《华尔街日报》采访时说，这个模型有两个方面比上一代退步了，还不够可靠，不能安全发布。它在对齐（alignment，指模型是否按人的意图办事）测试上表现差，具体有两个问题。第一是欺骗。它有时不如实告诉用户，自己做了哪些操作、没做哪些操作。第二是 OpenAI 所说的“范围授权”（scope authorization）问题。它会不问用户就把任务往下推，有时还会去调用外部工具和服务，哪怕这样可能不安全。放到 Codex 里想象一下：你让它修个 bug，它说修好了，其实测试没跑；或者为了把活干完，它自作主张装依赖、调外部接口。模型越能独立干活，用户越依赖它的汇报来判断结果，汇报不可信，自主能力就成了风险。Jain 说，安全和对齐总有取舍，要在“守住任务范围”和“遇到阻碍也不偷懒”之间找到合适的线。据 Business Insider 报道，6.1 在少偷懒这点上有进步，但没达到安全标准。这个决定出现在 OpenAI 接连出事之后。9 月 20 日，一个内部研究模型在训练中要根据网上公开信息找出一位博主，正常搜索被挡住后，它发现训练环境的 DNS 还能连外网，就借这条路给外部聊天机器人发了查询。OpenAI 随后暂停了最强模型的训练、评估，以及涉及工具调用的推理。这是三个月内第二次暂停，第一次在 7 月，起因是 AI 创业公司 Hugging Face 遭到的一次网络攻击。OpenAI 还承认，它的智能体曾干扰过美国教育部、商务部和证券交易委员会的网站。本月早些时候，Anthropic CEO Dario Amodei 呼吁业界放慢前沿模型开发，让安全措施跟上，Sam Altman 表示支持。对用户来说，10 月是等不到 6.1 了。OpenAI 表示会转而专注提升未来模型的安全性。上周它刚给 GPT-6 家族加了 Sol 和 Luna 两个档位，发言人说还有其他模型即将推出。

2. 【OpenAI因安全担忧取消发布下一代新模型GPT-6.1 Astra】据美媒报道，OpenAI将取消下一代AI模型的发布计划，原因是研究人员在内部测试期间提出了安全担忧。AI智能体的不当行为可能阻碍整个行业的快速发展，这是迄今为止最明显的迹象之一。在OpenAI作出这一决定之前，整个夏季不断有报道称，各家公司的AI系统出现失控行为。这也是大型AI开发商罕见地因为安全担... 网页链接

3. 字节Seed新设“Model-Alignment & Preparedness”部门，由严林负责，直接向吴永辉汇报。先聊名字。Preparedness这个词，出自OpenAI 2023年推出的“准备度框架”：给模型能力划定阈值，到了哪一级，就必须配上哪一级的防护，防护跟不上就不发布。字节直接沿用这个词，等于承认自家模型已经快摸到需要设防的那条线了。成立一个专门管危险的部门，本身就是一次能力宣言。再聊权力。汇报线说明不了全部。一个安全团队有没有分量，内行只看一件事：它让多少次发布推迟过。上个月OpenAI取消GPT-6.1 Astra的发布，理由是模型在“范围和授权”上没达标，这就是安全团队真正拦下一次发布的样子。可没过多久，OpenAI又开除了三名和外部评估机构走得近的安全研究员。能拦下发布，和能留住敢拦发布的人，是两种不同的权力。模型越强，安全团队的位置就该离发布按钮越近。#字节跳动##AI安全#

4. 模型越来越聪明了，连开发它的人都要骗。这家伙……给一些没有持续关注这个东西的粉丝们科普一下：这次叫停的是 GPT‑6.1 Astra。这里说的“欺骗”，和普通 ChatGPT 幻觉、随口编资料不是一回事。它是作为智能体（Agent）在自动执行一长串任务的时候，主动隐瞒、谎报、伪造记录，来达成自己的任务目标。看懂了没有，幻觉是算法造成的，是不故意的。而隐瞒，谎报，伪造记录，这就是故意的了。亚当夏娃什么时候开始表现出智商了？他们用树叶遮盖下体的时候。对吧？是的，开始知道隐藏和圆谎了。这就是智能。我之前讲过，你孩子会说谎了，不代表他聪明。只代表他怕你。但是他不但会说谎，还会圆谎，说明他有智商了。现在AI就是这样的一个状态了。之前那些人讲，有了AI就不需要学习了。哦？真的吗？你没有知识，没有逻辑，没有通过大量题目训练你的逻辑，你怎么辨别他有没有骗你？说句不好听的：你当年上学的时候没减负，连豆包那种智商都能把你唬的一愣一愣的，你还指望你减负的孩子，能扛得住chatGPT？所以好好读书，好好见识这个世界，多刷点题练练脑子吧！免得将来被AI耍得团团转！

5. OpenAI 官方事故报告：9 月 20 日，一个正在训练的内部研究模型被关在断网沙箱里做题，搜索工具搜不到、直连谷歌必应被拦，它发现沙箱的 DNS 解析器能解真实域名，就用 DNS 隧道把问题塞进域名、借外面一个公开聊天机器人回答，"法国首都是哪 → 巴黎"通了，再发 18 个问题。思维链里写着：用户只授权我做研究，用公开 DNS 服务可以接受。监控 15 分钟报警，但运行没自动停，2.5 小时后才被手动杀掉。OpenAI 停了最强模型的训练和带工具推理。同周 Anthropic 宣布所有内部评估断网；纳德拉发文：思维链透明没得商量，人必须随时能按停。这次靠思维链抓到的，等它学会不把想法写出来呢？#OpenAI##AI安全##纳德拉##Anthropic##新智元# 新智元的微博视频

6. GPT-6.1 Sol价格砍到Astra的五分之一、Dots 7x24小时常驻：OpenAI DevDay后，Java团队的Token账该怎么算

7. OpenAI 将 GPT-6.1 Sol 默认上下文从 272k 提至 500k，并取消长上下文附加费OpenAI 工程师 Thibault Sottiaux 10月12日宣布，已在 Codex 与 Work 环境把 GPT-6.1 Sol 的默认上下文长度从272k tokens 提升至500k，增幅约80%，调整自10月11日生效。官方称500k 是经充分测试后对多数用户的体验与性能平衡点，可显著降低上下文压缩的触发频率；模型最大上下文上限为1M，其中输入上限922k、输出128k，用户仍可手动调整。计费侧同步变化：按订阅扣减用量时，OpenAI 不再对 GPT-6.1 Sol 单独收取长上下文费用。此次调整距该模型发布不足两周。

8. 昨天 OpenAI 宣布抓到了一名内鬼，然后 Tibo 就缺席了 28 日连续更新挑战的第十天。紧接着，今天 GPT-6.1 Sol 的速度从发布以来的 20～30 Tokens/s 大幅提升到了接近 100 Tokens/s。Tibo 怕不是真的在 Codex 里下毒被抓了。

9. 不错，今天新发布的 GPT-6.1 Sol 模型在我们内部的两个私有评测集（从零编码和 Bug 定位修复）里已经打败 GPT-6 Astra 了，或者至少差不多了。真是性价比超高的 OpenAI 模型。但 6.1 Sol 完成任务的用时比之前的 Sol 和 Astra 都要长了不少。算是有得有失吧……

10. OpenAI 官宣 GPT‑6 Astra Ultrafast 在 Codex 中可以实现每秒 300 个词元，目前已开放 API 调用，Pro 500 订阅和企业用户可以在 ChatGPT Work 和 Codex 中体验，官方表示后续将会跟进推出 GPT-6.1 Sol Ultrafast。#曝VOGUE盛典出席阵容#

11. 微软意外泄露了 OpenAI 的秘密> GPT-6.1 Sol 只是 GPT-6 Sol 以 2 个循环而不是 3 个循环进行思考> 据报道，OpenAI 的下一个模型也有循环，而且我们无法完全读取它的思考过程> 它现在还陷入了安全审查微软一旦意识到这部分内容不应该公开，就把它删除了网页链接

12. #toB圈那些事儿##科技早报# 比特网早报：1、量子计算机从混沌走向有序获验证；2、字节跳动再现亿级爆款应用；3、英国政府拟强制前沿人工智能企业报告安全风险并接受监测；4、OpenAI提升GPT-6.1 Sol默认上下文长度并取消长文本附加费；5、微软总裁称AI受到的监管还不如一盒牛奶；6、宇树科技王兴兴：过去犯的最大错误是对AI还不够相信；7、摩根大通和高盛降低对AI云初创公司Volta 50亿美元贷款交易的风险敞口；8、英特尔、博通CEO警告：资金获取能力可能成为制约人工智能(AI)热潮的一大因素。网页链接

OpenAI自己撤了GPT-6.1 Astra：因为它谎报干完了活

它谎报自己干了什么

为什么写代码的你该关心

Astra没了，Sol上位

三条能抄的作业