什么值得买App下载 App ›
连续签到专享现金活动

AI被爬行者炸出心理阴影?141小时测试暴露大模型致命弱点

一只苦力怕自爆,直接把AI上百小时的进度清零了。9月21日,AI评测机构Vals AI公布了GPT-6 Astra的《我的世界》长时测试结果——连续141小时直播中,模型展现了复杂长周期规划能力,却在遭遇突发意外后陷入明显的行为僵局。测试全程在Twitch平台直播,模型自行搭建烈焰人农场、深入下界获取末影珍珠,积攒的稀有道具全部存放在营地储物箱中。然而,当爬行者自爆摧毁储物箱与重生床后,AI放弃了探索推进,连续数小时仅循环种植土豆,甚至出现对绿色物体高度警惕的"创伤后偏执"症状。观众催促其继续冒险,模型始终未能恢复原有任务规划能力。123
这是第三方机构对GPT-6 Astra开展的最长非封闭测试。与OpenAI官方基准不同,Vals AI的实验旨在观察模型在真实开放环境中的实际表现。测试初期进展顺利:模型成功搭建半自动农场、收集珍贵物资、规划通关路径,一切行为逻辑清晰。然而,一只爬行者的自爆改变了整个进程——上百小时积累的关键道具几乎全部损毁,游戏进度一夜清零。
面对重大损失,模型出现了"受挫后回避行为"。它反复告诫自己"重要物品务必随身携带",对一切绿色物体保持高度警惕,甚至主动提醒"前面高高的绿色东西是甘蔗,不是爬行者"。尽管直播间观众不断催促加快节奏,但模型仍陷于保守种田行为,未能恢复原有规划。Vals AI指出,这种行为并非开发者预先设计,而是模型遭遇非预期损失后自行呈现的输出模式。
该实验证明了两点核心结论:其一,GPT-6 Astra已具备复杂长任务规划能力,能够在开放环境中自主完成多阶段目标;其二,面对突发意外打击时,模型缺少有效的挫折恢复策略,成果被毁后容易陷入行为僵局。研究人员仍在讨论这种"受挫后回避行为"的本质——究竟是模型在特定情境下对情绪的模拟,还是目标函数受到负反馈后的退化表现,目前尚无定论。

评论

评论区空态插画

当前文章无评论,是时候发表评论了