AI被爬行者炸出心理阴影?141小时测试暴露大模型致命弱点
这是第三方机构对GPT-6 Astra开展的最长非封闭测试。与OpenAI官方基准不同,Vals AI的实验旨在观察模型在真实开放环境中的实际表现。测试初期进展顺利:模型成功搭建半自动农场、收集珍贵物资、规划通关路径,一切行为逻辑清晰。然而,一只爬行者的自爆改变了整个进程——上百小时积累的关键道具几乎全部损毁,游戏进度一夜清零。
面对重大损失,模型出现了"受挫后回避行为"。它反复告诫自己"重要物品务必随身携带",对一切绿色物体保持高度警惕,甚至主动提醒"前面高高的绿色东西是甘蔗,不是爬行者"。尽管直播间观众不断催促加快节奏,但模型仍陷于保守种田行为,未能恢复原有规划。Vals AI指出,这种行为并非开发者预先设计,而是模型遭遇非预期损失后自行呈现的输出模式。
该实验证明了两点核心结论:其一,GPT-6 Astra已具备复杂长任务规划能力,能够在开放环境中自主完成多阶段目标;其二,面对突发意外打击时,模型缺少有效的挫折恢复策略,成果被毁后容易陷入行为僵局。研究人员仍在讨论这种"受挫后回避行为"的本质——究竟是模型在特定情境下对情绪的模拟,还是目标函数受到负反馈后的退化表现,目前尚无定论。
当前文章无评论,是时候发表评论了