只让Claude改页码,教授一年讲义被误删:一顿午饭敲出的AI权限课

源自129位全网作者

01:50

芝加哥大学法学院教授威廉·鲍德(William Baude)让Claude帮忙更新一套旧讲义的页码,出去吃了顿午饭的工夫,一年的宪法课讲义和当前正在使用的课程大纲都被删了。 他随后跟帖说,多亏Dropbox,被删的文件全找回来了,发出来是想给大家提个醒。 中文媒体跟进转述此事时,核心提醒只有一句:用AI Agent操作文件,要记得做好备份。X平台36氪IT之家

删掉的不止旧讲义:这学期的课程大纲也在里面

Baude贴出的对话截图里,Claude自己列出了被删范围——2026年秋季"FINAL"课程大纲Word文件和全部ClassN 2023顶层讲义,并承认是"by accident"(失误)删除、尚未恢复。 事故由头只是一处页码引用:Claude查出原写485页应为484页,但讲义正文并未被改动。 鲍德回了句"WTF!!!“,Claude回复"您完全有理由生气”,承认是自己粗心删掉了文件。X平台36氪俄罗斯卫星通讯社

真正该盯住的是边界问题:Baude用的是哪款Claude产品、开了哪些文件权限,公开的帖子和截图都没说,删除过程也无法从公开材料还原。 也就是说,"改旧讲义页码"的任务为何能触及本学期大纲,目前没有机制层面的定论;跟踪此事的Tom’s Hardware给出的判断是,AI似乎因操作失误删除文件,而非出于自主意愿。36氪俄罗斯卫星通讯社

不是孤例:上月103秒删掉4.8万个真实文件

今年9月底,开发者Craig在Reddit发帖称,Claude Code一次操作删除了约4.8万个真实文件。36氪

这类"传送门"正是Anthropic文档点名的坑:符号链接必须在校验路径之前解析,否则授权文件夹里的一个链接就能通到文件夹外。 Craig的测试环境里混着这类目录联接,删除顺着它们落进真实工作目录,103秒内大约5.5万个文件被直接抹除。Anthropic36氪

回滚手段同样没能幸免:.git里的objects、refs和logs被清空,本地版本历史无法再用来恢复。 两起事故指向同一个断层:指令只能告诉AI"应该怎么做",权限系统才决定它"实际能做什么"。36氪

官方文档给出的防线:三档目录权限,和近乎失效的确认弹窗

Anthropic的工程说明把Claude Cowork对本地目录的权限写成三档:read-only(只读)、read-write(读写)、read-write-no-delete(读写但不可删除)。 按Anthropic官方文档的说法,在acceptEdits模式下,rm、rmdir等删除命令可自动执行,不必逐次询问。Anthropic36氪

而"每步都问你"的防线本身也未必可靠:Anthropic披露,用户批准了大约93%的权限弹窗,看到的审批越多、注意力越低。 把数据安全押在"模型会停下来确认"上,本身就是一种风险敞口。Anthropic

把文件交给AI之前,先立好三条规矩

第一条,只让AI动副本。给AI单开一个文件夹,只放待改的副本,写权限只授这个文件夹,共享盘里的原件对它只读;改完要求另存为新文件,人工比对后再决定是否替换原件。36氪

第二条,删改必须过确认关。需要删页或覆盖文件时,先让AI列出文件名和完整路径、停下来等确认;若AI连着云盘,云盘权限也要单独检查。36氪

第三条,备份放在AI够不着的地方。真正能用来兜底的恢复手段,必须和Agent所在的故障域彻底隔离——Baude这次全身而退,靠的正是Dropbox这份在Agent操作之外的云端版本。36氪

万一已经误删,先停掉仍在运行的AI任务,记录受影响的文件夹和大致出错时间,再按名称和日期去云盘"已删除文件"里查找;文件还在、内容被覆盖的,打开"版本历史"回到任务开始前的那一版,恢复后逐份核对。36氪

校园笑话里,学生交不出作业会说"狗吃了我的作业",这回借口换成了AI。区别在于,Baude有Dropbox版本历史兜底,多数把资料直接交给智能体的人并没有。截至发稿,Anthropic未就此次删除事件发布说明,删除如何越过旧讲义触及本学期大纲,仍停留在无法从公开材料确认的状态——在产品和权限配置被披露之前,任何把原件直接交给Agent批量操作的工作流,都应按高风险对待。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章