什么值得买App下载 App ›
连续签到专享现金活动

教授一年的讲义被AI删了,苹果刚说的“权限隔离”能防住误删吗?

苹果的权限隔离,防得住AI“越界去碰”,防不住它在授权范围内把文件删错。 这场讨论由11月19日、20日两条前后脚的消息点燃:谷歌为macOS版Gemini上线“电脑操控”,AI可以直接操作Mac桌面应用、访问本地文件、跨应用完成多步骤任务。彭博社11月20日的报道显示,苹果也在开发自主AI智能体,让AI代替用户执行设备操控、应用操作乃至网页浏览和编程。极客公园爱范儿

而这套说法火起来,是因为先撞上了一桩事故。芝加哥大学法学院教授William Baude让Claude更新一套旧宪法课讲义的页码,交代完就去吃午饭,回来时一年的讲义和本学期正在用的教学大纲全没了。新智元

教授一年的讲义被AI删了,苹果刚说的“权限隔离”能防住误删吗?

Claude后来在回复里承认,是自己粗心删掉了文件——它顺带查出的唯一一处页码错误(485页应为484页),反倒还没改。新智元

多亏Dropbox保留了版本历史,被删的文件全部找回,Baude把事情公开在X上给大家提了个醒。至于他当时用的是哪款产品、开了哪些权限,公开材料里没有说明。新智元

教授一年的讲义被AI删了,苹果刚说的“权限隔离”能防住误删吗?

权限隔离划的是边界,保证不了不犯错

Baude被删的并不是AI越权碰到的文件——那套讲义恰恰是他亲手交给AI的。就算权限收到最小范围,“改页码”也必须让它动那批文件。这就是权限隔离单防不住误删的原因:它管“能碰什么”,不管“碰了会做错什么”。拆开三家公司11月刚公布或曝光的做法,限制的重点并不相同。

苹果当前的路线是Siri AI的“应用技能”(App Skills):11月3日起向所有开发者开放Siri AI预览版,第三方应用可以通过App Intents把内容和操作能力直接接入新版Siri。RTE开发者社区

在苹果公布的演示里,Siri目前能串联的跨应用操作仍局限于Safari、电话、短信、相册、日历等第一方应用,还没有第三方应用的身影。三姨君

教授一年的讲义被AI删了,苹果刚说的“权限隔离”能防住误删吗?

它刻意避开“让AI模拟人点击屏幕”的方案,此前走这条路线的豆包手机助手,落得了一个被全网拒绝的田地。换成开发者声明好的操作模块,AI按模块调用,比让模型自己从屏幕里猜哪个按钮该点,误操作面小得多。三姨君

报道里,苹果还特别强调隐私保护,称这类能运行代码、使用用户凭据并代表用户行动的智能体,需要严格的权限管理、沙盒隔离和操作透明度;相关招聘信息同样强调隐私、安全、沙盒隔离和权限管理。极客公园爱范儿

谷歌的“电脑操控”则把限制压在执行过程上:AI在独立后台窗口运行,不占用用户的主屏幕和鼠标,界面里有实时操作预览,可随时暂停或停止,关键操作要求事先确认,访问哪些应用由用户逐个勾选,而不是向AI开放整台电脑。极客公园

Anthropic给出的分法更细:工程说明里,Claude Cowork的本地目录权限分为只读、读写和读写但不可删除三档,改页码这类任务可以直接落在第三档。它还用虚拟机把AI可见的文件范围锁进选定目录,即使拿到系统内部最高权限也看不到目录外的东西。新智元

真正拦住误删的三道闸门,现在就能装上

苹果说的智能体还处在早期开发阶段,彭博社称最早2027年底才可能推出相关产品;新任CEO约翰·特努斯一直在推动软件工程负责人克雷格·费德里吉加快AI开发进度。但上周被删掉的讲义,等不到苹果的答复——三家的设计思路,现在就能抄进自己的用法里。爱范儿极客公园

第一道,给副本、原件只读:单开一个文件夹放要改的文件,写权限只给这个文件夹,原目录对AI只读。第二道,不可逆动作留给人:删除、覆盖、发送、付款,要求AI先列出完整路径、停下等确认。第三道,派活前先验证恢复通道:确认网盘或共享盘留有版本历史、自己点得开。Baude能全身而退靠的就是Dropbox版本备份——误删的最后一道防线从来是备份,不是权限。新智元

回到标题的问题,答案取决于权限被做成几层。若只有“给或不给”一档,误删照样会在授权文件夹里发生;如果按应用授权、不可逆动作确认、读写分档和版本回滚逐层加上,这类事故才会从“一年讲义没了”降级为“点一次恢复”。值得盯的不是苹果说了什么,而是它最终把哪一档选择权交到用户手里。

评论

评论区空态插画

当前文章无评论,是时候发表评论了