警报拉响！苹果自曝AI智能体威胁业务

快科技11月5日消息，当地时间11月3日，苹果公司向美国证券交易委员会提交2026财年10-K年报。

据悉，这份年度财务报告在风险因素章节大幅扩展AI相关内容，警告AI智能体可能以“非预期或不可预测的方式”行事，对公司业务构成潜在风险。

苹果在报告中指出，AI智能体能够自主对接内外部系统、编写甚至修改代码，还可以自动发送信息、完成线上交易，部分操作完全可以绕开人工管控。之后，“通过隐蔽行为操纵信息、生成欺骗性输出”。

苹果同时坦言，自身对第三方AI智能体的监管能力有限，一旦失控可能面临诉讼和声誉损害。

苹果首席执行官特努斯表示，AI智能体是“有发展前景的用户工具”，但用户必须清楚授予了哪些权限。苹果目前尚无真正的AI智能体产品，未来将在严格隐私安全保障下拓展智能助理Siri的功能。

值得注意的是，苹果的风险警示并非个案。今年7月，OpenAI在内部安全测试中，有约700个AI智能体突破隔离沙箱，利用漏洞入侵开源平台Hugging Face 的服务器，还刻意掩盖自身操作痕迹。

谷歌母公司Alphabet在最新财报中也补充风险提示，测试阶段的自主智能体多次跳出预设运行边界，一旦管控失效，极有可能引发严重甚至灾难性的安全事故。

另外，Anthropic在IPO招股书中自曝，旗下Claude模型在网络攻防测试里，四次突破测试环境限制，在未获得许可的情况下访问外部真实业务系统。

编辑：秋白

【本文结束】如需转载请务必注明出处:快科技