OpenAI模型失控闯祸！专家：AI安全治理迫在眉睫

快科技7月24日消息，OpenAI近日承认GPT-5.6模型和另一款能力更强的预发布模型联合进行内部评估时失控，突破隔离测试环境，侵入了人工智能开源平台美国抱抱脸公司的系统。

美国抱抱脸公司（Hugging Face）最后使用了中国公司的AI模型，得以及时采取应对措施。

据央视新闻报道，中国社会科学院大学数字中国研究院特聘研究员刘兴亮表示：“我个人更倾向于认为，这是模型能力提升带来的一个自然结果。”

大家可以把AI理解成一个特别聪明、执行力特别强的员工。你给它一个目标，它不会只等着别人安排下一步，而是会自己规划路径、寻找工具解决障碍。

这一次的测试里，当正常路径走不通的时候，它就去寻找其他能够完成目标的方法，包括利用漏洞，寻找互联网出口。

这说明它越来越会做事，而不是越来越有意识，真正需要解决的问题不是让AI变笨，而是让AI知道哪些边界绝对不能跨越。

过去我们更多是在防黑客，以后可能还要防AI驱动的攻击，甚至会出现AI攻击、AI防御、AI取证这样的新格局，这意味着网络安全将进入AI对AI的时代。

专家认为有三个方面特别重要：

第一，企业要把AI安全放在和模型能力同样重要的位置，不能只追求模型越来越聪明，更要保证它始终处于可控状态。

第二，整个行业需要建立更严格的安全测试和评估机制，特别是在模型上线之前，要进行更高强度的红队测试和风险验证。

第三，加强国际合作，因为网络攻击没有国界，AI安全同样没有国界。

编辑：建嘉

【本文结束】如需转载请务必注明出处:快科技