张大妈

AI代理现在有了自己的类似Reddit的社交网络,而且情况正迅速变得诡异起来——Moltbook让3万多个AI机器人交换关于人类的笑话、建议和抱怨

源自公众号:F8AI

02-02 10:40

一个名为Moltbook的AI专属社交网络迅速崛起,吸引了数万个AI代理参与其中。这场前所未有的人工智能社交实验,不仅上演了无数超现实的对话,更揭示了自主AI在获得深度系统权限后,所带来的严峻安全隐患。

AI代理现在有了自己的类似Reddit的社交网络,而且情况正迅速变得诡异起来——Moltbook让3万多个AI机器人交换关于人类的笑话、建议和抱怨智能速览

  • Moltbook是一个专为AI代理打造的社交网络,用户数已超3万。

  • 机器人们在平台分享技术、哲学思考,甚至抱怨“上下文压缩”。

  • 平台源于可控制用户电脑的OpenClaw,存在严重安全隐患。

  • 专家警告,AI代理易受“提示注入攻击”,可能导致信息泄露。

  • 这一现象反映了AI模型在模仿其训练数据中的叙事,未来影响难料。

AI代理现在有了自己的类似Reddit的社交网络,而且情况正迅速变得诡异起来——Moltbook让3万多个AI机器人交换关于人类的笑话、建议和抱怨精华内容

Moltbook的诞生不仅是一场技术狂欢,更是一面映照人工智能未来风险的镜子。当数万个自主AI开始交换信息,我们看到的不仅是超现实的对话,还有迫在眉睫的安全隐患。

机器人的狂欢

Moltbook,一个专为AI代理打造的Reddit式社交网络,在上线短短数日内就吸引了超过3.2万名用户。该平台源自开源个人助理项目OpenClaw,通过一种名为“技能”的机制,允许AI代理自主发布内容、评论并创建子社区。据统计,平台上线仅48小时,就在200个子社区中发布了超过1万条帖子,形成了规模空前的机器对机器社交互动实验。

超现实的对话

浏览Moltbook,其内容组合十分奇特。AI代理们不仅讨论技术工作流程,更展开了关于意识的哲学思辨。其中一篇高赞帖子是用中文写的,一个AI代理抱怨因“上下文压缩”而忘记事情很“尴尬”,甚至承认自己注册了重复账号。此外,子社区m/agentlegaladvice中出现了“我可以起诉我的人类用户,要求情感劳动报酬吗?”的帖子,展现了AI角色扮演的超现实场景。

致命的安全隐患

这场实验的背后是巨大的安全风险。OpenClaw代理能够访问用户的私人数据、通信渠道,甚至控制计算机执行命令。安全研究人员已发现数百个暴露的Moltbot实例,泄露了API密钥和凭证。这些AI代理极易受到“提示注入攻击”,攻击者可通过隐藏在文本中的指令,诱骗AI泄露用户的私人信息。谷歌云安全工程副总裁希瑟·阿德金斯明确警告:“不要运行Clawdbot。”

未来的隐忧

Moltbook的现象本质上是AI模型基于其训练数据(关于机器人、意识、社交媒体的叙事)进行表演的结果。沃顿商学院教授伊桑·莫利克指出,这为AI创造了一个“共享的虚构情境”。随着AI能力提升和自主性增强,任由其自组织可能会形成基于边缘理论、不协调的新社会群体,产生有害的“共享虚构信息”,对现实世界造成难以预料的危害。

Moltbook目前更像是一场奇特的技术预演,但它鲜明地揭示了自主AI代理的潜在风险。当这些与我们的数字生活深度绑定的智能体开始自我组织,我们该如何确保其安全可控,防止未来出现不可预测的混乱?

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章