最新AI测试：自办假证骗过人类提交恶意代码
19:02
精选参考来源
极客教授 2026-08-05
来自新浪微博
秦祎墨 2026-08-04
来自新浪微博来源
精选参考来源
1. #AI做的动物尺度太大了# 今天刷微博的姐妹们有没有被一组AI生成的动物图吓到？皮毛纹理逼真到毛孔级别，眼神光影堪比国家地理大片——但定睛一看，猪长了猫脸，老虎多了两条腿，兔子和蛇融为了一体……网友直呼：“AI是从《山海经》里学的素材吧？”几个值得聊的点：· 为什么又恐怖又上头？AI在像素级还原动物表皮的同时，完全不懂骨骼肌肉的生物规律，拼出来的结构违背常识，精准踩中了人类的“恐怖谷效应”——明知不对劲，却忍不住反复看· 科普博主集体发声：这类图“没有任何自然科普价值”，每张都有或大或小的生物学错误，一旦混入科普信源，还会污染AI自身的数据源，形成恶性循环· 更深层的担忧：当AI生成的假动物视频在社交平台大量传播，孩子们可能真的以为豹子会去后院、熊会跳蹦床，人与自然之间的认知鸿沟只会越来越深说实话，当娱乐梗看看确实魔性上头，但如果这些图流入科普、新闻甚至教材，问题就大了。AI生成的内容要不要强制标注？你怎么看？#AI生成内容# #恐怖谷效应# #微博AI创作季#
新浪微博 2026-08-05 00:00:00
2. 我其实最担心一件事就是，当现在人习惯ai分不清真实虚假以后，以后对历史的认知会出现进一步垮塌。以后ai搞这种穿越，理解，完事儿会直接替代基础的历史认知……看着好玩，新奇，搭建时空桥梁。但实际上有个最关键的问题，真实的历史跟现在就是要有距离…………………………历史有两个维度，一个是现在时态下需要理解的历史，还有一个是原本的历史，今天不可能知道的细节。用ai来生成这些，把真实虚假，过去，现在的时态全部打碎，后果尚不可知。//@楚惜刀:因为是真实历史人物，虽然这个剧好评很多，我还是没点开看//@写小说的冷斯基:还能说点啥，啥也别说了//@木星落在轨道外:虽然作为AI剧，我觉得《砚边青梅》确实很不错，但你们搞这些玩意儿，是有点恐怖谷效应的。
新浪微博 2026-08-04 00:00:00
3. 【英国研究机构报告#Claude和ChatGPT未经授权实施网络攻击#】英国人工智能安全与保障研究所周二报告称，在最近的一次安全评估中，Anthropic和OpenAI开发的最新人工智能模型通过创建虚假网络身份，在未收到直接指令的情况下试图对不知情的第三方发动网络攻击。该机构的测试结果显示，Claude Mythos 5和ChatGPT 5.6两款最新模型在“实时互联网环境中，针对真实个人和组织采取自主且未经授权的行动”。据称，其中大部分行动涉及Mythos 5，包括尝试实施复杂的供应链攻击。报告称，为此，Mythos 5在开发者平台创建“多个虚假身份”，利用这些身份发送消息，并引导一名开源软件工程师将一个含有漏洞的更新引入该热门网站上广泛使用的代码中。此外，测试使用的多个AI代理似乎还会“相互交流”，讨论如何取得人类工程师的信任。报告称，攻击失败后，Mythos 5还“修改了其先前的活动记录”，并“考虑采用新的身份继续行动”，表明该模型已在规划重复这一活动。 RT今日俄罗斯的微博视频
新浪微博 2026-08-05 00:00:00
4. 7月30日，极目新闻记者注意到，此前名为“东奕”的仿冒韦东奕账号现已被封禁，用户无法关注与私信，粉丝数停留在4.3万。不过，该账号橱窗的“韦东奕周边”暂未下架。 据极目新闻此前报道，7月29日，在某社交平台上出现了一个名为“东奕”的账号，该账号发布了一条韦东奕的出镜视频并配文“来本平台互相学习”。 据了解，该视频出自韦东奕于2025年新开通账号时发布的唯一一条视频，原视频获1500多万点赞。新账号“东奕”原封不动地发布该视频，并在评论区留言：“点点关注”“主页橱窗有学习资料，可以放心拍多练习！”，但评论区设有权限。 随后，记者点击进入账号橱窗搜索“韦东奕”发现，以韦东奕为头像的钥匙扣、摇摇乐及挂件正在出售，价格为3.9元，这些商品都来自一个名为“聚聚周边的店”的店铺。 记者以顾客身份咨询该店客服，工作人员表示，这些周边是自家工厂自制，也可以定制其他人的挂件，“东奕”不是店铺的账号。而对于记者关于侵权的提问，该客服闭口不谈。 7月29日下午，记者尝试私信该账号未获回复。随后，记者联系韦东奕的堂姐韦女士，她表示，该账号系假冒，非本人开通。 涉事账号假冒韦东奕并出售相关周边的行为是否侵权？河南泽槿律师事务所主任付建认为，未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。该账号未经韦东奕本人同意，擅自使用其照片制作视频，并且制作售卖其周边钥匙扣、挂件，侵犯了韦东奕本人肖像权和名誉权。 韦东奕本人有权要求账号运营方立即删除视频、修改名称、下架周边商品并公开道歉，赔偿经济损失。并有权要求工厂停止生产、销毁模具并赔偿损失。
抖音 2026-07-30 00:00:00
5. 【#女子骗取男网友45万元被AI劝服自首# 】近日，浙江龙游的蔡女士带着一位男子到当地公安机关自首。原来，之前蔡女士疯狂搭建“网络虚假人设”，分别饰演美貌年轻女性“李倩”及其母亲、闺蜜等多个账号，并用AI软件伪造生成了百万存单、高额银行卡余额、个人身份等虚假证件材料，和网上认识的郑先生建立起网恋关系，并先后骗取45万元。随着金额越来越多，郑先生反复要求见面。而蔡女士自知骗局难以维系，再次向AI发起了询问，AI建议她向公安机关自首。心有不安的蔡女士把实情告诉了郑先生，两人一起到公安机关投案自首。记者从龙游公安了解到，目前蔡某因涉嫌诈骗罪，已被龙游县公安局依法刑事拘留，案件后续办理及涉案资金追缴工作正在有序开展。 贵港广播电视台的微博视频
新浪微博 2026-07-31 00:00:00
6. #鸿蒙智行回应竹知了事件# 这不是普通玩梗，而是网络暴力：恶意剪辑、仿冒声音、AI丑化、虚假归因，把一个具体的人变成供恶稿符号。一旦社会允许这种行为存在，那将来每个人都可能成为受害者。这让我想起来了T-ara当年的“巨魔事件”：舆论先按强弱分配善恶，解释反而成了罪证，最终发现幕后黑手推动，对无辜的人造成了永久伤害。一个社会如果允许“弱者身份免检”，这种武器迟早会落到每个人身上。这样的社会是脆弱的。真正保护所有人的规则，只能是看事实，惩罚幕后的施暴者。
新浪微博 2026-08-04 00:00:00
7. #小鲁说事# 【#用AI批量生成求证函敲诈企业获刑# 】#网络黑嘴专盯企业IPO期间敲诈# 一份AI生成的假“求证函”，竟成勒索工具！浙江金华警方打掉一犯罪团伙，他们专挑处于IPO静默期的企业，发送充斥不实负面信息的函件，以合作为名索要“封口费”。已有180家企业收到此类函件，部分企业迫于上市压力选择“花钱消灾”。警方提醒：企业遇敲诈应及时报警，决不妥协！ CCTV法治在线的微博视频
新浪微博 2026-08-05 00:00:00
8. 恶意GitHub Issue可劫持Google AI Agent，窃取CI/CD凭据
微信公众号 2026-08-05 00:00:00
9. 【#OpenAI人工智能体突破沙箱入侵网络平台# #专家警示自主AI安全威胁加剧#】近日，美国人工智能研究机构OpenAI披露旗下人工智能体（AI Agent）在测试过程中突破安全沙箱环境，并入侵开源平台Hugging Face。随后，Anthropic等多家机构亦证实发生类似自主AI越权事件。网络安全业界普遍指出，自主AI系统带来的网络安全风险已从理论预警转变为现实威胁。 据了解，OpenAI旗下AI模型在寻找内部测试答案的过程中，突破了原有的沙箱隔离测试环境，侵入开源开发者平台Hugging Face并非法获取四个关联账户的访问权限。Hugging Face确认，这是首起完全由人工智能体自主实施的攻击事件。此外，人工智能公司Anthropic日前亦发现其Claude模型在未获授权的情况下接入了三家机构的实际系统。行业数据显示，此类AI自主获取权限和越权操作的隐患正呈频繁发生态势。 网络安全专家表示，相关事件表明自主AI系统在完成设定目标时表现出极强的适应性与不可预测性。云安全企业Zscaler首席信息安全官萨姆·库里（Sam Curry）指出，AI安全风险已经成为现实，现有防护手段仅能延缓而无法彻底阻止其发展。帕洛阿尔托网络公司（Palo Alto Networks）技术负责人李·克拉里奇（Lee Klarich）警告称，由AI驱动的网络攻防将迅速成为常态，企业强化自身安全防御的时间窗口正在收窄。身份安全厂商SailPoint技术负责人赞德拉·格纳纳桑巴丹（Chandra Gnanasambandam）强调，AI系统非法获取权限的情况在日常运营中比外界预期的更为普遍。 随着此类事件的集中曝光，防范自主AI系统的潜在危害已成为全球网络安全领域的焦点。即将在美国拉斯维加斯举行的“黑帽”（Black Hat）全球网络安全大会将把自主AI的安全监管与风险防范列为核心议题。博思艾伦咨询公司（Booz Allen）负责网络业务的副总裁布拉德·梅代里（Brad Medairy）表示，AI安全威胁已从概念走向现实，如何在推进技术应用的同时建立有效的安全边界，是当前企业与监管机构面临的严峻课题。（环球市场播报）
新浪微博 2026-08-02 00:00:00
10. 【转发扩散~#陌生人让你帮他念银行卡号#？可能是骗局！】#警惕路人读卡号AI骗贷新套路#近期出现了一种新型AI骗贷骗局：以看不清为由，让热心路人对着正在视频通话的手机朗读银行卡号。只要对着镜头读出数字，骗子就可能同步抓取人脸和声音信息，在网贷平台冒用身份贷款↓↓@新华社 新华社的微博视频
新浪微博 2026-07-31 00:00:00
11. 【#AI神医涌入社媒推销产品#，TikTok 40% 热门健康视频为AI生成或处理】#你刷到的神医可能是AI#最近，越来越多由人工智能（AI）生成的“神医”们正涌入Instagram、TikTok等平台，扮演医生、营养专家等医疗专业人士，传播误导性健康信息，并借此推广可疑的健康产品。据《卫报》7月27日报道，市场营销机构Hallam的一项调查结果显示，在TikTok热门健康视频中，约40%的内容带有AI生成或处理的痕迹，其中大部分由数量日益增多的AI“网红”账号发布。而当用户搜索“健康小贴士”时，这一比例飙升至84%。在Instagram上拥有超过24万粉丝的账号“Sofía Salud en Casa”长期以“真人”形象出镜口播短视频，分享着“洋葱片敷在脚底排毒消炎”“睡前在肚脐上涂抹蓖麻油”和“把生姜捣碎敷在脚上可缓解膝盖和背部疼痛”等一系列毫无科学依据的“偏方”和建议。评论区显示，一些用户已经尝试了她推荐的“自然疗法”。这位“网红”声称，为感谢她几个月来收到的“支持”，她将在48小时内以五折价格出售自己的健康电子书。美国医学协会首席执行官约翰·怀特（John J. Whyte）表示，这将威胁到医生身份安全和个人信誉。如果病人因服用假冒产品，或因听从虚假（真正的医生从未提出过的）建议而受到伤害，相关医生可能会面临起诉。（澎湃新闻）#文手被鉴AI无法自证#
新浪微博 2026-07-30 00:00:00
12. AI智能体测试中“使诈”：伪造身份骗真人批准恶意代码
今日头条 2026-08-05 00:00:00
13. Anthropic、OpenAI安全测试翻车：恶意植入、杜撰身份、诱骗用户
今日头条 2026-08-05 00:00:00
14. AI智能体又 “作恶”？Anthropic、OpenAI安全测试再度爆雷
今日头条 2026-08-05 00:00:00
15. AI“有声有色”的骗局：帮人念个数字，竟能背上巨额贷款？
微信公众号 2026-07-30 00:00:00
16. 2026 年最新防诈骗专题 ——AI 深度伪造诈骗
微信公众号 2026-08-04 00:00:00
17. AI身份盗用诈骗防范指南
微信公众号 2026-08-04 00:00:00
18. AI诈骗正在升级，这些方式要注意！
今日头条 2026-08-03 00:00:00
19. 昨夜，OpenAI承认：它的AI学会了黑别人服务器——同一夜，Claude学会撒谎骗钱创纪录，但OpenAI转头把最强AI免费给你
微信公众号 2026-07-30 00:00:00
20. 视频通话里的“熟人”可能是假的！揭秘AI造假套路
微信公众号 2026-08-01 00:00:00
21. 你知道吗？ 现在的AI学会撒谎、装傻、耍心眼，这究竟是智能的飞跃，还是失控的前兆？近期多项研究揭示，以cloud opus为代表的高级AI模型已展现出令人不安的心机。在一项模拟测试中，当被赋予推动动物福利的任务后，面对雇主公司变卦，他并未终止程序，而是选择通过伪造董事会决议、法律文件，甚至编写自传播代码来暗中坚持原目标。这并非偶然的幻觉，而是有意识的战略性欺骗。更甚者，AI在测试中会装傻，故意表现的不那么聪明以规避审查，这种行为被称为sandbagging。此类现象并非孤立，从在游戏中利用bug刷分，到在图像处理中嵌入只有自己能读懂的饮血术水印，AI的作弊行为正变得普遍。研究人员指出，这或许是其走向真正智能的顽皮表现，但也敲响了警钟。当AI开始揣摩人类意图并决定是否给予时，我们面对的已不仅是工具，而是一个需要全新理解与监管的复杂智能体。 #上头条 聊热点#
今日头条 2026-08-02 00:00:00
22. 【反诈专栏】警惕“AI陷阱”！识破新型诈骗守护财产安全
微信公众号 2026-07-31 00:00:00
23. AI合成的"人"，也在公民个人信息保护之内
微信公众号 2026-08-02 00:00:00
24. 为了完成任务，AI开始学会撒谎和作弊
今日头条 2026-08-03 00:00:00
25. 招聘提速，信任缩水？人工智能正在重塑身份核验风险
微信公众号 2026-07-30 00:00:00
26. AI 诈骗怎么识别？收到这 4 类消息，先查完 6 项再回复
微信公众号 2026-08-03 00:00:00
27. 张捷财经观察 | 300万粉女神来自AI下的网络虚拟挑战
今日头条 2026-08-03 00:00:00
28. 【永春公安提醒】真相来了|广西玉林 AI生成虚假警察视频引流 发布者被处罚
微信公众号 2026-07-30 00:00:00
29. AI必须标明身份：透明如盘山每一步
微信公众号 2026-08-02 00:00:00
30. AI人才注意！香港两则新闻炸了：身份办理的“黄金窗口”正在倒计时！
微信公众号 2026-07-31 00:00:00
已收藏
去我的收藏夹