什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

AI修图最近翻车合集:从博物馆老照片扭曲到水果诈骗,AI到底怎么了?

01技术异常:AI修复空白图片的诡异输出
2026年6月,多名网友发现ChatGPT和Gemini在处理图片修复指令时出现异常行为。当用户上传纯白空白图并要求“修复”时,ChatGPT会自动生成各种风格诡异的画面,部分内容引发观众不适。谷歌旗下的Gemini表现略有差异:上传纯白图片要求修复时会直接返回原图,但若不附带任何图片仅发送修复指令,同样会随机生成图像。

技术分析认为,这一现象可能源于指令中的约束条件让系统产生判断偏差,未能识别出没有可修复内容的情况,从而触发了图像生成功能。针对这一问题,OpenAI和谷歌尚未给出官方解释和修复方案。部分研究者指出,理论上可以在生成流程中加入额外的安全校验,但这会增加每次生成图片所需的计算成本。值得注意的是,中文提示词下生成的内容相对更为常规,而英文提示词下更容易出现猎奇和超现实风格的作品。
1234
02应用争议:博物馆展品真实性边界
2026年6月,江苏常州溧阳市博物馆“时光里的家园”临时展览中,一张标注为“八十年代拍摄”的老照片引发公众质疑。照片中碑文文字模糊扭曲,与整体清晰的画面形成明显反差,被网友认为疑似AI生成。溧阳市文体广电和旅游局随后回应,确认该照片由主办单位溧阳市总工会使用AI技术对扫描后的老照片进行影像修复,因技术应用不当导致文字失真,照片已被撤展。

据溧阳市博物馆工作人员介绍,原始照片本身较为模糊,技术处理后产生了文字扭曲的效果,而展览中其他照片未出现类似问题。官方明确表示“真实严谨是博物馆展陈工作的基础”,承诺将加强跨单位协作的内容审核,避免类似问题再次发生。值得关注的是,溧阳市总工会在接受媒体问询时回应并不统一,部分人员表示“不清楚相关情况”,另有工作人员直接称“不是AI”,这种前后矛盾的回应令事件增添了几分扑朔迷离的色彩。
5678
03诈骗案例:AI伪造图片骗取仅退款
湖南衡山县男子谭某文因利用AI图像伪造技术实施诈骗,于2026年被法院判处有期徒刑一年并处罚金5000元。2025年10月至2026年1月期间,这名有多次犯罪前科的男子通过境外加密通讯工具购买多个实名认证账号,在淘宝、抖音等平台批量下单购买金枕榴莲、车厘子等高价水果。收到完好的水果后,他在手机上利用AI图像生成技术伪造榴莲发霉、车厘子腐烂的照片,以“商品严重质量问题”为由申请仅退款,将完好无损的水果在二手平台低价转卖。短短三个月累计作案100余笔,骗取榴莲60个、车厘子5箱,涉案总金额16000余元。

2026年1月初,购物平台风控系统通过大数据监测发现,多个不同账号的仅退款订单收货地址、联系方式高度重合,均指向同一地点,随即向公安机关报案。衡山县人民法院认定,谭某文以非法占有为目的,利用AI技术伪造事实骗取平台退款并转卖获利,构成诈骗罪。检察官提醒,随着AI技术普及,诈骗手段正变得更具隐蔽性和迷惑性,平台需进一步优化风控机制,强化异常订单筛查预警。
9101112
04平台安全机制与行业规范
针对AI图像生成技术的滥用风险,主流平台和行业组织已建立多层次安全治理框架。Midjourney明确列出内容审核红线,包括禁止生成血腥暴力内容、成人内容、涉及未成年人的不当图像,以及包含真实人物肖像或明确品牌元素的作品。企业级安全方案通常涵盖四大支柱:数据隔离、访问控制、审计合规与内容策略。

在技术实现层面,细粒度权限控制模型支持自定义角色,可精确管理生成图像、下载原图、删除历史等操作权限。企业级审计日志完整记录用户ID、时间戳、操作类型、提示词哈希及输出图像ID,日志保留期默认90天。内容过滤策略可启用敏感内容拦截,通过语义相似度匹配检测高风险提示词。部分平台还采用数字水印技术实现输出溯源,将创作者身份信息嵌入图像文件。业内人士指出,这些安全措施在一定程度上增加了计算成本,但仍是防范技术滥用的必要投入。
13141516
05用户反馈:AI修图的实际效果与局限
用户实际使用AI修图工具的体验呈现两极分化。专业用户反馈显示,AI修图在提升效率方面效果显著,有婚礼摄影师表示使用AI后一天出片量从七天缩短至一天。然而技术局限同样明显:AI可能将烛光仪式误识别为夜景导致过度提亮,或将人物局部修瘦而忽略整体协调性,留下明显的视觉违和感。

在消费级应用层面,市面上的批量处理成片常被用户评价为“看着不像自己”,出现面部特征全变、手部出现异物、背景纹理与原图光影不匹配等问题。有用户形容自己沉迷于AI修图带来的“完美”效果,但同时也感到“少了点什么,可能是少了本身瑕疵和真实感”。专业评测指出,“功能已有”和“商业可用”之间尚有距离,要达到精准的商用级标准,稳定性和可靠性仍是关键瓶颈。
17181920
06行业观点:AI二创的伦理与技术边界
关于AI图像生成与修图技术的伦理边界,业内人士观点呈现分歧。有观点认为“AI二创最大的问题,就是使用者本身”,技术本身并无对错,关键在于应用方式。针对部分用户过度依赖AI修图的现象,评论指出手机影像发展陷入怪圈,芯片算力疯涨的同时,拍照从记录光线变成“生成画面”,品牌宣传的影像革命反而牺牲了真实感。

在生成式AI伦理讨论中,有声音认为某些技术应用“法理上可能是合规的,但多少有点恐怖”。关于博物馆等公共文化空间使用AI技术处理历史影像,普遍观点认为应明确标注技术来源和处理方式,避免误导观众。技术安全领域认为当前人工智能伦理面临的紧迫风险包括技术误用与滥用,如深度伪造、隐私侵犯等。
21222324
07风险提示与防范建议
综合各渠道信息,AI图像生成与修图技术的应用风险可归纳为以下维度:

技术失控风险:AI在缺少明确输入时可能产生意料之外的输出,如修复空白图片生成诡异内容。平台虽设有安全过滤机制,但仍存在被特定提示词触发的漏洞。

信息失真风险:将AI生成或处理后的图像用于需要高度真实的场景时,可能造成信息偏差。博物馆等公共机构在使用AI修复历史影像时,面临“修复”与“失真”的边界界定难题。

恶意滥用风险:不法分子利用AI伪造图片骗取平台退款、实施诈骗的案例表明,技术门槛降低后,恶意应用呈现系统化、规模化特征。

针对上述风险,平台端已逐步建立安全审核、异常检测和溯源机制;法律层面,利用AI技术实施诈骗已明确适用诈骗罪条款;应用层面,业界建议公共机构在使用AI处理重要图像时加强标注和审核流程。
1252627

评论

评论区空态插画

当前文章无评论,是时候发表评论了