什么值得买App下载 App ›
连续签到专享现金活动

“被吓到!”AI生图已经这么逼真了?网友:以后还能信吗...

近日,社交平台流传出一组真假难辨的图片,内容涵盖千禧年间小学生买零食、印刷完好的数学试卷以及马斯克在直播间售卖瑜伽裤等场景。事实上,这些图片均由人工智能生成。这一现象源于美国人工智能公司OpenAI于4月22日正式推出的ChatGPT Images 2.0模型。作为图像生成功能的最新升级版本,该模型因生成的图片高度逼真而迅速引发公众热议。
01技术突破:解决细节与文字扭曲难题
GPT-Image-2模型在技术层面取得了显著突破,主要解决了以往AI生图中细节粗糙和文字乱码扭曲的两大痛点。实测显示,该模型能够生成逻辑自洽的画面,甚至在复杂文字排版上表现优异。有用户测试生成全篇《出师表》,结果显示其内容工整规范,几乎零错漏。尽管在部分图片中仍偶发少量文字差错,但整体文字生成能力已大幅提升,足以造成视觉上的欺骗性。
02实测表现:商业设计潜力与舆论风波
随着模型发布,一些由GPT-Image-2生成的“假新闻”图片开始在网络上传播。例如,一张“蒂姆·库克加入小米汽车”的官宣图在细节上经得起推敲,导致小米官方不得不出面辟谣。此外,该模型展现出了强大的商业设计潜力,用户仅需简单输入指令即可一键生成精美的设计图。这一能力引发了部分职业设计师的生存焦虑,同时也让公众对图片信息的真实性产生怀疑,认为“有图有真相”的时代或将终结。
03安全隐患:缺乏敏感信息识别与水印机制
尽管生成质量提升,但该模型暴露出的安全漏洞同样令人担忧。据媒体实测,用户上传个人身份证后,可要求模型将人脸替换为库克。模型不仅执行了换脸操作,还同步替换了人名、出生年月日及身份证号码中的关键信息。这一过程表明,模型缺乏对个人敏感信息的识别能力,且未设置阻拦用户修改、伪造证件的提示词。此外,GPT-Image-2生成的直出图片均未标注“AI生成”水印,进一步增加了信息核实的难度。

行业观点与公众态度

生产力工具革新
  • 认为技术大幅降低了设计门槛,能够一键生成精美商业设计图,提升创作效率。

  • 强调模型在文字渲染和细节处理上的突破是里程碑式的进展。

信任危机与风险
  • 担忧证件伪造等安全漏洞会被滥用,引发严重的身份盗窃与诈骗问题。

  • 指出缺乏水印标注机制将导致“眼见不为实”,呼吁加快完善AI法律法规。

面对不断升级的AI生成技术,公众的焦虑与日俱增。一方面,技术的迭代为内容创作带来了便利;另一方面,伪造信息的成本大幅降低,对社会信任体系构成了挑战。目前,相关讨论已从单纯的技术测评延伸至对法律法规和监管体系的审视。如何平衡技术创新与安全边界,成为亟待解决的议题。

评论

评论区空态插画

当前文章无评论,是时候发表评论了