“霉霉”AI 伪造不雅照疯传，X 临时对泰勒·斯威夫特搜索词进行“封禁”

此前 霉霉（Taylor Swift）就被 Deepfake 技术制作了大量的虚假不雅照片，这些照片在社交媒体上被大量传播，浏览量已经达到千万级别。尽管最早传播这些图片的账号已被封禁，但照片的流传仍未彻底阻断。因此，X 平台在上周六启动了史无前例的举措 —— 官方暂时阻止任何对泰勒・斯威夫特的搜索。

通过《华尔街日报》得到了 X 业务运营主管 Joe Benarroch 的确认：

这是一项临时行动，我们会非常谨慎地完成，因为我们在这个问题上优先考虑安全。

以及微软 CEO 萨蒂亚・纳德拉（Satya Nadella）在接受 NBC 新闻采访时对此事件发表了看法：

是的，我们必须采取行动…… 我认为，当网络世界成为一个安全的世界时，每个人都将因此受益，我们有必要在这方面迅速采取行动。

事情的起源是霉霉与美国 NFL 橄榄球运动员 Travis Kelce 的恋情被曝光。自从他们的关系被公开之后，霉霉经常出现在堪萨斯城酋长队的比赛中。然而，有些人却利用这个机会，通过AI技术制作了一系列以球场为背景的露骨照片，这些照片涉及霉霉和多名虚构的“队员”。英国《每日邮报》报道称，这些Deepfake照片最初被发布在一个充斥着大量知名人士不雅照片的不良网站上。

404Media 声称，X 上传播的泰勒・斯威夫特 AI 虚假“不雅照”部分是由 Microsoft Designer 工具创建的。微软回应称，该公司“无法重现这些报告中的露骨图像”。不过微软强调：“出于谨慎考虑，我们已采取措施，加强文本过滤提示并解决滥用服务的问题。”

如果随着AI技术的不断发展，缺乏有效的监管和约束，这种滥用AI技术的情况可能会变得更加普遍。不仅名人，普通人的隐私和安全也可能受到威胁。