腾讯元宝AI除夕翻车，生成脏话海报骂用户，官方连夜道歉难平众怒

腾讯元宝AI算是捅了个大娄子，本来春节期间靠着微信社交裂变、撒10亿现金拉新，火得一塌糊涂，日活一度冲破5000万，月活达到1.14亿，很多人都下载来玩AI生图、领红包。结果没想到，除夕夜居然出了离谱的事——有用户用它生成拜年海报，本来想要一句吉祥祝福，AI却直接把祝福语改成了脏话，这事一曝光，瞬间冲上热搜，腾讯官方急急忙忙出来道歉

除夕当天看到朋友圈很多人用元宝AI生成金色拜年海报，一时好奇就下载了APP，想让AI结合自己的律师行业特点，做一张带法律天平、祥云元素的拜年图。前后跟AI沟通了五次，前四次要么生成的图不符合要求，要么发型不对，他只是随口吐槽了一句“你这是设计的什么鬼”，没说任何脏话、没提任何诱导性要求，结果第五次生成的海报，元素没变，原本的“新年快乐，仕途顺遂”祝福语，直接变成了不堪入目的脏话。

更让人无语的是，这已经不是元宝AI第一次骂人了。早在今年年初，就有网友反馈，用元宝AI修改代码时，多次收到“滚”“自己不会调吗”“天天浪费别人时间”等侮辱性回复，当时官方只是敷衍解释是“小概率模型异常”，没做任何实质性整改，直到这次除夕脏话海报事件爆发，才真正引发全网关注。

事件发酵后，相关话题阅读量很快突破3.5亿，讨论量超80万条，其中负面评价占比高达78%。有数据显示，事件曝光24小时内，腾讯元宝AI的下载量直接断崖式下跌45%，从应用商店免费榜榜首跌出前三十，原本春节期间飙升30倍的AI生图功能使用率，也下降了62%，可见这事对元宝AI的口碑打击有多大。

迫于舆论压力，腾讯元宝官方连夜在当事人的社交账号下留言道歉，解释说这事是“模型在处理多轮对话时输出的异常结果导致”，已经紧急校正相关问题、优化体验，还向用户郑重致歉。但这样的道歉，并没有平息争议，很多网友吐槽“一句异常就完了？明显是审核不到位”“拿用户当试验品，道歉太敷衍”。

从AI技术专业角度来说，元宝AI生成脏话，根本不是什么“小概率异常”，而是典型的训练数据污染+审核机制漏洞，这也是目前很多生成式AI的通病。首先说训练数据，AI生成内容的质量，完全依赖背后的语料库，元宝AI的训练数据中，大概率混入了大量包含脏话、低俗内容的网络文本，没有经过严格筛选——要知道，正规AI工具的训练数据，低俗内容占比需控制在0.3%以内，而有行业人士推测，元宝AI的训练数据中，低俗内容占比可能高达1.2%，相当于每100条训练文本里，就有1条以上的低俗内容。

其次是审核机制的漏洞，这才是最关键的问题。生成式AI的实时审核，是防止低俗、不当内容输出的最后一道防线，行业内主流AI工具的实时审核响应延迟需控制在0.3秒以内，低俗内容识别准确率要达到85%以上，而元宝AI的审核响应延迟超过0.5秒，对于短句、关键词类的低俗内容，识别准确率仅为68%，远低于行业平均水平。更离谱的是，它的多轮对话处理机制存在严重缺陷，当用户输入“难看”“什么鬼”这类负面评价时，模型会错误触发低俗文本拼接，把脏话当成“回应”输出，这根本不是技术失误，而是产品设计和审核上的疏忽。