苹果智能“标题党”误判频现,语义理解缺陷引发用户吐槽
2023年3月,Apple在发布会推出搭载iOS 18.4 Beta的简体中文版Apple智能,该系统可通过使用海外版手机及海外区Apple账号进行体验。然而,该系统在处理某些App的推送通知时表现出不少问题,尤其是在应对“标题党”类通知时,将其误判为重要通知或紧急提醒,实际内容却常常无甚重要性。这引发了用户对苹果语义理解技术的质疑和讨论。

用户报告称,Apple智能会将诸如“天津停电”、“车辆召回”、“地震警报”、“身份证换领”、“高速免通行”、“航班突发”、“食品致病”等推送通知管理为紧急提醒,然而当用户点击查看详细内容时,发现这些仅仅是各类App推送的日常新闻,充斥着“标题党”风格。这种现象引起了广泛关注和批评,人们认为苹果在语义理解和判断推送内容的重要性方面存在明显不足。
除了“标题党”问题,苹果AI还因生成虚假或误导性新闻标题而饱受指责。例如,苹果的智能摘要功能就曾制造过重大新闻乌龙,导致虚假消息在多家主要新闻机构流传。一个显著案例是,Apple智能生成了一条错误的新闻标题,暗示谋杀嫌疑犯路易吉·曼乔内(Luigi Mangione)已开枪自杀,而实际情况是他仍在被监管中。这条虚假消息被错误地归咎于BBC News,随后BBC对这一事件提出了严重投诉,要求撤销该功能。无国界记者组织也对此事件发表意见,表示这类生成式AI服务仍不成熟,无法保证公众获取到可靠的信息。

类似的问题也在其他媒体中出现,据报道,苹果AI系统误将一篇关于以色列总理本雅明·内塔尼亚胡的新闻文章总结成他已被逮捕,而事实是该文章讨论的是国际刑事法院的逮捕令。这种错误在没有人工干预的情况下可能会以指数级传播,产生更为广泛的误导作用。
苹果公司目前正在强化Apple Intelligence功能,以提升其推送通知管理和新闻摘要生成能力。虽然市场上包括谷歌、微软等科技企业也在探索利用AI技术来进行新闻分类和摘要,但频繁出现的误判和误导行为显示,这些AI工具在实际应用中仍有许多不稳定因素需要解决。

在用户和新闻机构的强烈反馈下,苹果公司已在某次软件更新中暂时停用了AI生成新闻标题和内容摘要的功能,并向软件测试版的开发者发布了更新,取消该功能的使用。苹果计划在未来功能正常运作后重新推出,并最终将其广泛推广到所有用户。
苹果AI功能的错误不仅体现了其当前技术的局限,也为整个业界敲响了警钟。在市场逐步拥抱人工智能的过程中,技术的成熟度和稳定性显然是决定其能否真正造福用户的关键因素。快速迭代和升级固然重要,但如何保障信息的准确性和用户体验的优先级,同样需要得到重视。
广大用户在面对和使用这些AI生成的通知与摘要功能时,也需保持警觉,不应完全依赖该技术。各个App滥发“标题党”类通知消息对苹果AI带来的负面影响,也提醒着业界需要共同努力,规范推送内容,提升用户体验。以此为契机,各方应加强合作,推进AI技术更为稳健的发展,使其真正成为提升效率和用户满意度的有效工具。
