4. [太阳]“万万没想到!”7月20日报道,四川甘孜,一对儿来自雅安的情侣到这里旅游,上山体验采菌子。两个人都不太认识,问的AI,最终收获了10多斤。下山路上遇上个当地小孩哥,给他们筛选了一遍,就剩下2斤能吃的了!网友:AI不能信!
7月20日报道,甘孜山林里一对雅安情侣的手机相册里存着十多张菌子特写,每一张下面都有AI给出的绿色标签:可食用。
这对情侣为了尝个鲜,就上山采菌子,但是由于担心菌子有毒,便用手机AI来检测,就这样,他们在AI的提醒下,采了将近十斤菌子。
可是在下山的时候,他们遇到了一个当地小孩,小孩主动询问他们在干什么,然后帮他们区分什么菌子有毒,什么菌子没毒。
小孩拎起一朵菌盖血红、菌柄雪白的菌子看了一眼,说:这个吃了,晚上直接上西天,偏偏AI对同一朵菌子的判断是四个字:可食用红菇。
最终在小孩哥的筛选下,十斤菌子就剩下两斤了,有毒的全被扔在地上,这一幕让这对情侣感到意外,到底是该相信AI还是相信当地人,他们也很难选择,但他们不会去拿命去赌。
那朵被AI认证为可食用红菇的菌子,很可能跟真正的红菇共享了百分之八十的视觉特征:伞盖颜色、菌褶纹理、菌柄粗细,剩下那百分之二十的致命差异,藏在孢子印的颜色里,藏在菌环的有无里,藏在某种只有人类经验才能捕捉的细微气息里。
这些信息,AI的训练数据里压根就没有,换句话说,AI的百分之九十五不是安全的百分之九十五,而是无知的百分之九十五,这个区别,被太多人忽略了。
另一个角度会让这件事更加耐人寻味,这对情侣并不鲁莽,他们每摘一朵菌子都要掏出手机扫描确认,AI说能吃才放进袋子,十斤的收获,说明他们至少扫描了几十次,每一次都得到了肯定答复。
这不是大意失荆州,这是被一个系统性地误导了整个过程,系统性的误导比单次误判可怕得多,因为它会摧毁人的警惕心。
第一朵AI说能吃,你还有点犹豫;第十朵AI说能吃,你开始相信;第二十朵AI说能吃的时候,你已经彻底放弃了独立判断,这就是自动化偏见,这个东西正在菌子识别领域悄悄蔓延。
菌子认错的代价,不只是跑一趟厕所,四川、云南、贵州,每年都有菌子中毒的病例,从致幻到肝损伤,到多器官衰竭。
有的毒素是迟发性的,吃完头两天没事,第三天开始肝酶飙升,第五天人已经进了ICU,所以当地小孩那句“吃了就上西天”,不算夸张修辞,更像是一种朴素的风险警示。
有意思的是,这个小孩的筛选方法跟AI完全不同,他不是看图对比,他是直接上手,看菌褶、闻气味、掐菌柄,这些动作背后,是一个完整的多感官判断系统。
视觉、触觉、嗅觉三重交叉验证,再加上从爷爷奶奶那里传下来的经验口诀,这种知识的传递方式,在云南、四川的很多地方已经延续了上百年。
AI的识别逻辑呢?纯视觉,单模态,缺乏触感和嗅觉输入,但视觉本身只是菌子识别的一小部分,很多有毒菌子和食用菌在照片里的区别微乎其微。
比如致命鹅膏和草菇,长相高度相似,但在实物上,致命鹅膏的菌环位置、菌托形状,都和草菇有明显差异,这些差异在二维图片里往往被压缩殆尽。
AI不是不聪明,AI是被投喂的信息维度太低,就像让一个人蒙着眼睛,靠摸照片来分辨真假钞票,能力再强也没用,因为源头信息就不够,这个源头信息的缺失,正在更广泛的场景里制造麻烦。
植物识别软件把毒芹认成野芹菜的事,已经出过不止一次;健康咨询AI给的建议,有时候跟医生的判断南辕北辙;法律咨询AI引用的法条,偶尔会出现过期版本,这些都不是AI坏掉了,而是AI在设计上就没打算为高敏感决策负责。
它的定位是一个信息辅助工具,但普通用户很容易把它当成决策替代工具,从辅助到替代,这中间只有一步的心理距离,跨过去的人,通常意识不到自己已经跨过去了。
所以对于普通人来说,最理性的策略其实很朴素:不认识的东西,别往嘴里放,AI说能吃不算认识,亲眼见过、当地人吃过、吃过没事,才算初步认识。
这不是保守,这是对自己生命负责,那对雅安情侣最后还是幸运的,他们遇到了一个愿意帮忙筛选菌子的小孩,如果那天那个小孩没有出现在山路上呢?剩下的八斤菌子,大概率会被带回民宿,洗干净下了锅。
AI不会为任何一朵毒菌子道歉,它只会沉默地更新模型,然后继续给下一朵菌子贴上绿色的“可食用”标签,真正能拦住危险的,不是算法,而是一个人的判断力,而这个判断力的前提是,要知道自己不知道什么,知道自己不知道,恰恰是这个时代最稀缺的清醒。#MCN首发激励计划#信息来源:深圳新闻网