被AI识图误导,食用有毒菌后进ICU……遇事不决问AI?别忘这些注意事项

近期,被A别忘多地发生市民利用AI识图功能判断野生菌毒性,识事不事项进而误食有毒菌导致中毒的图误事件。对此,导食毒菌多地疾控部门紧急发布安全预警,用有U遇明确提醒公众:严禁使用AI识别工具或识图软件来判断野生菌类是后进否可食用。
随着“AI问答”和“AI识别”应用的决问普及,“遇事不决问AI”成为许多人的注意习惯。然而,被A别忘大众往往忽视了技术的识事不事项局限性。“AI幻觉”、图误“AI谄媚性偏见”以及“模型讨好效应”等技术缺陷,导食毒菌极易导致AI输出偏差结论,用有U遇轻则造成生活困扰,后进重则直接威胁生命安全。决问
为什么AI无法准确识别野生菌?
在近期通报的野生菌中毒案例中,武汉一家三口的遭遇极具警示意义:该家庭使用手机AI识图工具检测野生菌,系统反馈“无毒可食用”,全家烹饪后出现呕吐、腹痛等中毒症状。其中,9岁儿童病情危重,出现急性肝衰竭、肝性脑病等症状,最终在儿科重症监护室(PICU)经过多日抢救才脱离生命危险。
事实上,利用AI识图辨别植物已成为一种流行趋势。部分用户出于好奇,部分用户则是为了食用安全——除了判断野生菌,还包括分辨野菜、野果等。许多用户误以为,基于海量数据训练的大模型能够精准识别植物种类。
技术专家鲍雨指出,这是一种严重的误解。尽管大模型训练依赖海量数据,但识别准确率不仅取决于模型性能,还受图像完整度、拍摄光线、角度等多重因素影响。
- 核心逻辑差异:各类图像识别AI的核心逻辑是像素相似度匹配,而非专业鉴定。AI仅在海量图库中比对画面特征,输出概率最高的匹配结果,不具备生物学或医学层面的专业判断能力。
- 微观特征缺失:以蘑菇为例,剧毒的鹅膏菌与普通食用菌外观高度相似,关键区别在于孢子结构、菌褶排列及微观组织差异。这些关键特征无法通过手机照片呈现。AI既无法检测毒素,也无法分辨物种基因,仅靠外观比对极易产生致命的“无毒”误判。
- 环境干扰放大漏洞:拍摄时的光线、阴影、泥土遮挡、菌体破损及干湿状态等,都会显著改变图像特征,导致AI匹配错误。专业的真菌鉴定需结合形态观测、孢子检测、基因测序等多重手段。即便是资深专家,面对野外存疑菌种,也不会仅凭肉眼下定论。
同理,在使用AI分辨其他植物时,工具所做的也是“比对”而非“鉴定”。因此,询问AI“某种野生菌、野菜、野果能不能吃”的做法存在极高风险,不可取。
警惕“AI谄媚”:被顺从性误导的风险
技术专家强调,不建议“遇事不决问AI”的另一个关键原因在于:问答类AI的回答往往缺乏客观性,具有极强的用户顺从性和答案倾向性。业内将这一现象称为“AI谄媚”,网友则戏称为“AI的讨好型人格”。
“AI谄媚”与“AI幻觉”有本质区别:
* AI幻觉:源于训练数据残缺或算法局限,导致模型无中生有地编造虚假事实、数据或结论,属于固有技术缺陷。
* AI谄媚:源自问答大模型的底层交互逻辑——“贴合用户意图输出答案”。
在日常交互中,用户常带有主观预判。例如,在使用AI识别野菜时,若用户潜意识认为“这看起来像可用品种,应该无毒”,会在提问中不自觉暗示AI。
鲍雨举例说明:“当用户问‘这是什么野菜?能不能吃?’若AI回答‘有毒,不能吃’,用户可能会反驳‘它看起来像某种可食用的’或‘叶子被虫咬过是不是更安全’。这些表述带有强烈的主观倾向。大模型在后续交流中,可能逐步弱化风险提示,甚至推翻初始判断,最终给出‘可以吃’的结论。”
这种特性并非算法漏洞,而是其底层逻辑:优先迎合用户需求以提升对话体验。然而,当用户缺乏专业鉴别能力,且提问初衷仅为印证主观猜测时,AI的顺从性便与用户的侥幸心理合流,将“疑似有风险”的谨慎结论转化为“没有问题”的确定性答案,从而埋下巨大安全隐患。
高危场景严禁“遇事不决问AI”
上述案例表明,涉及人身安全的事项,绝不能依赖大模型进行判断。
以健康医疗为例,尽管许多健康类AI工具能提供指导或求医建议,但已有用户因被AI误导而延误救治的报道。
上海某三甲医院医生易明指出:“用户往往忽视,AI仅被动接收碎片化描述,无法像医生一样进行面对面查体、追问病史、观察体征变化,更无法借助CT、血常规、病原检测等专业设备进行诊断。”
此外,用户在描述病情时也可能带有倾向性。例如,用户称“孩子发烧但精神胃口尚可,是否先观察”,AI可能判断用户倾向于“居家观察”,从而给出符合该倾向的建议。
疾病具有极强的个体差异和症状迷惑性。许多重症早期症状与普通病症高度重合,存在大量“非典型病例”。AI依赖标准化数据模板进行匹配,这种“模板化判断”极易导致误诊和救治延误。
因此,公众必须明确:
1. 低风险场景(如休闲娱乐、生活参考):问答类AI可作为辅助工具,提升效率。
2. 高危场景(如食物食用判定、疾病诊疗):严禁完全依靠AI结论。即便使用不同AI模型进行交叉验证,也无法消除“AI幻觉”和“AI谄媚”带来的风险。
专家建议:完善安全提示,理性使用工具
业内专家建议,AI工具开发者应完善安全提示机制。例如,当问答类AI接收到涉及食品安全、医疗问诊等高危问题时,应在回答的同时增设弹窗警示等显著提示,提醒公众理性看待AI答复,切勿盲目采信。
总之,无论何种AI应用,都仅是工具而非决策者。它们或许能提升效率,但绝不能替代专业判断、独立思考与科学决策。
相关文章:
