在算法的浪潮中，唯有握紧理性的缰绳，守住安全的底线，才能让科技真正成为美好生活的得力助手。

　　微博截图

　　彩云网评特约评论员 陈长

　　近日，“不要相信豆包识别的野生蘑菇”话题登上热搜。起因是有用户使用豆包拍照识别从小区摘到的蘑菇、轻信结果食用后中毒。对此，相关平台回应称，给该用户的回复中明确提示：“极容易和剧毒的大青褶伞混淆，误食会引发严重的胃肠炎症状”“如果这几朵蘑菇是野外采摘的，强烈建议不要食用”等。

　　眼下正值野生菌上市旺季，野生菌鲜美诱惑牵动着无数食客的味蕾，却也潜藏着致命的风险。数据显示，全国已知有毒野生菌500余种，部分可食用菌与剧毒品种外形高度相似，即便是专业菌类学家，也往往需要借助显微镜等设备才能完成精准鉴别。更何况，AI大模型的训练数据里，有没有完整收录所有毒蘑菇的形态特征，本身就是个未知数。而且，蘑菇的形态会随生长阶段、光照、湿度、土壤环境动态变化，同一个蘑菇上午拍和下午拍，光线明亮和光线暗淡，AI都可能给出截然相反的结论。因此，用这样的结果判断食物的安全性，是对生命健康的不负责任。

　　有人可能会问，AI不是已经给出了风险提示吗？确实，相关平台在识别结果中附带了风险警告。但这里也存在一个心理陷阱，AI先给出“这是鸡腿菇”的肯定判断，再补充“可能有毒，不建议食用”。对不少用户而言，往往会被看似专业的“前半句”结论所吸引，而后半句则容易被当作例行“免责条款”给过滤掉。这也正是AI依赖症最危险的地方。科技越像“万能专家”，人们就越容易把判断权让渡给屏幕，独立思考也就越容易被替代。

　　事实上，类似事件并非孤例。此前，有人在AI平台预约餐厅，误将模拟信息视为预约成功凭证，与商家产生纠纷；有人轻信AI软件退机票的建议损失600元，AI承诺赔付却“爽约”……当下人工智能行业仍处在持续发展完善的阶段，大语言模型依靠海量数据学习语言逻辑与内容组合，并不具备真正的认知和判断能力，容易出现所谓的“AI幻觉”，编造出看似合理却违背事实的内容。在生活咨询等普通场景中，这类错误或许只会造成信息偏差，但落到食品安全、医疗急救等高风险领域，一点点偏差都可能酿成严重后果。

　　因此，简单附加一行参考提示，并不能适配生活中一些高风险场景的问答。对于涉及健康、急救、食品安全的问题，开发企业要扛起主体责任，拧紧安全阀，调整内容呈现逻辑。例如，在识别野生蘑菇时，系统应首先声明“无法仅凭图片确认安全，强烈建议不要采食”，而不是先给出一个似是而非的物种名称；在急救类问题上，AI应优先提示拨打急救电话、尽快就医，再补充有限的、经过验证的基础常识等。同时，可增设多重验证环节，主动对接疾控、医疗、农林等专业机构，接入权威数据库，用专业信息弥补技术不足。

　　当然，监管层面也应与时俱进。对于医疗、法律、食品等关乎公众切身利益的行业，相关部门应建立AI生成内容的风险评估与标识制度，要求平台在特定领域必须显著标注技术局限性，防止商业宣传过度美化技术能力，误导公众认知。与此同时，既然公众已经习惯“有事先问AI”，公共部门和专业机构同样需要适应这种变化，权威科普就更要主动占领这个阵地。

　　科技向善的内核，是技术始终服务于人，而非让人被动依附技术。在算法的浪潮中，唯有握紧理性的缰绳，守住安全的底线，才能让科技真正成为美好生活的得力助手。

　　彩云网评所登载的所有文章仅代表作者个人观点，与本网站立场无关。欢迎关注彩云网评，投稿邮箱yncywp＠163.com，稿费从优。