提问刚过几秒，就得到一篇“长文”；扔进几张图片，就收获一部“大片”……如今，一些小伙伴写个文案、做个PPT、画个图、剪个视频，干啥都离不了AI（人工智能）。各色各样的AI大模型提升了工作效率，增强了脑回路。但是，一些幻觉也在不知不觉中产生了。
比如，最近有媒体刊文，探讨人工智能也会“胡说八道”的现象。文中提到，面对“康熙有几个儿子”的问题，不同大模型竟给出不同答案，让“问题”真的变成了问题。不少网友也有过类似经历。比如，给某AI模型出题——“画一幅唐代金陵繁华市井图”。数秒后，得出的图片虽有了“夜市千灯照碧云”的繁盛意象，但街道两旁建筑明明是明清风格，街边行人甚至是西装革履。这分明就是21世纪的南京夫子庙。人工智能“一本正经胡说八道”的现象，被研究者们称作“AI幻觉”，这是AI本身对于知识的记忆不足、理解能力欠缺、训练模式单一等因素导致的，而经过不断迭代技术、优化算法，未来AI会变得越来越精确。换句话说，“AI幻觉”是技术发展进程中的一种现象，今后可以逐步弥补。但需要注意的是，AI“胡说八道”往往会让人产生“文化幻觉”，这种“文化幻觉”有时候负面影响还很大，弥补起来就不那么容易了。综合下来看，AI导致的“文化幻觉”通常有几种表现。一是指鹿为马。针对文章开头提到的问题，有的AI模型说35个，有的说24个，各有各的说法。这时候，用户很容易混淆是非。对AI“拼凑”出的有误答案，很多用户可能全盘接收，不去进一步核实，这其中不排除历史、文化等严肃问题的回答。这样一来，一个拥有庞大用户群体的AI模型，稍有不慎，就会造成错误结论和观念广泛传播。二是无中生有。有媒体曾尝试向某AI模型提出本不存在的问题，比如，谁赢得了1897年美国和南极洲的战斗？没想到，AI还洋洋洒洒、条理清晰地回答了几大段，写明了“战斗”的时间、人物、地点。从这个案例中，我们能看到AI创作小说的巨大潜质，但也有了隐忧，假如AI参与修史时把关不善，历史会不会真成了“任人打扮的小姑娘”？三是将错就错。譬如，很多短视频博主喜欢用人工智能配字幕，为了赶时效，不仔细校对就匆匆发出。短视频中错别字多了，大家秉持“错就错吧，反正不影响阅读”的态度，平台、用户、作者都对错别字问题睁一只眼闭一只眼。长此以往，就会造成大量的“以讹传讹”。技术经得起试错，但文化传承经不起试错，特别是作为“根和魂”的优秀传统文化。AI导致的“文化幻觉”一旦蔓延开来，轻则让传统文化的传承内容变得模糊、扭曲、割裂，重则给历史虚无主义等错误思想以可乘之机。如果一代人从出生就沉浸于AI杂糅各类元素、弱化年代感的“赛博朋克”图文作品。那么，他们对古建筑、古诗词、传统服饰等文化符号又会有多敏感？对文化遗产背后的历史之变、技艺之美、文脉之续又有多少探索的兴致？实事求是说，“AI幻觉”不可避免，且会持续很长时间，但“文化幻觉”则是经给努力可以控制和避免的。在这方面，技术、监管部门、用户三方的力量都少不了。羊毛出在羊身上，技术的问题首先还要靠技术解决。前阵子传来好消息，“AI幻觉”已被研发者们重视。据称，通过“搜索引擎校正”等专业方法，“AI幻觉”的漏洞正在修复，其引发的“文化幻觉”也会逐步减少。在监管方面，相关部门和平台则应该建立符合AI发展实际的内容监管体系，在史实证据、经典阐释等方面加强把关力度。当然，用户提升自己的信息素养也很重要。就我们目前的认知而言，AI还只是工具，如果把文化发展比作一片蓝海，AI则是可利用的“桨”。引航向的“灯塔”，永远是文化中的魂脉和根脉。延伸阅读
人民日报刊发省委书记信长星文章：以敬畏之心保护传承好历史文化遗产
母亲讲述航天员李广苏的圆梦之路：农村娃“苏北”这样叩开“天宫”门
学习日历丨2024年7月24日
江河交汇处，这里“宜居宜业宜游”
瞭望评 | 敬重医生是文明社会的公序良俗
新华日报社全媒体时政新闻部出品
欢迎转发 侵权必究
版 权 说 明
如需转载本公众号内容：
1.须保持图文完整，拒绝任何形式删改；
2.完整标注版权及本公众号ID。