戴元初：大语言模型赋能国家治理的逻辑
作为新质生产力基础动因的大语言模型对媒介化社会的深度转型形成强刺激，在市场业态、信息阶层以及文化产业等方面激发全域变革。从内向协同和外向竞争两个方面看，这种革命性刺激分别引发了技术赋能下的治理结构变动和技术赋权下的治理权隐性置换。山东大学新闻传播学院戴元初教授在《国家治理》撰文指出，面对这一全新格局，国家治理体系的升级与升维势在必行，需要重点从优化顶层战略设计、推进战略资源布局、重建治理尺度以及注重素养培育等方面展开应对。
△ 点击标题查看全文
基于大语言模型技术的ChatGPT类应用蜂出并作，正在开创互联网空间新生态，成为社会全方位深度媒介化的重要动力。社会的深度媒介化进阶路向，也是一个新兴技术在多元社会场域中不断链接关系、配置资源、分配权力的过程，它为信息和意见的传播创设了全新的范式和工具，既促进了传播主体、内容和媒介的深度一体化，使得社会信息生成与传播更加高效和个性化，也改变了人们的社会对话和交流方式，引发社会关于人机交流问题的新讨论。与此同时，其在舆论场中意见表达的类人际传播，也在很大程度上影响着主流舆论影响力的形成和拓展，进而牵引着整个人类社会物质生态和精神生态的变动与发展。就此而言，深度媒介化时代的大语言模型已然成为新质生产力的基础动因之一，其技术上的每一次突破，都构成新质生产力逐步形成的重要动力，引发社会生产生活方式的深度变革，促进整个社会治理方式和理念的巨大转变。本文回应新质生产力创生的时代呼唤，基于大语言模型技术对社会深度转型刺激的分析，探寻大语言模型技术进化背景下国家治理体系现代化的可能路径，以期深化对这一问题的研究。
作为新质生产力基础动因的大语言模型对社会深度转型的刺激
市场业态变革——技术红利释放与数据垄断隐忧
市场是新生产力要素最敏感的触发器。全球大语言模型技术迅猛发展，OpenAI和谷歌作为超级企业位居市场头部，Meta借助开源方式快速追赶，阿里和百度等国内头部科技企业、百川智能等新兴创业公司、科大讯飞等传统AI企业与各大科研院所同样正加速相关领域研究。创新是新质生产力的核心，产业是其载体。作为一种市场前景光明的前沿技术，大语言模型的持续开发及其愈加丰富的功能支持，借助高度发展的互联网媒介环境，市场需求日渐旺盛，进而推动企业数字化转型和产业链结构重塑，引领业态多元变革，目前已在政务、电商、新闻等信息传播工作场景中有着较为广泛的探索，如腾讯曾向全球开源的“新冠肺炎AI自查助手”，将医学指南转化为通俗易懂的对话，辅助公众自查感染风险与指引防范。
就市场业态全局来看，大语言模型训练对算力资源消耗巨大，开发的高门槛加之资源、技术和资金等方面的入场壁垒造成市场排他，其参数设置的不透明化趋势，阻碍了多元企业的市场涌入，削弱信息传播的多样性。这种由多重壁垒形成的市场排他性不仅令信息源变得单一，其中也潜藏着数据泄漏、数据篡改以及信息真实性难以验证等传播和应用隐患。这种情况下，技术掌握者可能在资本获利冲动驱使下，依据掌握的海量用户数据深度分析，精准匹配用户偏好，构筑干扰、影响甚至改变公众信息认知与价值判断的信息茧房，形成舆情操纵。
信息阶层变革——知识流通加速与数字鸿沟扩大
大语言模型的广泛运用与快速迭代对于社会结构的深度刺激，最直观地显露于知识生产和分配领域。依托深度学习技术，经由海量语料库的预训练与调整训练，大语言模型展现出显著的信息资源整合优势，能够针对用户指令实时、高效地生成符合语境的多模态知识回答，其强大的语义理解能力又能根据用户需求逻辑推理递进对话，促使生成内容更具个性化。从PGC、UGC向AIGC的内容生产方式转变，大幅缩减多渠道信息检索的时间成本和公众知识获取的难度，社会知识流通效率提升，ChatGPT类大语言模型应用作为知识生产者的权威影响力正在逐渐形成。
然而，从信息阶层角度考虑，大语言模型技术的应用是否带来了真正的知识民主化？这一问题的答案并不明朗。20世纪90年代，美国国家远程通信和信息管理局（NTIA）发布了关于“数字鸿沟”（Digital Divide）的系列报告，公众信息与技术拥有程度、应用程度以及创新能力等方面的差异引发的社会分化问题讨论持久。沿着这一脉络，大语言模型的崛起，同样伴随着接入沟、使用沟和知识沟扩大的风险。这种风险首先表现为基于年龄结构、城乡差异等因素引发的不同社会群体接入大语言模型应用以获取信息资源的机会差异；其次是在技术使用时长与指令掌握程度影响下大语言模型应用的水平差异。
此外，大语言模型基于数据反刍与重新融合的生产方式，可能会产生内容流畅自然、语法正确却包含事实性错误的“幻觉” (Hallucination)，当类人化的大语言模型渗透到传播格局中，裹挟科学之威，资本或其他利益集团有可能利用自身对技术的影响力，生产迷惑性更强的虚假信息，影响公众舆论走向。
文化产业变革——文化智慧传承与文化工业渗透
在文化产业领域，大语言模型技术的应用已崭露头角，成为文化内容生产、传播与扩散的重要力量，为解决文化智慧传承中的各种难题开创有益思路。在内容生产层面，深度学习和多模态处理技术的结合使得大语言模型应用能够智能高效地产出多样化且具有一定个性风格的全媒介文化产品，如GPT-4可以在学习大量梵高画作的基础上创作模仿其风格的新作品。在文化传播层面，基于大规模数据集分析对用户进行实时精准画像，大语言模型能够根据用户需求定制推送内容，实现更具吸引力的个性化文化资源推送。此外，大语言模型应用采用的是类人化的交互方式和展示方式，文化交流情感连接的增强，使得文化产品更易渗透用户心灵，刺激文化认同与共鸣。
法兰克福学派代表人物霍克海默和阿多诺提出文化工业理论，批判了大众传播时代“机械复制”技术导致的文化工业化现象对公众的精神控制，标榜“大规模定制”则是人工智能时代更具迷惑性的文化工业产品的新型生产方式，虽然借由大语言模型技术指令能够快速生成符合需求的文化产品，但其本质仍是以牺牲文化原创性和创造力为生产条件。长期依赖底本挖掘批量定制文化作品，将会带来文化创新能力和社会审美水平的折损，其中隐含的新业态与文化传播版权保护的“脱节”问题亦成为亟待解决的文化产业发展隐忧。
大语言模型技术激发的社会变革与推进国家治理现代化的“结构二重性”
大语言模型技术并不只是作为中介性的中立工具催生社会各领域的深度变革，同时也是不同利益群体交互作用的平台和场域，其技术的持续升级正在悄然改变既有的治理结构和治理权分配。同时，日益成熟的国家治理体系对大语言模型的技术应用可能性形成现实的制约。换言之，大语言模型的进化与国家治理体系进步之间的双向互动呈现“结构二重性”特征。
技术赋能下的治理结构变动
当前国家和社会已然处于一个智能化程度日益提升的时代，无论治理者意愿如何，国家治理体系与智能技术纠缠式、动态性进化不可避免。技术基础设施与观念的革新绝不可能毕其功于一役，而只能是在国家治理大系统中有一个技术渗透与迭代的同步过程，在此基础上促使技术升级的核心逻辑是与国家运行的子系统保持动态呼应，以技术赋能提质增效将是国家治理体系现代化的基本推进路径。大语言模型技术作为新一代人工智能前沿技术和未来产业技术基础，其指标化、工具化、主体化趋势正在显著影响着国家治理体系的模式和机制。
所谓指标化，是指大语言模型作为推出之初就备受关注的现象级智能媒介产品，其技术发展成熟度、创新力以及在国家治理过程中的渗透程度，已成为衡量国家治理体系适应智媒时代变革能力与水平的重要象征指标。近年《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》《生成式人工智能服务管理暂行办法》等政策的制定以及2023年8月中国首批8家AI大模型通过备案正式上线为公众服务等决策引入，国家治理体系正在迅速调整以主动适应大语言模型技术的发展趋势。
从技术发展的本质来看，大语言模型技术本身仍是程序化、功能性的数字工具，在价值理性的引导下，充分挖掘技术服务于国家治理权力运作的可能性，有助于提升治理行为的效率和精准性。对于作为国家治理工具的大语言模型技术的调度程度，则主要取决于治理者对技术本身及其运作机制的认知水平。通过构建高质量的训练数据集，拥有强大数据处理能力和时效能力的大语言模型能够迅速把握海量信息的特点，并根据决策者需求进行多模态、可视化呈现，为治理决策提供智能化、定制化的依据支持。对于社会反馈、舆情信息等规模数据源的分析与处理也可以帮助政府洞察政策实施情况与效果，及时调整策略方向。通过模拟分析、预测模型等手段，大语言模型技术能够更为精准地识别潜在风险，以便治理主体提前采取相应干预和应对措施。大语言模型技术还可以作为智能助手充当政府与公众之间的智能化沟通桥梁，辅助回应常规性问题，整合和梳理民意民情，加强二者间的沟通与联系。当然，这也意味着治理结构需要面对包括数据隐私、信息安全和决策失误等新的风险和挑战。如何在确保数据安全的前提下最大程度挖掘技术工具的潜力，成为国家治理发展中的重要议题。
更进一步来说，大语言模型技术社会应用的类人化特征决定了它不仅只是作为一种指标化特征或中介性工具影响着国家治理系统的运行，同时也扮演着渗透治理全过程的主体性角色。大语言模型对多模态数据的整合和转换能力，使得复杂的政务信息得以以更加易于理解、生动活泼的语言呈现，并且能够形成类人际传播的个性化匹配，这种信息解读与服务模式为使用者创造了充满交流感、亲切感、趣味性与情景化的体验。大语言模型技术发展下诞生的新兴治理权力主体，正在培养公众了解国家发展动态、获取社会变动信息与解读信息内涵的新型媒介接触惯习。由此，ChatGPT、盘古、文心一言等大语言模型应用也成为国家治理必须重视的信源渠道。然而，随着其影响力的日益凸显，如何确保其信息生产导向不被资本逻辑操纵，防范公共利益受损，成为亟须解决的难题。
技术赋权下的治理权隐性置换
随着技术在社会中的逐步渗透和影响深化，技术赋能最终会朝着技术赋权转向。大语言模型技术一方面正在培养公众信息获取的新习惯，另一方面也为国家治理全过程智能化提供了新的中介工具，成为衡量国家治理体系现代化水平的重要指标。技术赋能的一系列连锁反应也为各类权力重新配置创造了机会，特别是在国际视野下，大语言模型引领了创新密集期，率先形成新质生产力的国家将在未来全球竞争中掌握更多的战略主动权。从这一视角出发，大语言模型技术的发展水平，特别是能否率先突破目前同质模型的能力边界，成为掌握国际传播话语权乃至维系国家治理权的关键因素。
传播政治经济学中的依附理论（dependency theory）关注全球传播宏观结构图景中的“中心—边缘”结构，就人工智能发展态势看，全球不平衡发展格局十分明显。截至2023年6月底，全球人工智能企业共计3.6万家，其中美国企业占比33.6%，独角兽企业占比45%。强势技术“中心”国掌握数据、算力、算法与技术研发主导权，中国以及诸多弱势技术“边缘”国大模型探索则呈现追随和参考海外进展的发展态势，技术路线的国际落差作用于国家发展全局，隐含着诸多治理隐忧。
其一，ChatGPT等海外大语言模型的广泛使用，使得强势技术“中心”国掌握了海量他国用户数据，这可能导致国家机密的无意泄露，增加技术“边缘”国受到控制和限制的可能性，也会造成国民个人行为信息曝光的现实困境。同时，数据的泄露亦使得其他国家更容易掌握公众的信息接受偏好和需求，加剧了用户现实认知被他者操纵的风险。其二，大语言模型技术产品的开发过程难免会嵌入研发人员的思维方式乃至国家意识形态，导致算法训练和数据选择等方面存在特定价值倾向。长期浸润在某类大语言模型营造的特定意见气候中，公众价值观念必然会受到潜移默化的影响，由此更容易认同或从属于相应的价值观念或意识形态，进而可能削弱国家治理的实际成效。其三，大语言模型等前沿人工智能技术的发展，与国家信息安全、经济发展、社会稳定等各方面休戚相关，更有可能成为国家间博弈的战略工具，个别国家可能会利用自身技术优势拓展霸权地位，通过控制关键技术和信息资源等不公平手段拖慢他国技术发展步伐，从而增强别国对其技术的依赖性，技术发展主导权受制也可能导致国家治理权在潜在层面发生转移。
大语言模型时代国家治理体系的升级与升维
数字化时代，充分调动各种数字技术，使其全面深入高效地服务于国家治理，这是国家治理体系现代化的题中应有之义。要促进大语言模型技术与应用更快更广泛地转化为国家与社会发展新质生产力的内在驱动力，以提升国家治理的效率和现代化水平，必须根据社会变革的现实趋势在国家治理体系上不断升级、升维。
优化顶层设计和整体统筹，维系国家治理信息主权
新质生产力强调的不仅是一个发展命题，也是一个改革命题，完善科技创新驱动的体制机制至关重要。一方面，从全球来看，目前中国自然语言处理、深度学习算法等多项人工智能技术发展水平居于世界前列。要充分发挥技术先发的马太效应，加快推进人工智能创新发展试验区建设，强化重点省市之间的合作联动，借助区域协同的创新力量，着力寻求关键技术的突破，开发、培育更多本土优质大语言模型应用，发挥中文语料训练理解中华文化、亲近本土用户的天然优势，以求进一步降低对外技术依赖，遏制意识形态渗透。另一方面，开源创新是人工智能产业生态建设的基石，模型源代码的公开意味着技术通用性的增强与开发效率的提升，也就意味着越能穷尽可能地满足各类常态化、场景化乃至碎片化的国家治理需求。我国长期以来始终强调构建开源创新体系的重要性，未来更应坚持以人类命运共同体理念为指引，加强国际合作，鼓励企业科学开源、适当开源，在开放式创新和自主发展之间取得平衡，促进信息资源的共享。同时，重视全球标准和规范的共建，完善开源知识产权保护机制，确保大语言模型技术的开发和应用符合国际共识，避免国家治理信息主权受到侵犯。
推进战略性治理资源布局，强化智能治理安全保障
面对国家治理体系现代化的现实需求，将大语言模型视作一种重要的战略性治理资源提早布局，对于打造智能治理优势至关重要。首先，要进一步加强人工智能和算力基础设施建设，推动大模型与国际发展水平对标，提升大模型的任务训练与执行效率。其次，要重构国家治理行动者网络，由政府核心行动者统筹，充分理解大语言模型在智能决策、智能评估、智能协同等方面的技术优势，促进这一非人异质行动者与其他行动者有效衔接，最大化激发大语言模型融入国家治理的潜力，实现资源整合。最后，将大语言模型与VR、AR等其他前沿技术相结合，创造更丰富、更加沉浸的治理参与体验，激发公众参与治理活动的积极性，推动形成人人有责、人人尽责、人人享有的治理共同体。
此外，在充分考虑技术赋能可能性的同时，也需对技术使用保持审慎态度。根据OpenAI发布的数据，运用ChatGPT生成的内容在语法和逻辑上表现出色，与人类创作作品无明显差异，但其生成的准确性却存在不确定性且模型的不透明性决定其内容难以溯源，由此，着力通过法律法规保障模型应用安全与数据安全，制定算法、数据和使用上的透明度标准，避免陷入被动的“使用—监测”，是保障智能治理安全性的前提。
以人为中心，维系技术能责平衡
其一，大语言模型对信息和文化场域生产与传播方式的重构，引导社会进入一个更深层次的人机共生时代。尽管大语言模型在判断和计算特定事务方面的能力远超人类，但其精确度仍存有不确定性，更遑论其价值判断的基本缺失。因此，国家治理完全依赖人工智能技术并不稳妥。要保障大语言模型在国家治理体系中具有高质量、高可信度，能够正确引领社会共识建构，就需要确立一个人主机辅的合作模式，利用大语言模型辅助处理重复性问题和复杂的技术问题，由人类掌握国家治理的核心控制权，二者有机结合充分发挥各自能力优势，提高国家治理效能。其二，实现社会公平正义是现代国家治理的基本价值诉求，在将大语言模型中的“数字富民”数据源作为国家治理重要依据的同时，仍需通过多种传统渠道了解“数字贫民”需求，形成覆盖全面的国家治理决策综合性数据集，同时着力推进技术使用门槛与成本下降，努力缩小数字鸿沟，帮助更多公众在大语言模型所带来的参与便利中获益，提升技术应用的人性化和治理温度。其三，利用大语言模型赋能国家治理效率提升的同时，也要为技术升级进化提供引导与支持，面对资本或意识形态操纵下的大语言模型网络空间认知对抗问题，着力培育认知对抗大模型，以满足网络空间主流舆论引领的诸多需求，进一步提升治理效度。
精进复合型人才培养，谨慎处理技术性失业问题
要使大语言模型技术更好地服务于国家治理，离不开人才和科研院所的加持。目前中国计算机视觉、自然语言处理等技术层专业实力优势明显，但在基层和应用层培养较为薄弱，特别是要在新闻传播学、文化产业管理等专业纳入大语言模型技术应用教学，着力培养既掌握专业理论又具备技术思维和实践能力的复合型人才，为大语言模型在国家治理层面的落地应用拓宽专业视野。此外，大语言模型技术使用的深化在为国家治理赋能的同时也孕育了新的治理职责，最终可能在知识重复性和内容强依赖行业引发失业威胁，对社会公平和民众福祉提出挑战，若不能及时有效地解决相应问题，很可能会挫伤公众对人工智能技术运用于国家治理的信心，基于此，国家层面需出台兜底性失业保障政策，积极加大就业培训，鼓励促进再就业，以维护社会稳定，防范智能治理引发的“后顾之忧”。
人类历史上的每一次重大科技进步，都会引发潮水般的舆论泡沫，惊惧与惊喜往往交相呈现，大语言模型亦复如是。从国家治理角度看，认识到其作为新质生产力推进动因的价值和潜力，探讨问题、发现机遇，远比在好莱坞电影式思维下形成技术落后的恐慌想象要更有价值。可以预见，伴随大语言模型技术的不断升级和应用场景的持续扩大，它对于国家治理将会带来愈加广泛且深入的影响。然而，国家治理的有效与否并非单纯依赖治理工具的智能化程度，更关键的是形成与时俱进的科学治理思维，围绕治理的价值目标做出最为恰当合理的选择，才能在顺应发展逻辑和规范建设的基础上，让新技术真正作用于解放和发展生产力，从而不断提升国家治理现代化水平，引领人机协同治理的新时代。
【本文系国家社科基金重大项目“文明交流互鉴视域下全球传播新格局建构研究”（项目编号：21&ZD313）和国家社科基金项目“社会时空视角下媒体深度融合的发展策略与理论路径研究”（项目编号：21BXW003）阶段性研究成果；山东大学新闻传播学院博士生赵一梅对本文亦有贡献】
更多内容，请点击封面购买杂志
△国家治理高峰论坛精彩回顾（请滑动查看）
来源 | 《国家治理》2024年第6期
原文标题 | 大语言模型赋能国家治理的逻辑进路
作者 | 山东大学新闻传播学院教授 戴元初
原文责编 | 程静静
新媒体编辑 | 王 洋
更多精彩文章，欢迎关注《国家治理》杂志、国家治理网及人民论坛网！
声明：《国家治理》原创内容，任何单位或个人转载请回复本微信号获得授权，转载时务必标明来源及作者。
点击关注我们