声音 | 众学者谈ChatGPT与社会科学：应用、监督与展望

中国社会科学网语言服务

2024-09-04

点击上方“语言服务” 可以订阅

在ChatGPT横空出世一年后，《自然》杂志首次破格将ChatGPT这位“非人类”列为全球重大科学事件中的十位人物之一。对于社会而言，ChatGPT最大的贡献也许在于它不仅使人望见生成式AI巨大的发展空间和潜力，还使得这种能力触手可及、让未来到来。在行业内“炼大模型”发展如火如荼的同时，ChatGPT也快速渗透了学术界，几乎所有学科的研究和教学中都能看到其身影。学界期待建立起更科学完善的框架，监管好生成式AI这把“普罗米修斯之火”，以期将人们带向更光明智慧的远方。近日，中国社会科学网采访了首都经济贸易大学副校长陈彦斌、中国人民大学交叉科学研究院院长杨东、中国社会科学院新闻与传播研究所所长胡正荣、中国社会科学院文学研究所副所长安德明、华南农业大学外国语学院院长黄国文、郑州大学信息管理学院原院长臧国全、北京师范大学文学院教授赵勇、南开大学法学院副院长陈兵、南开大学经济学院教授李磊等多位来自不同学科领域的学者，倾听他们对于ChatGPT的应用、发展等相关话题的看法。

中国社会科学网：在短短一年的时间里，ChatGPT已经渗透到各类学科研究中。您是如何使用ChatGPT的？您对ChatGPT在学术中的应用持怎样的态度？

李磊：自ChatGPT发布以来，其强大功能吸引了大量用户，我也开始不断了解并运用ChatGPT，将其作为一种辅助学习工具使用。我身边的学者朋友有对ChatGPT持乐观态度的，也有持保留态度的。他们大多数是将ChatGPT作为一种检索工具，以快速获取所需的学习资料和指导。我对ChatGPT在学术中的应用持中立的态度，一方面，应做到在一个规则框架下使用ChatGPT，发挥其最大化效用；另一方面，应做到全面看待并分析其利弊，在拥抱科技、享受ChatGPT给生活带来便利的同时，减弱其负面影响。
陈彦斌：我使用ChatGPT比较少，但我的学生们使用得要稍微多一些。相对于传统搜索引擎，ChatGPT能够帮助研究者尽快地了解一个新概念、新方向和新领域，同时其强大的文本分析能力和文章措辞修改能力，对于研究者也有较好的帮助。用好ChatGPT，能让研究者提高研究效率，达到事半功倍的效果。但是，研究者不能对ChatGPT产生依赖性，否则有可能会减弱甚至失去独立分析思考能力。研究者要有创新思维，在已有知识和前人研究的基础上发现新的问题并给出新的答案，这是ChatGPT难以取代的。除此之外，对于ChatGPT所提供的答案，要规范引用，要避免ChatGPT带来的知识产权问题。
杨东：我认为合理运用ChatGPT的关键在于明确其功能定位，并理解它是一个文本生成模型，它能够提供信息和建议，但其准确性和专业性都有待商榷。在ChatGPT大模型的发展背景下，未来要注重推进数据要素的开放，发掘数据要素的价值利用。全面的数字化发展，根本上还是需要有新的数据要素的开发、数据要素的价值利用，以及数据价值的金融化实现。我们在面向未来时，必须要考虑到ChatGPT带来的新的组织问题、新的结构、新的市场生态体系，这其中数据要素、数据基础设施都是重中之重。
臧国全：ChatGPT为研究者提供了有力的研究工具，它能够通过语言理解和生成，提高检索结果的准确性和相关性，从而优化信息获取的效率。通过ChatGPT智能的文本理解，有助于构建更智能化、自适应的知识管理系统，提高知识的获取和分享效率。在信息抽取和文本挖掘方面，ChatGPT通过模型的自动学习和生成，可以发现隐藏在大量文本中的关键信息和模式，为决策提供更全面的支持；同时，也有助于深入理解和应对信息隐私与数据安全的挑战，提供更精准的决策支持。
然而，在应用ChatGPT时，我们必须审慎考虑伦理和隐私问题，确保研究过程中的公正性和透明度。ChatGPT的使用应该与传统的学术方法相辅相成，而非取代传统，以确保科研的全面性和有效性。

中国社会科学网：有人认为，假以时日，ChatGPT可以取代大部分的文书性工作，您如何看待这种观点？

安德明：这是必然的趋势。据说莫言和刘慈欣，都曾利用ChatGPT来写作颁奖词或发言稿，而且都认为这个工具的文章写得不错。另外，在美国、加拿大等国家，不少大学教授已经普遍借助ChatGPT来处理一般性的电子邮件回复等工作。这主要是因为文书性工作具有更多的程式化特征，所以更容易被AI产品所取代。相对而言，那些需要高度创造性、复杂情感与思维能力的工作，至少在一段时间内还是人类的专利。
黄国文：ChatGPT可以取代大部分的文书性工作，这是事实。但是，这类文书性工作都是比较普通的，或者说是格式化的、形式化的、基础性的、大众化的，这是因为ChatGPT所生成的文本是基于大量的数据（语料）和AI的记忆。ChatGPT在短期内无法生成个性化明显的、文学意义上“变异”的文本。或者说，真正有创造性的、个性化特点鲜明的文本，ChatGPT目前是无法生成的，这是它生成文本的基础所限定的。
胡正荣：以ChatGPT为代表的生成式AI大模型具备基于大数据的、多模态的生成能力，可以为人类生成出大量的多模态文本，这些文本都是基于输入给大模型的数据，根据预训练而生成出来的。由于其只是生成式AI，因此，ChatGPT不能取代大部分的文本工作，只能为人类需要提供更多选择、更多优化、更多可能的多模态文本。为了适应人类的差异化、场景化、个性化等需求，仍然需要人类对生成的文本结果进行修正与优化。
李磊：ChatGPT是一个大型语言模型。大型语言模型是指一种能够以类似人类语言的方式“说话”的工具，可以通过分析大量的文本内容并学习语言使用的模式来工作。大型语言模型未来的发展一定会变得更加高效、便捷，但其发展的落脚点仍是辅助人类工作，帮助人类高效完成当前的工作内容。
因此，不可否认的是，面对大型语言模型的发展，一些工作会被取代，包括一些数据处理、文本分析类的非常规工作任务，如媒体工作者、法律工作者的工作。但其创造的经济增长潜力和补充的新兴岗位都会创造新的就业需求。反观前三次工业革命中，不少人所担忧的大规模失业并没有真正到来。因此我们无需过分担忧ChatGPT对就业的影响。
臧国全：我认为一些重复性较高、规模较小的工作可能会受到影响，部分工作可能会被ChatGPT取代，从而对就业率产生一定影响。此外，对于涉及批判性思维和复杂任务的工作，ChatGPT或许无法直接代为完成，但它能够通过增强生产力为劳动者提供帮助。因此，在引入新兴技术的同时，需要关注社会的就业变革，采取相应的政策和措施，确保技术的发展与社会和谐发展相一致。同时，新兴技术的发展通常也带来新的就业机会和创新方向，这需要政府、企业和学术界共同努力，通过培训和教育，使人们具备适应新技术环境的能力，从而实现技术发展与就业率的平衡。

中国社会科学网：您认为AI行业未来发展对经济有怎样的影响？您是否看好它成为下一片蓝海？

陈彦斌：AI行业对经济的影响是复杂的。从长期来看，AI行业的发展对于提升经济增长动能能够起到一定的作用。其一，AI的快速发展作为一种技术上的进步，有助于提高全要素生产率，为经济发展提供新动能。其二，AI有助于提高资本的利用效率，激活数据要素潜能。其三，AI有助于缓解人口老龄化下劳动力不足的压力。其四，AI发展有利于帮助传统产业完成转型，同时促进高新技术产业的发展，加快产业结构的升级。但是，AI行业发展也会带来一定的潜在不利因素，需要加以关注并出台相关政策来应对。一方面，AI影响经济的广度和深度，尤其是对于劳动力的替代性，预计将超过以往任何一次技术革命。尤其是中低技能劳动者可能会面临工作被部分替代甚至完全替代的风险，重新寻找工作的难度要比工业经济时代难度更大。另一方面，AI技术大多掌握在少数大企业手中，所带来的经济效益主要是被这些大企业获得，这就会进一步加大贫富差距。因此，政府要出台相应政策，避免AI发展对中低技能劳动者群体的就业产生过度冲击，同时要完善收入和财产分配制度，尽量规避AI对经济社会发展的不利影响。
陈兵：随着AI应用范围的不断扩张，其在教育、医疗、养老、环境保护、城市运行、司法服务等领域的广泛应用，不仅能够极大提高公共服务精准化水平，全面提升人民生活品质，而且也有助于形成新的消费需求。在全球经济下行、世界格局深刻变化的背景下，国际竞争愈发激烈，土地、劳动力、资本、技术等传统生产要素的刚性约束愈发凸显，经历疫情过后，数字经济已经成为了全球经济新的增长点和竞争点所在。基于互联网数字技术的科技创新成为了不受刚性约束的重要生产要素。
然而，由于AI是一种新兴的技术，也使得AI相关行业发展存在不确定性带来的挑战，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。
至于AI相关行业领域是否能够成为下一片“蓝海”的问题，虽然AI行业作为新兴的领域，确实充满巨大的发展空间和潜力。但是，AI行业也可能面临恶性竞争的情况，因为目前AI相关领域具有巨大的盈利空间，会吸引大量甚至过量的企业参与竞争，尤其是一些科技巨头为在AI行业谋取垄断利润，可能会凭借其在数据、技术、资本等方面的优势，进行垄断或排除、限制竞争。因此，若缺乏合理有效的市场监管，AI行业也可能由“蓝海”转变为“红海”。

中国社会科学网：您看好GhatGPT带来的AI行业风暴吗？

陈彦斌：ChatGPT的出现，提高了AI技术的普及度，使得人们认识到AI在日常生活和工作中的潜在价值。国内外科技巨头普遍都在加大AI领域的投入，各类新技术、新产品层出不穷，催生了新一轮的科技热潮。ChatGPT不断的快速迭代升级，确实为AI行业的发展注入了催化剂。
不过，ChatGPT能否引领AI行业形成一轮划时代的科技风暴，我个人持谨慎乐观的态度。虽然ChatGPT为AI行业发展注入新的活力，但也要看到，近些年来，诸如“互联网经济”“大数据”“区块链”“元宇宙”等新的科技名词层出不穷。其中，确实有一部分科技创新对于科技发展产生了较长时间的积极影响，但也有不少在热度过后就逐渐从人们视线中消失。因此，对于当前由ChatGPT引领的新热潮，要较为理性的看待。政府也要适当加以引导，在营造更有利于AI创新突破的市场环境的同时，还要采取相关监管措施防止科技泡沫的形成。
臧国全：我对ChatGPT带来的AI行业风暴持积极的态度，主要是因为：首先，ChatGPT以其强大的自然语言处理和生成能力，为各个领域提供了更智能、更人性化的交互方式。其次，ChatGPT的涌现催生了大量的跨学科研究和应用领域，推动了AI技术与其他学科的融合，激发了不同领域之间的合作与交流，为整个AI行业注入了新的活力。最后，ChatGPT的成功也激发了更多关于大型语言模型的研究和开发，推动了该领域的竞争和进步。
李磊：ChatGPT在走向成熟的过程中，会逐渐落地各行业领域，使得各行业迎来智能化发展阶段，不可否认这个过程会伴随各行业内部的波动和变化。以如下几个行业为例，AI应用于教育行业，可形成智能测评系统、智能教学系统、虚拟现实教育、教育机器人等工具，从而辅助教学功能，提高教学效率、进行精准教学等；AI应用于医疗行业，可通过计算机视觉技术、辅助诊断功能、互联网医院应用，从而提高诊断准确度和就医效率等；AI应用于交通行业，可形成自动驾驶技术、智能道路监控等应用，从而降低交通事故发生率、改善交通环境。

中国社会科学网：当前，有关AI立法问题在业内引发激烈讨论，您如何看待？

杨东：我认为，AI立法是必经之路。然而受制于理论创新供给不足和治理问题的复杂性，挑战和机遇并存，传统监管存在“一抓就死、一放就乱”的困境，AI可能会带来隐私侵犯、数据安全等问题。立法和发展应当是相互协调、平衡推进的过程。因此，AI产业应该立法先行，我国应当尽快出台人工智能法规，妥善处理新兴领域的监管与立法问题，建构契合时代需要的数字治理范式。
陈兵：AI作为一种前沿的技术变革和创新的商业模式带来的不确定性，也决定了其相关的立法工作会有滞后性，尤其是AI技术所涉及的行业领域极广，社会对AI的认识还处于初步阶段，相关技术和业态对经济、社会等各方面产生的影响尚未明确，理论上还不具备对AI进行综合立法的条件。不过，仍然可以在这一阶段制定促进AI发展的相关立法，通过立法明确AI发展的基本原则和促进方案，引导企业、行业健康有序发展。在2023年12月召开的中央经济工作会议中，明确提出要“加快推动人工智能发展”。等未来AI相关行业发展相对成熟时，再考虑针对AI领域进行综合性立法。

中国社会科学网：您认为未来应如何通过法律法规规范AI技术的应用？

陈兵：未来应如何通过法律法规规范AI技术，可以从三个层面展开。一是技术层面，技术是AI的核心所在，技术是否合乎标准和规范直接关系到行业的健康有序发展。因此，需要加强对AI技术的治理，逐步建立并完善AI基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准；二是法治层面，法治是AI健康持续发展的保障。需要积极构建AI未来法治体系，开展与AI应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确AI法律主体以及相关权利、义务和责任等，并加快针对AI具体应用场景的立法。三是伦理治理，伦理治理层面不仅仅是要针对AI可能引发的伦理问题进行治理，还需要将其作为一种治理的手段。一方面，AI技术应用对道德伦理产生了冲击，应明确禁止应用AI技术实施违反人类伦理道德的行为，特别是在基因工程、生命科学、情感意识等方面用法律为智能社会划出伦理道德的边界；另一方面，可通过树立AI领域正确的伦理价值、原则，实现对AI技术应用进行正确的价值引导与伦理规制，譬如建立伦理道德多层次判断结构及人机协作的伦理框架，制定AI产品研发设计人员的道德规范和行为守则等。
杨东：我认为应当通过四大科学举措推动AI发展。第一，推动数据互联互通，夯实AI发展基础。可以“共票”理论为基础，结合AI技术新场景、新设计，构建“平台、数据、算法三维结构”数据治理体系的范式革新。第二，协同管理区块链数据，夯实大模型背景下知识产权发展的基础，并借助元宇宙作为新兴流量入口，为AI技术发展提供丰富的大模型场景支撑。第三，推动数据要素基础设施和金融市场建设，优化AI发展数据生态，以“以链治链+以法入链”为导向创新AI技术规范制度。第四，优化立法，为AI发展提供法律保障。下一步应尽快出台数字经济促进法，加入科技伦理条款，增强立法的科技维度与及时性。

中国社会科学网：您认为能否利用生成式AI更高效率地讲好中国故事，传播好中国声音？

胡正荣：就生成式AI大模型而言，的确可以为讲好中国故事，传播好中国声音发挥重要的作用。第一，它可以赋能中国故事文本的生成与生产，也就是常说的AIGC（人工智能生成内容），这样可以大幅度降本增效；第二，它可以聚合中国故事的各类数字资产，形成专门的中国故事，或者中华优秀传统文化，或者中华民族现代文明的大模型。不论是通用大模型还是垂类大模型，都可以大大提升故事讲述和传播能力；第三，关键是要对此类大模型进行预训练，特别是进行此类大模型的价值对齐。这是利用生成式AI大模型讲好中国故事，传播好中国声音的基础。

中国社会科学网：当使用目前的ChatGPT去询问一些有关中国文学的内容时，会发现其给出的答案往往并不符合我们的理想回答，这或许是由于每种文化的独特性决定的。但AI是可以通过“投喂”语料不断驯化、升级的，如果您是这个软件的研发人员，未来的任务是使其更好地讲好中国故事，传播中国文化，您会教它什么？

胡正荣：生成式AI大模型是一种通用模型，因此，它更重视生成文本的广谱性和通用性。当然，个体用户与通用模型交互越多越深，得到的生成答案可能也就相对更精准，但是仍然取决于个体用户给予Prompt（提示）的能力与水平，以及大模型相关资源储备、预训练水平等等变量。而人类之间的交互，包括人与人、人与文本的交互都是具有情境性、语境性、个体差异性的，因此，感受、体验、理解的个人差异等不可言传的信息就非常丰富且多样。人类传播沟通的工具包括语言和非语言两部分，而后者发挥的作用更为重要和微妙。在讲好中国故事，传播中国文化方面，未来生成式AI大模型需要更多的数字资产喂料而成长强大，需要更精调（fine-tuning）的预训练而精确，需要更人性化的算法而精当，从而确保生成出的中国故事、中国文化文本更加适用而有效。
安德明：我曾有机会试用ChatGPT3.5版本，感觉的确有您所说的这个问题。但不容忽视的是，随着算法技术的日趋提高，ChatGPT对语言、情感精微之处的捕捉和表达能力达到甚至超过人类，大概也不是天方夜谭。因此，在它“成长”的过程中，“教给”它什么样的基本要素至关重要。
就传播中国文化来说，在以特定技术手段保证AI能够始终服从人类的前提下，我们应该从这两个方面去注意“教育”AI工具：首先，要提炼中国文化的核心要素，把这些要素及我们认为最重要、最有必要在国际社会传播的内容，“教给”AI工具，包括“仁民爱物”“和而不同”“允执厥中”“天人合一”“协和万邦”“以和为贵”等核心观念，以及文学、艺术、历史、哲学等多种文化形式及其作品。在“教授”这些内容的过程中，一定要尽可能保证知识的全面性、准确性，并通过增强AI产品的纠错机制与纠错能力，不断修正各种知识性错误。
其次，由于ChatGPT这一类AI产品具有超强的生成能力或者说创造性，因此，必须“教会”它“讲好中国故事”的方法——当然，这也是我们作为传统文化研究工作者必须认真探索、学习和掌握的方法。我认为，这种方法，应该是包含了立场、态度和技巧等诸多要素在内的一整套系统的交流理念和交流方法，具体可以概括为这样几点：和而不同的理念，互为主体的立场，平等交流的态度，天下大同（建设人类命运共同体）的目标。这些要素如果能够在AI产品中得以贯彻，将不仅意味着对中华优秀传统文化核心要素的身体力行，又必然有助于通过AI更加成功、更加有效地讲好中国故事，传播中国文化。
黄国文：要回答这个问题，可以从三个方面考虑：第一，严格地说，一些文学和文化的内容本来是不可译的，或者说无法准确翻译的，这点是文学翻译的特点。第二，在文学的语言中一些精微或微妙之处只可意会不可言传，不同的人有不同的体验。通过没有感情体验和变化的机器来翻译带有感情色彩的或表示人际意义的文本，就不容易达到一定的准确度。像比喻、谚语和很多修辞手段无论是人工翻译还是机器翻译，都是有困难的，富有挑战性的。第三，通过给机器“喂养”语料，提供特种类型的文本，让机器学习和记忆，从某种意义上讲就是驯化AI，这样就可帮助AI提高翻译水平。如果说要讲好中国故事，传播中国文化，我们应该给机器提供大量的中国故事和中国文化的高质量翻译文本，让机器跟着我们人工翻译的思路走，等到有了一定数量的语料（数据），机器就会产生与中国故事和中国文化内容相关的高质量翻译文本。“教”机器生成它不熟悉的内容，首先是要给它提供大量相关内容的文本，使它有足够的语料作为生成文本（翻译）的基础。
赵勇：我没有用过ChatGPT，所以对它回答问题的情况并不清楚。但我听过专门研究AI的一位博士生讲过ChatGPT，据他说，在问ChatGPT问题时，提问得越详细，要求越多，它生成的文本就越好，否则就是一个很一般的东西。由此来琢磨你所谓“给出的答案往往并不符合我们的理想回答”，是不是我们的提问方式有一些问题？同时我也意识到，ChatGPT是通过数据库的内容生成相关回答的，那么它给出的答案不好，是不是意味着有关“中国文学”数据库的内容还不够丰富？当然我也承认，文学问题可能也确实会让ChatGPT“头大”，因为“文学与文化”中滋生的问题并不像科学技术那样有固定答案，它本来就是见仁见智的，而由ChatGPT去解读见仁见智的问题，估计也会让它晕菜。
假定ChatGPT可以驯化、升级，那么我想教会它的可能还是辩证思维，是透过现象看本质。因为中国文化中既有精华，也有糟粕，中国故事中既有令人笑逐颜开者，也有让人肝肠寸断处，所以我要驯化ChatGPT尽可能全面、客观、公允地讲述中国故事，传播中国文化。一句话总结，要教会ChatGPT说真话，而不是一本正经地胡说八道。

本文来源：中国社会科学网

原标题为：【学术圆桌】ChatGPT与社会科学：应用、监督与展望

相关链接

声音

声音 | 清华大学李学勤教授：现在大学生的空闲时间太少了

声音 | 北大钱理群教授：中国教育的最大问题，就是连老师也不看书了

声音 | 台湾学者王汎森：人文学科做学问的关键是多写文章少参会

声音 | 为什么中国人要讲方言？这是我听过最好的答案